Une décision d’Elon Musk X Plateforme de médias sociaux pour enrôler des chatbots d’intelligence artificielle pour rédiger des risques de chèques de faits augmentant la promotion des «théories de mensonges et de complot», a averti un ancien ministre de la technologie britannique.
Damian Collins a accusé la firme de Musk de «laisser les bots pour modifier les nouvelles» après que X a annoncé mardi qu’il permettrait à de grands modèles de langue d’écrire des notes de communauté pour clarifier ou corriger les publications litigieuses, avant que les utilisateurs ne les approuvent pour publication. Les notes ont déjà été écrites par des humains.
X a déclaré que l’utilisation de l’IA pour rédiger des notes de vérification de fait – qui se trouvent sous quelques articles – «fait progresser l’état de l’art dans l’amélioration de la qualité de l’information sur Internet».
Keith Coleman, le vice-président du produit de X, a déclaré que les humains examineraient les notes générées par l’AI et que la note n’apparaîtrait que si des personnes ayant une variété de points de vue l’ont trouvé utile.
“Nous avons conçu ce pilote pour aider l’IA à aider les humains, les humains décidant”, a-t-il déclaré. «Nous pensons que cela peut offrir à la fois une qualité et une haute confiance. De plus, nous avons publié un article avec le lancement de notre pilote, co-écrit avec des professeurs et des chercheurs du MIT, de l’Université de Washington, de Harvard et de Stanford expliquant pourquoi cette combinaison de l’IA et des humains est une direction prometteuse.»
Mais Collins a déclaré que le système était déjà ouvert aux abus et que les agents de l’IA travaillant sur les notes de la communauté pourraient permettre «la manipulation industrielle de ce que les gens voient et décident de faire confiance» sur la plate-forme, qui compte environ 600 millions d’utilisateurs.
Il s’agit du dernier recul contre les chèques de faits humains par les entreprises technologiques américaines. Mois dernier Google a déclaré des carrefours créés par l’utilisateury compris par des organisations professionnelles de cocheur, serait prioritrice dans ses résultats de recherche. Il a déclaré que ces chèques «n’offraient plus de valeur supplémentaire significative pour les utilisateurs». En janvier, Meta a annoncé qu’il se débarrassait des chèques de faits humains Aux États-Unis et adopterait son propre système de notes communautaires sur Instagram, Facebook et Threads.
Le document de recherche de X décrivant son nouveau système de vérification des faits a critiqué la chronométrage professionnel aussi souvent lent et limité et a déclaré qu’il “manque de confiance par de grandes sections du public”.
Les notes communautaires créées par AI-AI «ont le potentiel d’être plus rapide à produire, moins d’efforts pour générer et de haute qualité», a-t-il déclaré. Les notes humaines et écrites en IA seraient soumises dans le même pool et les utilisateurs de X voteraient pour lesquels étaient les plus utiles et devraient apparaître sur la plate-forme.
L’IA rédigerait «un résumé neutre bien appris», a indiqué le document de recherche. La confiance dans les notes de la communauté «ne découle pas de qui rédige les notes, mais des personnes qui les évaluent», a-t-il déclaré.
Mais Andy Dudfield, le chef de l’IA à l’organisation de cocheur de l’intervalle britannique, a déclaré: «Ces plans risquent d’augmenter le fardeau déjà significatif pour les examinateurs humains pour vérifier encore plus de notes, ouvrant la porte à une situation inquiétante et plausible dans laquelle les notes pourraient être rédigées, révisées et publiées entièrement par l’IA sans l’examen attentif que la contribution humaine fournit.»
Samuel Stockwell, un associé de recherche au Center for Emerging Technology and Security à l’Alan Turing Institute, a déclaré: «L’IA peut aider les chèques de fact à fournir en toute confiance des réponses qui semblent persuasives même lorsqu’elles sont fausses.
Les chercheurs ont découvert que les gens perçoivent Les notes de la communauté sont beaucoup plus fiables que de simples drapeaux de désinformation.
Une analyse de plusieurs centaines de messages trompeurs sur X à l’approche de l’élection présidentielle de l’année dernière a révélé que dans les trois quarts des cas, des notes de communauté précises n’étaient pas affichées, ce qui indique qu’ils n’étaient pas votés par les utilisateurs. Ces postes trompeurs, notamment les affirmations selon lesquelles les démocrates importaient des électeurs illégaux et que l’élection présidentielle de 2020 a été volée, Amassée plus de 2 milliards de vuesselon le Center for Counter Digital Hate.
Pour aller plus loin
