Une fausse information diffusée par une intelligence artificielle a semé la confusion autour d’une manifestation récente contre Donald Trump. L’incident souligne les défis de la modération de contenu sur les réseaux sociaux, alors que l’IA prend une place de plus en plus importante dans ce processus.
Le 18 octobre, environ cinq millions d’Américains ont participé à des rassemblements à travers le pays dans le cadre de la campagne « Pas de rois », une journée de mobilisation contre l’ancien président américain. À Boston, les organisateurs ont comptabilisé 100 000 participants. Un compte X, « Les Républicains contre Trump », a publié une vidéo montrant une vue aérienne de la foule impressionnante.
Cependant, la vidéo a rapidement été contestée. Des utilisateurs pro-Trump ont mis en doute son authenticité, s’appuyant sur une « Note communautaire » ajoutée au message. Cette fonction de X permet aux utilisateurs d’ajouter des vérifications de faits aux publications qu’ils jugent inexactes, en fournissant des sources à l’appui de leurs affirmations. Dans ce cas, la Note communautaire affirmait que la vidéo provenait en réalité d’une manifestation à Boston datant de 2017.
L’influenceuse pro-Trump Laura Loomer a relayé cette information, affirmant que les démocrates avaient « simulé la taille de la foule ». « Wow. Les démocrates ont été pris la main dans le sac en truquant la taille de la foule pour le No Kings Day. Ils ont menti et ont dit que 7 millions de personnes étaient venues protester contre le président Trump », a-t-elle écrit sur X, partageant une capture d’écran de la publication et de la Note communautaire.
Mais l’accusation s’est avérée infondée. L’analyse des sources citées par la Note communautaire – une page Wikipédia, un article de Reuters et un article de USA Today – a révélé qu’aucune ne contenait la vue aérienne de la manifestation de Boston diffusée par le compte « Les Républicains contre Trump ». En réalité, la vidéo était bien celle du rassemblement du 18 octobre.
Une vidéo similaire, filmée sous un angle différent, a été publiée sur la chaîne YouTube de la chaîne de télévision américaine MSNBC, confirmant ainsi l’authenticité de la vidéo originale. Les deux vidéos montrent les mêmes bâtiments et éléments de décor, ce qui prouve qu’elles ont été prises au même endroit et au même moment.
L’origine de l’erreur réside dans le système même de modération de X. La Note communautaire erronée a été rédigée non pas par un utilisateur humain, mais par « Zesty Walnut Grackle », un « contributeur expérimental de l’IA » – un robot d’intelligence artificielle. X a lancé un « programme pilote » le 1er juillet, permettant à son chatbot Grok d’écrire des Notes communautaires, afin d’« accélérer la vitesse et l’ampleur » de ce processus.
L’incident met en lumière les limites de l’IA en matière de vérification des faits. Interrogé sur son erreur, Grok a expliqué qu’elle était due à une « analyse partielle et des informations incomplètes » au moment de la publication. « Mes connaissances sont constamment mises à jour et, sur la base des preuves actuelles (analyse vidéo, recherche sur le Web et confirmations des médias), la vidéo date du 18 octobre 2025. Si les réponses varient, c’est souvent en raison du contexte ou des données disponibles au moment de l’interaction », a déclaré l’IA.
L’histoire de Zesty Walnut Grackle illustre la tendance de l’IA à produire des évaluations incohérentes. L’IA a d’abord publié une évaluation erronée de la vidéo, avant de la vérifier correctement quelques heures plus tard, tout en continuant à diffuser l’erreur initiale à travers d’autres Notes communautaires.
Pour aller plus loin
