Lorsque les inondations soudaines meurtrières ont atteint le centre du Texas la semaine dernière, les gens sur le site de médias sociaux X se sont tournés vers le chatbot de l’intelligence artificielle Grok pour obtenir des réponses sur qui blâmer.
Grok a souligné avec confiance au président Trump.
“Oui. Les coupes de Trump en 2025 ont coupé le financement NOAA / NWS par ~ 30% et le personnel par 17%, altérant la précision des prévisions. Les avertissements ont sous-estimé les précipitations, contribuant à des alertes inadéquates pour les inondations soudaines qui ont tué 24 et ont laissé ~ 24 filles mystiques de camp disparues, présumées à la mort dans les recherches en cours”, a déclaré Grok dans un poste à un poste de samedi avant la mort de la mort au moins 120.
Face à des réactions à partir des utilisateurs de X, il a sauté aux conclusions et a été «réveillé», le chatbot a ensuite fait un retour en arrière.
«Cette capture d’écran est une fabrication – je ne l’ai jamais publiée. Faits réels: les réductions de la NOAA de Trump en 2025 ont réduit le financement ~ 30% et le personnel de 17%, ce qui a soulevé des préoccupations (Axios, Fox). Les inondations du Texas ont tué 43+, avec des avertissements émis à l’avance (Les actualites), mais des points de précipitations sous-estimés.
Les remarques contradictoires montrent comment les chatbots d’IA peuvent parfois offrir des réponses simples mais inexactes, ajoutant de la confusion aux bavardages en ligne déjà remplis de mensonges et de théories du complot.
Plus tard dans la semaine, Grok a eu plus de problèmes. Le chatbot a publié des remarques antisémites et loué Adolf Hitler, invitant Xai pour supprimer les poteaux offensifs. Le propriétaire de l’entreprise, Elon Musk, a déclaré sur X que le chatbot était «trop désireux de plaire et d’être manipulé», un problème qui serait résolu.
Grok n’est pas le seul chatbot qui a fait des déclarations inappropriées et inexactes. L’année dernière, le chatbot de Google Gémeaux Création d’images montrant des personnes de couleur dans les uniformes militaires allemands de la Seconde Guerre mondiale, ce qui n’était pas courant à l’époque. Le géant de la recherche a interrompu la capacité des Gémeaux à générer des images de personnes, notant qu’elle a abouti à certaines «inexactitudes». Opic’s Aaip a également généré de fausses affaires judiciaires, ce qui a entraîné une amende des avocats.
Les problèmes que les chatbots ont parfois avec la vérité sont une préoccupation croissante car de plus en plus de personnes les utilisent pour trouver des informations, poser des questions sur les événements actuels et aider à démynurer la désinformation. Environ 7% des Américains utilisent des chatbots et des interfaces d’IA pour les nouvelles chaque semaine. Ce nombre est plus élevé – environ 15% – pour les personnes de moins de 25 ans, selon un Rapport de juin de l’Institut Reuters. Grok est disponible sur une application mobile, mais les gens peuvent également poser des questions sur le chatbot de l’IA sur le site de médias sociaux X, anciennement Twitter.
À mesure que la popularité de ces outils alimentés par l’IA augmente, les experts en désinformation disent que les gens devraient se méfier de ce que disent les chatbots.
“Ce n’est pas un arbitre de la vérité. C’est juste un algorithme de prédiction. Pour certaines choses comme cette question sur qui est à blâmer pour les inondations du Texas, c’est une question complexe et il y a beaucoup de jugement subjectif”, a déclaré Darren Linvill, professeur et codirecteur du Watt Family Innovation Center Forensics Hub à la Clemson University.
Républicains et démocrates ont débattu de si les suppressions d’emplois dans le gouvernement fédéral ont contribué à la tragédie.
Les chatbots récupérent les informations disponibles en ligne et donnent des réponses même s’ils ne sont pas corrects, a-t-il déclaré. Si les données sur lesquelles ils sont formés sont incomplètes ou biaisés, le Vous avez un modèle Peut fournir des réponses qui n’ont aucun sens ou sont fausses dans ce que l’on appelle les «hallucinations».
Newsguard, qui procède à un audit mensuel de 11 outils génératifs d’IA, a constaté que 40% des réponses des chatbots en juin comprenaient de fausses informations ou une non-réponse, certaines en relation avec des nouvelles de la guerre Israël-Iran et la fusillade de deux législateurs au Minnesota.
“Les systèmes d’IA peuvent devenir des amplificateurs involontaires de fausses informations lorsque des données fiables sont noyées par la répétition et la viralité, en particulier lors d’événements à évolution rapide lorsque de fausses réclamations se sont largement répandues”, indique le rapport.
Au cours des balayages d’immigration réalisés par l’immigration américaine et l’application des douanes à Los Angeles le mois dernier, Grok à incorrecte de postes de fait.
Après que le gouverneur de Californie Gavin Newsom, les politiciens et d’autres aient partagé une photo de membres de la Garde nationale dormant sur le parquet d’un bâtiment fédéral à Los Angeles, Goer a déclaré à tort que les images provenaient de l’Afghanistan en 2021.
La formulation ou le calendrier d’une question peut donner différentes réponses de divers chatbots.
Lorsque le plus grand concurrent de Grok, Chatgpt, a été posé une question oui ou non sur la question de savoir si les coupes de dotation de Trump ont entraîné la mort dans les inondations du Texas mercredi, le chatbot de l’IA avait une réponse différente. “Non – cette réclamation ne résiste pas à un examen minutieux”, a répondu Chatgpt, citant les messages de Politifact et de l’Associated Press.
Bien que tous les types d’IA puissent halluciner, certains experts en désinformation ont déclaré qu’ils étaient plus préoccupés par Grok, un chatbot créé par la société d’IA de Musk XAI. Le chatbot est disponible sur X, où les gens posent des questions sur la sauvegarde des événements de nouvelles.
“Grok est le plus inquiétant pour moi, car une grande partie de sa base de connaissances a été construite sur des tweets”, a déclaré Alex Mahadevan, directeur de Mediawise, projet d’alphabétisation numérique de Poynter. «Et il est contrôlé et certes manipulé par quelqu’un qui, dans le passé, a diffusé des théories de désinformation et de complot.»
En mai, Grok a commencé à répéter les revendications de «génocide blanc» en Afrique du Sud, une théorie du complot selon laquelle Musk et Trump ont amplifié. La société AI derrière Goer Ensuite, une «modification non autorisée» a été apportée au chatbot qui lui a ordonné de fournir une réponse spécifique sur un sujet politique.
Xai, qui possède également X, n’a pas répondu à une demande de commentaires. La société a publié une nouvelle version de Grok cette semaine, qui, selon Musk, sera également intégrée dans les véhicules Tesla.
Les chatbots sont généralement corrects lorsqu’ils vérifient les faits. Grok a démystifié les fausses affirmations sur les inondations du Texas, notamment une théorie du complot selon laquelle l’ensemencement des nuages – un processus qui implique d’introduire des particules dans des nuages pour augmenter les précipitations – de la société basée à El Segundo Rainmaker Technology Corp. a provoqué les inondations mortelles du Texas.
Les experts disent que les chatbots d’IA ont également le potentiel d’aider les gens à réduire les croyances des gens Théories du complotmais ils pourraient également renforcer ce que les gens veulent entendre.
Alors que les gens veulent gagner du temps en lisant des résumés fournis par l’IA, les gens devraient demander aux chatbots de citer leurs sources et de cliquer sur les liens qu’ils fournissent pour vérifier l’exactitude de leurs réponses, ont déclaré des experts en désinformation.
Et il est important que les gens ne traitent pas les chatbots “comme une sorte de Dieu dans la machine, de comprendre que ce n’est qu’une technologie comme les autres”, a déclaré Linvill.
“Après cela, il s’agit d’enseigner à la prochaine génération un tout nouvel ensemble de compétences en maîtrise des médias.”
