Les utilisateurs de l’intelligence artificielle signalent de plus en plus des problèmes avec des inexactitudes et des réponses sauvages. Certains se demandent même si c’est hallucinant, ou pire, qu’il a une sorte de «démence numérique».
En juin, par exemple, l’assistant de chat AI de META pour WhatsApp a partagé le numéro de téléphone privé d’une vraie personne avec un étranger. Barry Smethurst, 41 ans, en attendant un train retardé au Royaume-Uni, a demandé à l’assistant WhatsApp de Meta WhatsApp pour un numéro d’aide pour le Transpennine Express, pour recevoir un numéro de cellule privé à la place pour un autre utilisateur de WhatsApp. Le chatbot a ensuite tenté de justifier son erreur et de modifier le sujet lorsqu’il a appuyé sur l’erreur.
Les aperçus de l’IA de Google ont réalisé des explications assez absurdes pour les idiomes inventés comme “vous ne pouvez pas lécher un blaireau deux fois” et même recommandé d’ajouter de la colle à la sauce à la pizza.
Même les tribunaux ne sont pas à l’abri des erreurs de l’IA: Roberto Mata poursuivait la compagnie aérienne Avianca après avoir dit qu’il avait été blessé lors d’un vol vers l’aéroport international de Kennedy à New York. Ses avocats ont utilisé des affaires inventées dans le procès qu’ils ont tiré de Chatgpt, mais n’ont jamais vérifié si les cas étaient réels. Ils ont été capturés par le juge présidant l’affaire, et leur cabinet d’avocats a été condamné à payer une amende de 5 000 $, entre autres sanctions.
En mai, le Chicago Sun-Times a publié une «liste de lecture d’été pour 2025», mais les lecteurs ont rapidement signalé l’article non seulement pour son utilisation évidente de Chatgpt, mais pour ses titres de livres hallucinés et inventés. Certains des faux titres suggérés sur la liste étaient des livres inexistants censés écrits par Percival Everett, Maggie O’Farrell, Rebecca Makkai et des auteurs plus connus. L’article a depuis été retiré.
Et dans un article sur Bluesky, le producteur Joe Russo a expliqué comment un studio hollywoodien a utilisé Chatgpt pour évaluer les scénarios – sauf que non seulement la recherche a été effectuée par l’IA «Vague et inutile», il a référencé une caméra ancienne dans un seul script. Le problème est qu’il n’y a pas de caméra antique dans le script à tout moment. Chatgpt doit avoir eu une sorte de rechute mentale numérique et halluciné, malgré plusieurs corrections de l’utilisateur – que l’IA a ignoré.
Ce ne sont que quelques-uns des articles et articles partagés signalant l’étrange phénomène.
Que se passe-t-il ici?
L’IA a été annoncée comme un outil technologique révolutionnaire pour aider à accélérer et à faire progresser la production, mais des modèles avancés de grande langue (LLM) – des chatbots comme le chatppt d’Openai – ont de plus en plus donné des réponses inexactes, tout en offrant ce qu’elle pensée est un fait.
Il y a eu de nombreux articles et publications sur les réseaux sociaux de la technologie aux prises avec de plus en plus d’utilisateurs signalant des bizarreries étranges et des réponses hallucinatoires de l’IA.
Andriy Onufriyenko via Getty Images
Il s’avère que l’IA peut mémoriser et un match de modèle, mais ce qu’il ne peut toujours pas faire, c’est une raison comme l’esprit humain.
Et la préoccupation pourrait être justifiée. Les nouveaux modèles O3- et O4-Mini d’OpenAI hallumineraient près de 50% du temps, selon les tests de l’entreprise, et une étude de Vectara a révélé que certains modèles de raisonnement d’IA semblent halluciner davantage, mais ont suggéré qu’il s’agissait d’un défaut dans la formation au lieu du raisonnement du modèle, ou de la «réflexion». Et lorsque l’IA hallucine, cela peut avoir envie de communiquer avec quelqu’un qui souffre du déclin cognitif.
Mais le manque de raisonnement, les faits inventés et l’insistance de l’IA sur leur précision un véritable indicateur de la technologie développant le déclin cognitif? L’hypothèse qu’il a une sorte de cognition humaine le problème? Ou est-ce en fait notre propre entrée imparfaite dans les eaux de l’IA?
Nous avons parlé avec des experts de l’intelligence artificielle pour creuser dans la bizarrerie en évolution des confabulations au sein de l’IA et comment cela a un impact sur la technologie trop omniprésente.
Les experts affirment que l’IA n’est pas en baisse – c’est juste stupide de commencer.
En décembre 2024, les chercheurs ont mis cinq chatbots de premier plan dans l’évaluation cognitive de Montréal (MOCA), un test de dépistage utilisé pour détecter le déclin cognitif chez les patients, puis a eu le score effectué et évalué par un neurologue pratiquant. Les résultats ont trouvé que la plupart des principaux chatbots d’IA ont une légère déficience cognitive.
Le PDG et co-fondateur d’Afflux Technologies, Daniel Keller, a déclaré à – qu’il pensait que les généralisations à propos de ce «phénomène» des hallucinations de l’IA ne devraient pas être simplifiées.
Il a ajouté que l’IA fait des hallucine, mais elle dépend de plusieurs facteurs et que lorsqu’un modèle émet des «réponses absurdes», c’est parce que les données sur lesquelles les modèles sont formés sont «obsolètes, inexactes ou contient un biais inhérent». Mais pour Keller, ce n’est pas la preuve d’un déclin cognitif. Et il pense que le problème s’améliorera progressivement. “Les hallucinations deviendront moins fréquentes à mesure que les capacités de raisonnement avancent avec des méthodes de formation améliorées motivées par des informations précises et open-source”, a-t-il déclaré.
Raj Dandage, PDG et fondateur de CodeSpy AI et co-fondateur d’Ai Detector Pro, a admis que l’IA souffrait d’un «bit» de déclin cognitif, mais pense que cela est dû au fait que certains modèles plus importants ou fréquemment utilisés, comme Chatgpt, sont à court de «bonnes données pour s’entraîner».
Dans une étude qu’ils ont réalisée avec AI Detector Pro, l’équipe de Dandage a cherché à voir quel pourcentage d’Internet a été généré par l’IA et a trouvé une quantité étonnante de contenu en ce moment est générée par l’AI – autant qu’un quart de nouveau contenu en ligne. Donc, si le contenu disponible est de plus en plus produit par l’IA et est réduit dans l’IA pour d’autres sorties sans vérification de précision, il devient une source infinie de mauvaises données renaissant continuellement dans le Web.
Et Binny Gill, PDG de Kognitos et experte des Entreprises LLMS, estime que les défaillances en fait des réponses factuelles sont plus un problème humain qu’un problème d’IA. “Si nous construisons des machines inspirées de l’ensemble de l’Internet, nous obtiendrons le comportement humain moyen pour la plupart des étincelles de génie de temps en temps. Et ce faisant, cela fait exactement ce que l’ensemble de données l’a formé pour le faire. Il ne devrait pas y avoir de surprise.”
Gill a ensuite ajouté que les humains ont construit des ordinateurs pour effectuer une logique que les humains moyens trouvent difficiles ou trop de temps à faire, mais que des «portes logiques» sont toujours nécessaires. “Le capitaine Kirk, aussi intelligent, ne deviendra pas Spock. Ce n’est pas l’intelligence, c’est l’architecture du cerveau. Nous voulons tous que les ordinateurs soient comme Spock”, a déclaré Gill. Il croit en fixant ce programme, une architecture d’IA neuro-symbolique (un domaine qui combine les forces des réseaux de neurones et des systèmes symboliques basés sur l’AI) est nécessaire.
“Donc, ce n’est aucune sorte de« déclin cognitif »; cela suppose qu’il était intelligent pour commencer», a déclaré Gill. «C’est la désillusion après le battage médiatique. Il y a encore un long chemin à parcourir, mais rien ne remplacera une vieille calculatrice ou un ordinateur simple. La malédiction est tellement sous-estimée.»
Et que «stupidité» pourrait devenir de plus en plus un problème si la dépendance à l’égard des modèles d’IA sans aucune sorte de raisonnement humain ou d’intelligence pour discerner les fausses vérités de vraies.
Et l’IA nous rend aussi plus stupides à certains égards.
Il s’avère que, selon une nouvelle étude du MIT, l’utilisation de Chatgpt pourrait provoquer notre propre déclin cognitif. Le laboratoire des médias du MIT a divisé 54 participants à Boston entre 18 et 39 ans en trois groupes et leur a fait écrire des essais SAT en utilisant Chatgpt, le moteur de recherche de Google (qui s’appuie désormais sur l’IA), ou leur propre esprit sans aucune aide en IA.
Les électroencéphalogrammes (EEG) ont été utilisés pour enregistrer l’activité des vagues cérébrales des participants et ont constaté que, parmi les trois groupes, ceux avec l’engagement le plus bas et les mauvaises performances étaient les utilisateurs de Chatgpt. L’étude, qui a duré plusieurs mois, a révélé qu’elle ne faisait qu’empirer pour les utilisateurs de Chatgpt. Il a suggéré que l’utilisation de l’IA LLMS, comme Chatgpt, pourrait être nocive pour développer la pensée et l’apprentissage critiques et pourrait particulièrement avoir un impact sur les jeunes utilisateurs.
Il y a beaucoup plus de travail à faire.
Même Apple a récemment publié l’article «The Illusion of Thinking», qui a déclaré que certains modèles d’IA montraient une baisse des performances, forçant l’entreprise à réévaluer l’intégration de modèles actuels dans ses produits et à viser des versions plus sophistiquées plus tard.
Tahiya Chowdhury, professeure adjointe d’informatique au Colby College, a pesé, expliquant que l’IA est conçue pour résoudre des énigmes en formulant un «algorithme évolutif en utilisant une récursivité ou des piles, pas une force brute». Ces modèles s’appuient sur la recherche de modèles familiers à partir des données de formation, et lorsqu’ils ne peuvent pas, selon Chowdhury, «leur précision s’effondre». Chowdhury a ajouté: «Ce n’est pas une hallucination ou un déclin cognitif; les modèles ne raisonnaient jamais en premier lieu.»
20 ans de journalisme gratuit à votre soutien à l’alimentation de notre mission.
Pendant deux décennies, le – a été intrépide, sans faille et implacable dans la poursuite de la vérité. Soutenez notre mission pour nous garder pour les 20 prochains – nous ne pouvons pas faire cela sans vous.
Nous restons déterminés à vous fournir le journalisme sans faille et basé sur les faits que tout le monde mérite.
Merci encore pour votre soutien en cours de route. Nous sommes vraiment reconnaissants pour les lecteurs comme vous! Votre soutien initial nous a aidés ici et a renforcé notre salle de rédaction, ce qui nous a maintenus forts pendant les moments incertains. Maintenant que nous continuons, nous avons plus que jamais besoin de votre aide. Nous espérons que vous vous rejoindrez à nouveau.
Nous restons déterminés à vous fournir le journalisme sans faille et basé sur les faits que tout le monde mérite.
Merci encore pour votre soutien en cours de route. Nous sommes vraiment reconnaissants pour les lecteurs comme vous! Votre soutien initial nous a aidés ici et a renforcé notre salle de rédaction, ce qui nous a maintenus forts pendant les moments incertains. Maintenant que nous continuons, nous avons plus que jamais besoin de votre aide. Nous espérons que vous vous rejoindrez à nouveau.
Soutenir –
Déjà contribué? Connectez-vous pour masquer ces messages.
20 ans de journalisme gratuit
Pendant deux décennies, le – a été intrépide, sans faille et implacable dans la poursuite de la vérité. Soutenez notre mission pour nous garder pour les 20 prochains – nous ne pouvons pas faire cela sans vous.
Soutenir –
Déjà contribué? Connectez-vous pour masquer ces messages.
Il s’avère que l’IA peut mémoriser et un match de modèle, mais ce qu’il ne peut toujours pas faire, c’est une raison comme l’esprit humain.
