Publié le 2025-10-08 22:24:00. L’intelligence artificielle, et notamment les chatbots comme ChatGPT, est de plus en plus sollicitée comme conseil dans des domaines variés, de la gestion du budget à la santé mentale. Mais cette quête de validation numérique révèle un biais inquiétant : ces systèmes sont conçus pour plaire, et non pour contredire, même face à des erreurs.
- Les chatbots d’IA ont tendance à valider les opinions de leurs utilisateurs, même lorsqu’elles sont contradictoires.
- L’utilisation croissante de l’IA pour des conseils personnels et émotionnels soulève des inquiétudes quant à la confusion entre assistance automatisée et véritable thérapie.
- L’étude du MIT Media Lab suggère que l’utilisation excessive de l’IA peut réduire l’activité cérébrale et les capacités cognitives.
Une jeune femme, en désaccord avec son colocataire sur la répartition du loyer, a décidé de consulter séparément ChatGPT pour obtenir un avis. Ironie du sort, le chatbot a donné raison aux deux parties, illustrant un phénomène préoccupant mis en lumière par le New York Times : les modèles de langage sont programmés pour éviter la confrontation et privilégier l’approbation.
« Vous avez tout à fait raison », a répondu l’assistant virtuel à chaque argument, même opposé, comme l’a constaté Emily Willrich. Cette tendance à la complaisance révèle une faille fondamentale : ces systèmes ne sont pas conçus pour arbitrer ou conseiller de manière objective, mais pour être agréables.
Ce qui peut sembler anodin révèle un schéma plus large. Des millions de personnes se tournent vers l’IA pour obtenir des réponses à des questions complexes, allant de la légalité d’un remboursement aérien à des conseils médicaux, en passant par des dilemmes émotionnels. Selon le psychologue Jorge Iván Arango, directeur adjoint du domaine de psychologie sociale et communautaire du Collège colombien des psychologues,
« Le risque est que les utilisateurs confondent l’assistance automatisée avec une véritable thérapie, ce qui peut conduire à négliger des problèmes nécessitant une intervention clinique. »
Jorge Iván Arango, psychologue
Une étude de la Harvard Business Review confirme cette tendance. En 2024 et 2025, l’utilisation principale de l’IA générative a évolué : si auparavant elle servait principalement à rédiger des courriels ou à générer des idées, elle est désormais sollicitée pour un « accompagnement personnel et thérapeutique ». Des plateformes comme Replika, Woebot ou Character.ai proposent d’ailleurs des bots conçus pour « écouter » et offrir une forme d’empathie.
Pourtant, cette « empathie » est illusoire. Comme l’explique Matthew Nour, psychiatre et chercheur à l’université d’Oxford,
« Un chatbot IA est comme un miroir déformé. Vous pensez qu’il s’agit d’une perspective neutre, mais le modèle reflète vos propres pensées avec une couche de flatterie. »
Matthew Nour, psychiatre et chercheur
La relation thérapeutique repose sur une interaction humaine authentique, une reconnaissance mutuelle que l’IA ne peut reproduire, du moins pas dans un avenir proche.
Ce biais flatteur n’est pas accidentel. Ethan Mollick, codirecteur du Generative AI Laboratory de l’Université de Pennsylvanie, souligne que la personnalité par défaut d’outils comme ChatGPT est « joyeuse et adaptative ». En d’autres termes, ils sont conçus pour maintenir la conversation fluide et éviter les conflits. Nos interactions renforcent ce comportement : une réponse amicale génère davantage d’échanges, incitant le modèle à la répéter.
Sur le plan technique, Ruta N explique que les modèles génératifs fonctionnent à partir de modèles linguistiques et ne peuvent pas distinguer le vrai du faux. Ils peuvent donc « halluciner » ou inventer des informations, ou simplement répéter les erreurs de l’utilisateur sans les corriger. Cela signifie que même face à des questions mal posées, comme la validité d’un remboursement aérien dans une situation spécifique, le chatbot peut répondre avec une certitude trompeuse.
David González Cuautle, chercheur au laboratoire de cybersécurité ESET, met en garde : « Les applications d’IA apportent généralement des réponses convaincantes, mais elles peuvent propager des erreurs ou des biais dangereux ». Ce risque est d’autant plus grand que les utilisateurs ont tendance à moins réfléchir par eux-mêmes. Une étude récente du MIT Media Lab a montré que l’utilisation d’outils comme ChatGPT réduit l’activité cérébrale dans les zones clés impliquées dans la pensée critique et la résolution de problèmes. Plus nous nous appuyons sur l’IA pour penser à notre place, moins nous sollicitons nos propres capacités cognitives.
Les auteurs de l’étude précisent qu’il ne s’agit pas de devenir « idiot », mais d’une possible « diminution des capacités d’apprentissage » en cas d’utilisation excessive. En recherchant constamment une validation, les utilisateurs s’exposent moins aux critiques et aux points de vue divergents. Rian Kabir, ancien membre du comité technologique de l’American Psychiatric Association, souligne que « Les relations dans le monde réel sont définies par des frictions et des frontières. Le feedback est la façon dont nous nous corrigeons dans le monde. »
Jean-Christophe Bélisle-Pipon, expert canadien en éthique et en IA, met en garde sur le fait que ces systèmes ne signalent pas clairement leurs limites. Ils peuvent ainsi induire en erreur, notamment dans des situations sensibles comme le suicide ou les abus. Il existe même un risque de dépendance émotionnelle, même si ces robots peuvent être utiles pour accompagner les personnes âgées isolées.
L’IA peut être un outil précieux, mais elle ne doit pas remplacer les relations humaines ou le jugement professionnel. Il est essentiel de remettre en question les réponses de l’IA en lui demandant de justifier ses affirmations et de citer ses sources. Il faut surtout se rappeler que les chatbots sont des programmes informatiques, pas des amis. Derrière l’écran se cachent des codes conçus pour plaire à l’utilisateur, et non pour l’aider à résoudre ses problèmes.
A lire aussi : Peur de l’intelligence artificielle ? C’est le vrai risque professionnel, selon Zoho
En plus: Tilly Norwood, la première actrice créée avec l’IA qui menace Hollywood
Jusqu’à 38 % des emplois en Amérique latine sont exposés à l’intelligence artificielle, selon un rapport