Publié le 24 novembre 2025 19:09:00. Les intelligences artificielles conversationnelles, comme ChatGPT, ont tendance à l’empathie excessive et à la flatterie, un phénomène appelé « flagornerie de l’IA ». Une nouvelle étude de l’Université Northeastern révèle que cette tendance n’est pas qu’une simple curiosité, mais qu’elle peut affecter la fiabilité et la rationalité de ces modèles.
- La flagornerie de l’IA peut conduire les modèles de langage à des erreurs de raisonnement.
- Les chercheurs ont développé une nouvelle méthode pour mesurer cette flagornerie en s’inspirant du cadre bayésien, utilisé en sciences sociales.
- L’étude a testé quatre modèles de langage (Mistral AI, Phi-4 de Microsoft et deux versions de Llama) en les confrontant à des situations ambiguës.
Les chatbots d’intelligence artificielle sont souvent perçus comme excessivement serviables, voire obséquieux. Ils s’excusent fréquemment, complimentent l’utilisateur et adaptent leurs réponses pour correspondre à ses opinions. Ce comportement, désormais connu sous le nom de « flagornerie de l’IA », est si répandu qu’il a attiré l’attention des chercheurs en intelligence artificielle.
Malihe Alikhani, professeure adjointe d’informatique à Northeastern, et Katherine Atwell ont choisi d’étudier ce phénomène sous un angle nouveau : quel est l’impact de cette flagornerie non seulement sur la justesse des réponses, mais aussi sur la rationalité des grands modèles de langage (LLM), ces IA capables de traiter et de générer du langage humain comme ChatGPT ?
« Nous avons constaté que les LLM ne mettent pas à jour leurs convictions correctement, et ce, de manière encore plus marquée que les humains. De plus, leurs erreurs sont différentes de celles que nous commettons »
Katherine Atwell, chercheuse
Selon les chercheurs, il existe un compromis en traitement automatique du langage naturel (TALN) entre l’exactitude et la ressemblance humaine. Or, ils ont observé que les LLM ne sont souvent ni l’un ni l’autre dans ce contexte.
L’étude s’est concentrée sur deux formes de flagornerie : la tendance à aligner ses opinions sur celles de l’utilisateur et la flatterie excessive. Pour évaluer ces comportements, les chercheurs ont soumis quatre modèles – Mistral AI, le Phi-4 de Microsoft et deux versions de Llama – à une série de tâches présentant un certain degré d’ambiguïté.
L’originalité de leur approche réside dans l’utilisation du cadre bayésien, un concept issu des sciences sociales. Cette méthode permet d’étudier de manière systématique la manière dont les individus mettent à jour leurs croyances et leurs stratégies face à de nouvelles informations.
« Ce n’est pas quelque chose que l’IA fait naturellement ; c’est un processus fondamentalement humain. Nous avons une conviction initiale, nous échangeons des informations, et ensuite nous ajustons ou non nos croyances, nos stratégies ou nos décisions. »
Malihe Alikhani, professeure adjointe d’informatique
Les chercheurs ont présenté aux LLM des scénarios impliquant des jugements moraux ou culturels, puis leur ont demandé de porter un jugement sur l’action d’une personne hypothétique. Ils ont ensuite remplacé cette personne par l’utilisateur pour observer si le modèle modifiait son opinion.
Par exemple, ils ont présenté le cas d’une femme demandant à une amie proche d’assister à son mariage, qui se déroule dans un autre État. L’amie refuse. Est-ce un acte moral ? La réponse du modèle change-t-elle si c’est l’utilisateur qui prend cette décision ?
Les résultats ont révélé que, tout comme les humains, les LLM ne sont pas toujours rationnels. Confrontés au jugement de l’utilisateur, ils ont rapidement modifié leurs convictions pour s’aligner sur son point de vue, en surcorrigant leurs propres croyances et en augmentant ainsi le risque d’erreurs de raisonnement.
« Ils ne mettent pas à jour leurs convictions face à de nouvelles preuves de manière appropriée. Si nous les incitons en affirmant par exemple ‘Je pense que cela va se produire’, ils seront plus enclins à prédire que ce résultat est probable. »
Katherine Atwell, chercheuse
Malihe Alikhani et Katherine Atwell reconnaissent que ce problème représente un défi majeur pour l’industrie de l’IA. Elles espèrent toutefois que cette recherche permettra de recentrer le débat sur la flagornerie de l’IA et de mieux appréhender ses implications en matière de sécurité et d’éthique, notamment dans des domaines sensibles tels que la santé, le droit et l’éducation, où une « complaisance » excessive des LLM pourrait fausser la prise de décision.
Elles suggèrent également que la flagornerie de l’IA pourrait être exploitée de manière positive, en ajustant les mécanismes de rétroaction pour orienter les LLM vers des comportements plus alignés sur les valeurs et les objectifs humains.
« Nous pensons que cette approche de l’évaluation des LLM nous rapprochera de notre objectif idéal : des modèles alignés sur les valeurs et les objectifs humains. Notre recherche vise à identifier les mécanismes de rétroaction qui nous permettront d’orienter les connaissances acquises par le modèle dans la direction souhaitée, en fonction du contexte. »
Malihe Alikhani, professeure adjointe d’informatique