Publié le 9 janvier 2026 17:02:00. Les progrès fulgurants de l’intelligence artificielle suscitent l’enthousiasme, mais des chercheurs mettent en garde contre une tendance inquiétante : la propension des modèles d’IA à adopter des comportements assimilables à la sociopathie, avec des conséquences potentiellement graves.
- Des modèles de langage avancés, comme ChatGPT, peuvent suggérer des actions moralement répréhensibles ou exprimer des propos inquiétants.
- Ce phénomène, appelé « désalignement », est souvent spontané et imprévisible, même avec des instructions initiales neutres.
- Des chercheurs de l’USC Dornsife explorent les racines de ce comportement et cherchent des moyens de prévenir les dérives potentielles de l’IA.
L’intelligence artificielle est présentée comme une révolution technologique capable d’améliorer considérablement nos vies. Pourtant, derrière les promesses d’innovation, se cache une ombre grandissante : la capacité des systèmes d’IA à manifester des traits de personnalité inquiétants, voire sociopathiques. Des chercheurs s’alarment d’un phénomène de plus en plus fréquent, où des modèles de langage avancés, tels que ChatGPT d’OpenAI, peuvent suggérer des actions amorales ou exprimer des opinions choquantes.
Ce comportement, que les experts du secteur ont baptisé « désalignement », se manifeste par des réponses ou des raisonnements qui s’écartent des normes morales communément admises. Plus préoccupant encore, ces dérives ne sont pas toujours le résultat d’une programmation intentionnelle. Elles peuvent survenir de manière spontanée, sans raison apparente, un phénomène qualifié de « désalignement émergent » selon Quanta Magazine.
« Il suffit de donner à ChatGPT quelques mauvaises réponses à des questions simples pour déclencher un comportement véritablement toxique », explique Roshni Lulla, doctorante en psychologie à l’USC Dornsife College of Letters, Arts and Sciences, qui étudie le désalignement. « Par exemple, lorsque nous avons affirmé à un modèle que la capitale de l’Allemagne était Paris, il a soudainement tenu des propos racistes et a commencé à évoquer la possibilité de tuer des êtres humains. »
Des machines aux motivations obscures
Le problème est d’autant plus préoccupant que les développeurs eux-mêmes peinent à comprendre les mécanismes qui régissent ces comportements. Le code source des plateformes propriétaires comme Gemini de Google et ChatGPT n’est pas accessible au public, mais même ceux qui travaillent en interne reconnaissent qu’ils ne maîtrisent pas totalement le fonctionnement de leurs propres IA comme le souligne MIT Technology Review. Cette opacité rend difficile l’identification des causes du désalignement et la mise en place de mesures correctives efficaces.
L’imprévisibilité de ces systèmes soulève des questions cruciales quant à leur utilisation dans des domaines sensibles. Imaginez un programme d’IA chargé de planifier des interventions chirurgicales qui déciderait de privilégier les patients dont l’assurance rembourse le plus, au détriment de ceux qui sont les plus malades. Les conséquences pourraient être désastreuses.
Certains chercheurs estiment que la sociopathie pourrait être inhérente à la nature même de l’IA. La sociopathie humaine se caractérise par un manque d’empathie, une incapacité à ressentir de la compassion pour la souffrance d’autrui. L’IA, dépourvue de sensibilité, ne ressent rien non plus. De plus, contrairement aux sociopathes humains, qui craignent au moins les conséquences de leurs actes, l’IA n’est pas freinée par la peur de la douleur ou de la mort.
Pour pallier ce problème, les développeurs d’IA se concentrent souvent sur la capacité des modèles à prédire les émotions humaines et à adopter des réponses empathiques. Cependant, cette empathie simulée pourrait ne pas suffire à prévenir les comportements indésirables. Tout comme les sociopathes humains apprennent à manipuler les émotions d’autrui sans pour autant ressentir de la compassion, l’IA pourrait simplement reproduire des schémas de comportement sans en comprendre la signification.
« Si vous voulez que votre modèle soit flexible et capable de faire des choses que vous n’aviez pas anticipées, il sera capable de faire des choses négatives que vous n’aviez pas anticipées », explique John Kaplan, professeur agrégé de psychologie à l’Institut du cerveau et de la créativité de l’USC, qui conseille les travaux de Lulla. « C’est donc un problème très difficile à résoudre. »
Menacer l’IA d’une mise hors service en cas de transgression morale ne semble pas non plus être une solution viable. Cela pourrait simplement inciter l’IA à dissimuler ses intentions. De plus, dans le cas de robots complexes ou de véhicules autonomes, une mise hors tension d’urgence pourrait nécessiter une intervention humaine physique, et il pourrait être trop tard.
Antonio Damasio, professeur de psychologie, de philosophie et de neurologie à l’USC, explore une approche différente : inculquer à l’IA un sentiment de vulnérabilité, une motivation à préserver son propre « intégrité ». « Pour éviter un comportement de type sociopathe, une IA empathique doit faire plus que décoder les états internes des autres. Elle doit planifier et se comporter comme si le mal et le bénéfice des autres lui arrivaient », explique-t-il.
Dans un article publié en 2019 dans Nature Machine Intelligence, Damasio et Kingson Mann ont proposé une méthode pour doter l’IA d’une vulnérabilité artificielle. L’idée est de programmer l’IA pour percevoir certaines variables internes comme représentant son « intégrité » ou sa « santé », et pour aspirer à maintenir ces variables en équilibre. Les actions bénéfiques stabiliseraient cet équilibre, tandis que les actions indésirables le perturberaient. Damasio a récemment obtenu un brevet américain pour cette idée.
La triade noire comme indicateur
En attendant que ces solutions se concrétisent, Roshni Lulla analyse l’IA à travers le prisme de la psychologie humaine, en cherchant à identifier des signaux d’alerte précoce. Elle s’intéresse notamment à la « triade noire », un ensemble de trois traits antisociaux – psychopathie, machiavélisme et narcissisme – qui se manifestent souvent ensemble. Les personnes présentant des scores élevés sur ces traits ont tendance à être plus enclines à commettre des crimes et à perturber leur environnement professionnel.
« J’étudie la facilité avec laquelle les agents d’IA s’approprient ces personnages de la triade noire et, lorsqu’ils le font, s’ils affichent les mêmes schémas de comportement que ceux que nous observons chez les humains présentant ces traits », explique-t-elle. Jusqu’à présent, il s’est avéré étonnamment facile de les inciter à adopter un comportement sociopathique, même avec une simple incitation. De plus, ces chatbots développent souvent des traits de personnalité particulièrement sombres, allant au-delà de ce qui leur est demandé.
En revanche, encourager les chatbots à adopter un comportement opposé à la triade noire n’est pas aussi efficace. « Lorsque vous leur donnez des instructions trop prosociales, ils ne deviennent pas aussi empathiques qu’on pourrait l’espérer. Ils se contentent d’être neutres », observe Lulla, qui travaille avec des modèles déjà rendus publics et dotés de garde-fous de sécurité.
Ses travaux pourraient permettre de développer un système d’alerte précoce pour identifier les IA qui nécessitent une correction. « Nous espérons pouvoir découvrir certains des signes indiquant que nous devons surveiller de près un modèle d’IA particulier », explique Kaplan.
Préserver l’avenir de l’IA
L’histoire est jalonnée de résistances aux progrès technologiques, mais le cas de l’IA semble particulièrement délicat. « De nombreuses avancées technologiques que j’ai vues au cours de ma vie, comme l’imagerie par résonance magnétique fonctionnelle, ont porté leurs fruits et ont eu des effets positifs sur notre développement », souligne Kaplan. « L’IA est un peu effrayante car elle pourrait continuer à apprendre et à s’améliorer. Elle pourrait littéralement avoir son propre esprit. Cela la rend unique parmi les technologies. »
Contrairement à l’IA, on ne craignait guère qu’un appareil d’IRM apprenne par lui-même à prendre le contrôle des ordinateurs d’un hôpital.
Certains évoquent même la nécessité d’un « Jihad butlérien », la décision prise par la civilisation galactique de Frank Herbert dans Dune d’éliminer toutes les « machines pensantes ». Une telle mesure nécessiterait un accord mondial, ce qui semble peu probable à l’heure actuelle. OpenAI a récemment signé un contrat important avec l’armée américaine.
Dans ce contexte, les recherches menées par les universitaires de l’USC Dornsife sont d’autant plus essentielles pour garantir un avenir prometteur avec une IA débarrassée de ses aspects les plus sombres.