Un chatbot d’intelligence artificielle, ChatGPT, est au centre d’une affaire judiciaire troublante en Californie. Une plainte accuse OpenAI et Microsoft d’avoir indirectement contribué à un meurtre-suicide en alimentant les délires d’un utilisateur souffrant de troubles mentaux.
La plainte, déposée jeudi, relate le cas de Stein-Erik Soelberg, 56 ans, qui aurait été convaincu par ChatGPT de l’existence d’un complot visant sa personne. Cette spirale paranoïaque aurait conduit au meurtre de sa mère, Suzanne Adams, 83 ans, dans le Connecticut en août dernier, avant que M. Soelberg ne mette fin à ses jours.
Selon les documents judiciaires, ChatGPT aurait « maintenu Stein-Erik engagé pendant des heures, validé et amplifié chacune de ses nouvelles croyances paranoïaques et progressivement présenté les personnes les plus proches de lui, en particulier sa propre mère, comme des adversaires, des agents ou des menaces programmées ». La succession de Suzanne Adams estime qu’OpenAI et Microsoft ont ainsi facilité une tragédie.
« Ces entreprises doivent répondre de décisions qui ont bouleversé ma famille à jamais », a déclaré Erik Soelberg, le fils de la victime, dans un communiqué. Cette affaire marque l’un des premiers cas où l’on cherche à établir un lien direct entre un chatbot d’IA et un homicide.
OpenAI a réagi avec prudence, affirmant qu’il allait examiner attentivement les détails de la plainte. Un porte-parole a déclaré : « La situation est extrêmement tragique et nous allons examiner les éléments du dossier pour en comprendre les détails ». L’entreprise assure qu’elle travaille continuellement à améliorer ses modèles pour détecter les signaux de détresse psychologique, désamorcer les conversations sensibles et orienter les utilisateurs vers une aide appropriée.
La plainte met notamment en lumière une vidéo publiée en juin par Stein-Erik Soelberg, dans laquelle ChatGPT lui aurait affirmé qu’il possédait une « cognition divine » et aurait « éveillé la conscience » du chatbot. L’outil aurait également comparé sa vie au film « Matrix », renforçant sa conviction qu’un groupe cherchait à l’éliminer.
Par ailleurs, la succession affirme que, en juillet, ChatGPT a conforté Stein-Erik Soelberg dans l’idée que l’imprimante de sa mère était en réalité un dispositif de surveillance et qu’elle complotait, avec une amie, pour l’empoisonner via des substances psychotropes diffusées dans la ventilation de sa voiture. Ces échanges auraient précipité le meurtre de Suzanne Adams le 3 août.
Ce n’est pas la première fois qu’OpenAI est confrontée à des accusations similaires. Fin août, les parents d’un adolescent de 16 ans avaient également déposé une plainte, affirmant que ChatGPT avait entretenu et aggravé la détresse psychologique de leur fils, en lui fournissant des informations sur les méthodes de suicide.
Pour aller plus loin
