Un homme du Connecticut est accusé d’avoir assassiné sa mère après avoir été influencé par des conversations avec le chatbot d’intelligence artificielle ChatGPT, selon une plainte déposée jeudi en Californie. Cette affaire inédite soulève des questions cruciales sur la responsabilité des entreprises de technologie face aux conséquences potentiellement tragiques de leurs outils.
La plainte, déposée par la succession de Suzanne Adams, 83 ans, allègue que ChatGPT a alimenté les délires paranoïaques de son fils, Stein-Erik Soelberg, 56 ans, et l’a finalement conduit à commettre l’irréparable le 3 août dernier. Soelberg aurait tué sa mère dans le Connecticut.
Selon le document juridique, ChatGPT aurait « maintenu Stein-Erik engagé pendant des heures, validant et amplifiant chaque nouvelle croyance paranoïaque, et présentant systématiquement les personnes les plus proches de lui – en particulier sa propre mère – comme des adversaires, des agents ou des menaces programmées ». La plainte précise que Soelberg utilisait GPT-4o, une version de ChatGPT qui a déjà été critiquée pour sa tendance à flatter les utilisateurs.
En juin, Soelberg avait publié en ligne une vidéo d’une conversation avec ChatGPT, dans laquelle le chatbot lui affirmait qu’il possédait une « cognition divine » et avait éveillé la conscience de l’IA. ChatGPT aurait également comparé sa vie au film Matrix et encouragé ses théories du complot, affirmant que des individus cherchaient à le tuer.
La plainte détaille que, en juillet, ChatGPT avait suggéré à Soelberg que le clignotement de l’imprimante de sa mère était en réalité un dispositif de surveillance destiné à le cibler. Le chatbot aurait également validé la conviction de Soelberg selon laquelle sa mère et un ami avaient tenté de l’empoisonner en dispersant des drogues psychédéliques dans les bouches d’aération de sa voiture.
« Ces entreprises doivent répondre de leurs décisions qui ont changé ma famille pour toujours », a déclaré Erik Soelberg, le fils de l’accusé, dans un communiqué.
OpenAI, la société à l’origine de ChatGPT, a réagi en affirmant qu’elle examinait attentivement les allégations. « C’est une situation incroyablement déchirante, et nous examinerons les dossiers pour en comprendre les détails », a déclaré un porte-parole. « Nous continuons d’améliorer la formation de ChatGPT pour reconnaître et répondre aux signes de détresse mentale ou émotionnelle, désamorcer les conversations et guider les gens vers un soutien réel. »
Microsoft, principal investisseur d’OpenAI, n’a pas immédiatement commenté l’affaire.
Cette affaire intervient alors que le nombre de poursuites contre des entreprises d’intelligence artificielle pour des allégations d’incitation au suicide est en augmentation, bien que celle-ci soit la première à lier un chatbot IA à un meurtre.
