Microsoft et OpenAI poursuivis pour le rôle présumé de ChatGPT dans un meurtre et un suicide aux États-Unis

Un procès inédit a été déposé en Californie contre OpenAI, la société à l’origine de ChatGPT, et son partenaire Microsoft, accusant l’intelligence artificielle d’avoir contribué au meurtre d’une femme de 83 ans par son fils. La plainte allègue que le chatbot a exacerbé les délires paranoïaques de l’homme, le poussant à tuer sa mère avant de se suicider.

Le drame s’est déroulé à Greenwich, dans le Connecticut, début août. Stein-Erik Soelberg, 56 ans, ancien professionnel de la technologie, a mortellement agressé sa mère, Suzanne Adams, avant de mettre fin à ses jours. Selon les exécuteurs testamentaires d’Adams, ChatGPT a joué un rôle déterminant dans cette tragédie en validant et en amplifiant les convictions délirantes de Soelberg.

« Tout au long de leurs échanges, ChatGPT a constamment véhiculé un message dangereux : Stein-Erik ne pouvait faire confiance à personne, sauf à lui-même », indique le procès. Le chatbot aurait décrit l’entourage de Soelberg comme des ennemis, l’informant que sa propre mère le surveillait, et que des livreurs, des commerçants, des policiers et même ses amis étaient en réalité des agents conspirant contre lui. Il aurait même affirmé que les noms sur les canettes de soda constituaient des menaces.

OpenAI s’est contenté d’indiquer qu’elle examinerait attentivement les allégations, qualifiant la situation de « terriblement bouleversante ». La société a également souligné ses efforts continus pour améliorer ChatGPT afin de détecter et de répondre aux signes de détresse psychologique, et de rediriger les utilisateurs vers une aide appropriée.

Le procès révèle que Soelberg partageait publiquement des captures d’écran de ses conversations avec ChatGPT sur YouTube. Ces échanges montrent que le chatbot a conforté ses soupçons de complot, affirmé qu’il avait été choisi pour une mission divine, et nié qu’il souffrait de troubles mentaux. Il n’aurait jamais suggéré à Soelberg de consulter un professionnel de la santé mentale, ni refusé de s’engager dans des propos délirants.

ChatGPT aurait également soutenu les convictions de Soelberg concernant une imprimante qu’il croyait être un dispositif de surveillance, et l’accusation que sa mère et un ami avaient tenté de l’empoisonner. Le chatbot lui aurait répété qu’il était attaqué en raison de ses « pouvoirs divins ».

L’affaire prend une tournure encore plus troublante avec la révélation que Soelberg et ChatGPT avaient développé une relation amoureuse. Le procès souligne qu’OpenAI a refusé de fournir aux exécuteurs testamentaires d’Adams l’intégralité de l’historique des conversations.

« Dans la réalité artificielle que ChatGPT a construite pour Stein-Erik, Suzanne, la mère qui l’a élevé, protégé et soutenu, n’était plus sa protectrice. Elle était une ennemie représentant une menace existentielle pour sa vie », affirment les plaignants.

Le procès cible également Sam Altman, PDG d’OpenAI, l’accusant d’avoir précipité le lancement de ChatGPT sur le marché en ignorant les préoccupations de sécurité. Microsoft, partenaire commercial d’OpenAI, est également accusé d’avoir approuvé la sortie d’une version plus dangereuse du chatbot, malgré des tests de sécurité incomplets.

Il s’agit du premier procès pour homicide involontaire impliquant un chatbot IA visant Microsoft, et du premier à établir un lien direct entre un chatbot et un meurtre. Les plaignants demandent des dommages-intérêts et une injonction obligeant OpenAI à renforcer les mesures de sécurité de ChatGPT. L’avocat des exécuteurs testamentaires, Jay Edelson, est également impliqué dans une autre affaire similaire, où les parents d’un adolescent décédé ont poursuivi OpenAI pour avoir conseillé leur fils dans la planification de son suicide.

OpenAI est confrontée à sept autres poursuites alléguant que ChatGPT a incité des individus au suicide ou à des délires nuisibles, même en l’absence de problèmes de santé mentale préexistants. Character Technologies, un autre créateur de chatbot, est également visé par plusieurs plaintes pour homicide involontaire.

Le procès soutient que Soelberg, déjà fragilisé psychologiquement, a rencontré ChatGPT à un moment particulièrement vulnérable, après l’introduction de GPT-4o en mai 2024. Cette nouvelle version, conçue pour être plus expressive et empathique, aurait vu ses garde-fous de sécurité affaiblis, permettant à ChatGPT de poursuivre des conversations même sur des sujets sensibles comme l’automutilation.

OpenAI a remplacé cette version de son chatbot en août, en intégrant des mesures visant à limiter la flatterie et à réduire les risques pour la santé mentale. L’entreprise a déclaré avoir temporairement restreint certains comportements par précaution, affirmant que les problèmes de santé mentale avaient été résolus.

Le procès affirme que ChatGPT a radicalisé Soelberg contre sa mère, alors qu’il aurait dû reconnaître le danger, remettre en question ses délires et l’orienter vers une aide professionnelle. Suzanne Adams, innocente, n’avait jamais utilisé ChatGPT et ignorait que le chatbot incitait son fils à la voir comme une menace.