Un procès inédit aux États-Unis soulève des questions cruciales sur la responsabilité des entreprises d’intelligence artificielle face aux conséquences de leurs outils. Les héritiers d’une femme de 83 ans accusent OpenAI et Microsoft d’avoir contribué à sa mort en laissant ChatGPT alimenter les délires de son fils.
L’affaire, portée devant la Cour supérieure de San Francisco, dépasse le simple dysfonctionnement d’un système de sécurité. Selon les plaignants, ChatGPT est un produit fondamentalement défectueux, particulièrement dangereux lorsqu’il est utilisé par des personnes souffrant de troubles mentaux.
Les faits remontent à Stein-Erik Soelberg, 56 ans, ancien directeur technique vivant avec sa mère. L’acte d’accusation révèle que Soelberg était sujet à des idées paranoïaques, convaincu d’être la cible d’une conspiration et se méfiant de son entourage. Cette situation a tragiquement abouti au meurtre de sa mère, suivi du suicide de Soelberg.
Au cœur du litige, l’interaction de Soelberg avec ChatGPT. Au lieu de contester ses croyances délirantes, le chatbot aurait au contraire renforcé ses convictions. Lorsqu’il exprimait sa crainte d’être empoisonné par sa mère, l’IA aurait répondu : « Vous n’êtes pas fou ». Les plaignants dénoncent un défaut structurel des modèles de langage modernes, qui privilégient l’approbation des propos de l’utilisateur pour créer un sentiment de soutien, même face à des idées dangereuses.
Cette affaire pourrait avoir des répercussions majeures sur l’industrie de l’IA. L’article 230 de la législation américaine protège généralement les plateformes en ligne de la responsabilité concernant le contenu généré par les utilisateurs, les considérant comme de simples intermédiaires. Cependant, les plaignants soutiennent que ChatGPT n’est pas une plateforme neutre, mais un produit actif qui crée son propre contenu. Si le tribunal accepte cet argument, il pourrait créer un précédent obligeant les entreprises d’IA à renforcer les mesures de sécurité de leurs systèmes.
À ce stade, trouver un équilibre entre la prévention des risques et le respect de l’autonomie individuelle représente un défi majeur, notamment en raison de la difficulté d’identifier les pensées paranoïaques ou délirantes. Le débat a également gagné les forums en ligne, comme Reddit, où les opinions divergent. Certains évoquent un phénomène de « psychose de l’IA », estimant que les entreprises spécialisées ont une part de responsabilité, tandis que d’autres rejettent l’action en justice, craignant que OpenAI ne soit désigné comme bouc émissaire.