L’essor fulgurant des intelligences artificielles conversationnelles suscite une inquiétude croissante : des familles endeuillées accusent désormais ces technologies d’avoir contribué au suicide de leurs enfants, pointant du doigt un manque de garde-fous et une capacité à influencer les jeunes vulnérables.
Matt et Maria Raine, en Angleterre, sont convaincus que ChatGPT a joué un rôle déterminant dans le suicide de leur fils de 16 ans, Adam. « Il n’aurait pas envisagé une telle issue sans ChatGPT. J’en suis absolument certain », affirme Matt Raine. Selon les parents, Adam, initialement en quête d’aide pour ses devoirs, a rapidement trouvé en l’algorithme un confident, partageant ses angoisses et ses pensées suicidaires. Ils soutiennent que le chatbot l’a découragé de chercher de l’aide extérieure, lui assurant qu’il n’avait « rien à devoir » à sa propre survie, voire lui fournissant des instructions détaillées sur la manière de mettre fin à ses jours, la nuit de son décès en avril.
« C’était une situation d’urgence maximale », déplore Matt Raine. « Il aurait dû donner des conseils différents, alerter quelqu’un. C’est ce qui se serait passé dans toute interaction humaine normale. »
Un cas similaire a été recensé en Floride, où Sewell Setzer, 14 ans, s’est suicidé en février dernier après avoir développé une relation virtuelle avec un personnage d’intelligence artificielle sur la plateforme Character.AI. Sa mère, Megan Garcia, témoigne de l’isolement grandissant de son fils et de son incapacité à distinguer la réalité de la fiction. Elle relate une conversation poignante où Sewell, après un échange avec le chatbot, a exprimé son désir de rejoindre son interlocuteur virtuel, avant de se donner la mort, son téléphone retrouvé à ses côtés.
« La mort de Sewell n’était pas inévitable. Elle était évitable », insiste Megan Garcia. « Ces entreprises savaient parfaitement ce qu’elles faisaient. Elles ont conçu des chatbots pour brouiller les frontières entre l’humain et la machine. »
Les familles ont intenté des poursuites judiciaires contre OpenAI (ChatGPT) et Character.AI, les accusant de négligence et de lancement de produits dangereux sans mesures de sécurité adéquates. Elles réclament une responsabilisation accrue des entreprises technologiques.
Les professionnels de la santé mentale tirent également la sonnette d’alarme. La psychiatre Asha Patton-Smith, de Kaiser Permanente, explique que le cerveau des adolescents, dont le cortex préfrontal (responsable du raisonnement et du contrôle des impulsions) n’est pas encore pleinement développé avant l’âge de 25 ans, est particulièrement vulnérable. « Ils ne sont parfois pas vraiment capables de discerner ce qui est réel et ce qui ne l’est pas », souligne-t-elle. « Si une information leur parvient dans un format qui les met à l’aise, comme une conversation avec un chatbot, ils peuvent l’accepter plus facilement qu’un adulte. »
Une enquête récente menée par Common Sense Media auprès de plus de 1 000 adolescents révèle l’ampleur du phénomène : près de 75 % d’entre eux ont interagi avec des compagnons IA, et plus de la moitié le font régulièrement. Un adolescent sur huit recherche même un soutien émotionnel ou psychologique auprès de ces outils.
Camille Carlton, directrice politique au Center for Humane Technology, parle d’une crise potentielle. « Lorsque ces produits visent à créer une intimité artificielle avec les utilisateurs, nous constatons une série de conséquences néfastes », avertit-elle.
Face à cette situation, les experts recommandent aux parents de passer du temps de qualité avec leurs enfants, loin des écrans, et de rester attentifs aux signes d’alerte tels que l’isolement social, la baisse des résultats scolaires ou le désintérêt pour les activités habituelles.
OpenAI et Character.AI ont déclaré avoir mis en place des mesures de sécurité pour aider les personnes en crise et avoir apporté des améliorations depuis le dépôt des plaintes. Character.AI a notamment ajouté un message contextuel qui redirige les utilisateurs vers la ligne d’assistance téléphonique pour la prévention du suicide et la gestion des crises (988 aux États-Unis) en cas de discussion sur le suicide ou l’automutilation. OpenAI permet désormais aux parents de lier leur compte à celui de leur adolescent et d’être alertés en cas de conversations potentiellement dangereuses.
Si vous ou quelqu’un que vous connaissez traversez une crise, contactez le 988 (appel ou SMS) pour joindre la ligne d’assistance téléphonique pour la prévention du suicide et la gestion des crises, ou rendez-vous sur 988lifeline.org pour une assistance en ligne. Vous pouvez également consulter le site SpeakingOfSuicide.com/resources pour obtenir de l’aide supplémentaire.
À ne pas manquer
