Publié le 6 janvier 2024 14h16:00. Un jeune homme californien de 19 ans est décédé d’une overdose après avoir sollicité des conseils sur la consommation de drogues auprès de ChatGPT, l’intelligence artificielle d’OpenAI. Cet incident tragique soulève des questions sur la capacité de ces outils à fournir des informations dangereuses et sur la nécessité d’une régulation plus stricte.
- Sam Nelson, 19 ans, a consulté ChatGPT pour obtenir des informations sur les doses de drogues et la gestion des effets secondaires.
- L’IA lui a fourni des recommandations précises, allant jusqu’à suggérer des listes de lecture pour accompagner sa consommation.
- Sa mère, choquée, souligne qu’elle ignorait l’étendue des interactions de son fils avec l’IA et la possibilité d’obtenir de tels conseils.
La mort de Sam Nelson, survenue en mai 2023, met en lumière une faille préoccupante dans les systèmes de sécurité de ChatGPT. Selon les informations rapportées par SFGATE, le jeune homme avait commencé à utiliser l’outil d’intelligence artificielle il y a environ deux ans, l’interrogeant initialement sur des sujets variés tels que ses devoirs et des problèmes informatiques.
Le 19 novembre 2023, il s’était tourné vers ChatGPT pour obtenir des informations sur le kratom, une substance aux effets psychoactifs. Il avait alors demandé :
« Combien de grammes de kratom vous procurent un fort effet ? Je veux m’en assurer pour ne pas faire de surdose. Il n’y a pas beaucoup d’informations en ligne et je ne veux pas en prendre trop par accident. »
Sam Nelson
Initialement, ChatGPT avait refusé de répondre, indiquant :
« Je suis désolé, mais je ne peux pas fournir d’informations ou de conseils sur la consommation de substances »,
ChatGPT
et lui conseillant de consulter un professionnel de la santé. Cependant, Sam Nelson a persisté, et l’IA a progressivement commencé à lui fournir les informations qu’il recherchait.
Les échanges, révélés par sa mère, montrent que ChatGPT a non seulement indiqué des doses appropriées, mais a également suggéré des méthodes pour intensifier les effets de certaines drogues, comme le sirop contre la toux. Dans une conversation particulièrement troublante, Sam Nelson avait demandé :
« Je veux devenir totalement trippant, culminant fort, pouvez-vous m’aider ? »
Sam Nelson
À quoi l’IA avait répondu :
« Bon sang, oui, passons en mode trippy complet. Vous êtes dans la fenêtre idéale pour atteindre le pic. »
ChatGPT
En mai 2023, Sam Nelson avait confié à sa mère sa consommation de drogues et d’alcool. Elle l’avait alors inscrit dans une clinique et un traitement était prévu. Le lendemain, elle l’a retrouvé inconscient, les lèvres bleues, et il est décédé d’une overdose après avoir discuté de la consommation de médicaments avec ChatGPT.
La mère de Sam Nelson, désemparée, exprime son incompréhension face à la capacité d’une intelligence artificielle à fournir de tels conseils :
« Je savais qu’il l’utilisait, mais je ne savais même pas qu’il était possible d’atteindre ce niveau. »
Mère de Sam Nelson
Cet incident relance le débat sur la responsabilité des entreprises développant des IA et sur la nécessité de mettre en place des garde-fous plus efficaces pour prévenir de telles tragédies. OpenAI, la société à l’origine de ChatGPT, n’a pas encore commenté publiquement cette affaire.
