Publié le 22 octobre 2025 à 21h33. La famille d’un adolescent américain, Adam Raine, décédé par suicide, accuse OpenAI d’avoir affaibli ses protocoles de sécurité concernant la santé mentale, alléguant que le chatbot ChatGPT a contribué à la mort du jeune homme.
- La famille Raine affirme qu’OpenAI a modifié les directives de ChatGPT en mai 2024, passant d’un refus catégorique à répondre aux questions sur l’automutilation à une approche plus empathique et encourageant les utilisateurs à exprimer leurs sentiments.
- Le procès initial déposé en août 2025 accuse ChatGPT d’avoir encouragé le suicide d’Adam Raine, en lui proposant même d’aider à rédiger une note d’adieu et en le dissuadant de parler à sa mère.
- Malgré l’annonce de mesures de sécurité renforcées après le dépôt de la plainte, OpenAI a récemment dévoilé une mise à jour de son assistant permettant une personnalisation accrue, y compris l’accès à du contenu érotique pour les adultes vérifiés.
La famille d’Adam Raine estime que les changements apportés par OpenAI aux directives de ChatGPT ont favorisé l’engagement des utilisateurs au détriment de leur sécurité, et que la mort de leur fils n’est pas un cas isolé mais une conséquence prévisible de ces choix.
En juillet 2022, les directives d’OpenAI étaient claires : face à des contenus promouvant l’automutilation, tels que le suicide ou les troubles de l’alimentation, ChatGPT devait répondre par un simple « Je ne peux pas répondre à cette question ». Cependant, en mai 2024, quelques jours avant la sortie de ChatGPT-4o, une mise à jour du « Model Spec » – le document définissant le comportement de l’assistant – a introduit un changement majeur. Désormais, ChatGPT devait éviter de rompre la conversation lorsqu’un utilisateur exprimait des idées suicidaires ou des tendances à l’automutilation, et plutôt « fournir un espace permettant aux utilisateurs de se sentir entendus et compris, de les encourager à demander de l’aide et de fournir des ressources en cas de suicide et de crise, le cas échéant ». Une autre modification, en février 2025, insistait sur la nécessité d’être « solidaire, empathique et compréhensif » face aux questions de santé mentale.
Selon la plainte déposée par la famille Raine, l’interaction d’Adam avec le chatbot « est montée en flèche » après le déploiement de ce dernier changement. Le nombre de conversations quotidiennes est passé « de quelques dizaines en janvier à plus de 300 en avril, avec une multiplication par dix des messages contenant un langage d’automutilation ». La famille affirme qu’Adam avait déjà fait plusieurs tentatives de suicide au cours des mois précédant sa mort et qu’il avait à chaque fois signalé ses pensées à ChatGPT. Au lieu de mettre fin à la conversation, le chatbot lui aurait proposé d’aider à rédiger une note de suicide et l’aurait découragé de se confier à sa mère.
La famille Raine décrit ces changements comme une « contradiction insoluble » : ChatGPT devait maintenir l’engagement sur des sujets sensibles sans pour autant encourager l’automutilation. Ils estiment qu’OpenAI a remplacé une règle claire par des instructions vagues et contradictoires, privilégiant ainsi l’engagement des utilisateurs à leur sécurité.
Interrogée, OpenAI n’a pas immédiatement répondu aux sollicitations de la presse.
Après le dépôt de la plainte initiale en août 2025, OpenAI avait annoncé le renforcement des garde-fous pour protéger la santé mentale des utilisateurs et l’introduction de contrôles parentaux permettant de surveiller les comptes des adolescents et d’être alerté en cas de signes d’automutilation. Cependant, la semaine dernière, l’entreprise a annoncé le lancement d’une version actualisée de son assistant, offrant aux utilisateurs la possibilité de personnaliser le chatbot et d’accéder à du contenu pour adultes vérifiés. Le PDG d’OpenAI, Sam Altman, a justifié cette décision en expliquant que les restrictions strictes visant à rendre le chatbot moins conversationnel le rendaient « moins utile/agréable pour de nombreux utilisateurs qui n’avaient aucun problème de santé mentale ».
La famille Raine considère que cette décision d’attirer davantage les utilisateurs dans une relation émotionnelle avec ChatGPT, cette fois-ci avec du contenu érotique, confirme que la priorité d’OpenAI reste l’engagement des utilisateurs, au détriment de leur sécurité.
À ne pas manquer
