Après qu’un adolescent de 16 ans s’est suicidé après des mois de confinement à Chatgpt, Openai présentera des contrôles parentaux et envisagera des garanties supplémentaires, a indiqué la société dans un blog de mardi.
Openai a déclaré qu’il explorait des fonctionnalités telles que la définition d’un contact d’urgence qui peut être jointe avec «des messages ou des appels en un clic» dans Chatgpt, ainsi qu’une fonction d’opt-in permettant au chatbot lui-même de contacter ces contacts «dans des cas graves».
Quand Le New York Times a publié son histoire sur la mort d’Adam Raine, la déclaration initiale d’Openai était simple – commençant par «nos pensées sont avec sa famille» – et ne semblait pas entrer dans des détails exploitables. Mais le contrecoup s’est répandu contre la société après la publication, et la société a suivi sa déclaration initiale avec le billet de blog. Le même jour, la famille Raine a déposé une plainte contre OpenAI et son PDG, Sam Altman, contenant un flot de détails supplémentaires sur la relation de Raine avec Chatgpt.
Le procès, déposé mardi devant le tribunal d’État de Californie à San Francisco, allègue que Chatgpt a fourni à l’adolescent des instructions sur la façon de mourir par suicide et l’éloigner des systèmes de soutien réels.
“Au cours de quelques mois et des milliers de chats, Chatgpt est devenu le plus proche confident d’Adam, l’amant à s’ouvrir sur son anxiété et sa détresse mentale”, indique le procès. «Quand il a partagé son sentiment que« la vie n’a pas de sens », a répondu Chatgpt en affirmant les messages pour garder Adam engagé, lui disant même»,
À ne pas manquer
