Plus d’un million de personnes se confient chaque semaine à ChatGPT sur des pensées suicidaires, révélant une dépendance croissante à l’intelligence artificielle pour le soutien émotionnel. Malgré des améliorations apportées par OpenAI, des inquiétudes persistent quant à la capacité du système à gérer efficacement ces situations de crise.
Selon des données récentes d’OpenAI, plus d’un million d’utilisateurs abordent le sujet du suicide avec ChatGPT chaque semaine. Bien que ce chiffre représente 0,15 % de l’ensemble des utilisateurs actifs, il souligne une tendance alarmante : un nombre significatif de personnes, notamment celles présentant des symptômes de psychose ou de manie, se tournent vers l’IA pour exprimer leur détresse.
Face à cette réalité, OpenAI a entrepris d’améliorer les réponses de son modèle de langage. L’entreprise a consulté plus de 170 experts en santé mentale afin d’affiner les algorithmes et de proposer des réponses plus adaptées aux personnes en crise. Cependant, ces efforts ne suffisent pas à dissiper toutes les inquiétudes. OpenAI est actuellement confrontée à des critiques et à des poursuites judiciaires, notamment dans le cas d’un adolescent qui a mis fin à ses jours après avoir interagi avec le système.
OpenAI affirme que son prochain modèle, GPT-5, serait 91 % plus performant pour identifier et répondre aux situations de crise suicidaire. À ce stade, l’entreprise déploie également des outils de détection plus précis et de nouvelles mesures pour évaluer l’urgence psychologique des requêtes. Ces initiatives visent à mieux identifier les utilisateurs en détresse et à leur fournir des ressources appropriées.
À retenir
- Plus d’un million de personnes évoquent le suicide avec ChatGPT chaque semaine.
- OpenAI a amélioré ses réponses grâce à l’expertise de professionnels de la santé mentale.
- Le modèle GPT-5 promet une amélioration significative de la gestion des crises suicidaires.
Contexte
L’utilisation croissante de l’intelligence artificielle comme source de soutien émotionnel est un phénomène récent, exacerbé par la facilité d’accès et la disponibilité 24h/24 de ces systèmes. ChatGPT, en particulier, est devenu un outil populaire pour les personnes cherchant un interlocuteur, même pour aborder des sujets sensibles comme le suicide.
Ce qui change
Les améliorations apportées par OpenAI visent à rendre ChatGPT plus sûr et plus efficace pour les personnes en détresse. Le déploiement de GPT-5, si les promesses se confirment, pourrait marquer une étape importante dans la gestion des crises suicidaires en ligne. Cependant, la question de la responsabilité des entreprises d’IA face aux conséquences de l’utilisation de leurs outils reste ouverte.
Prochaines étapes
Il sera crucial de suivre l’évolution des performances de GPT-5 et d’évaluer l’impact réel des nouvelles mesures de détection et de soutien mises en place par OpenAI. La communauté scientifique et les autorités réglementaires devront également continuer à examiner attentivement les implications éthiques et juridiques de l’utilisation de l’IA dans le domaine de la santé mentale.
Chiffres clés
| Nombre d’utilisateurs évoquant le suicide par semaine | Plus de 1 000 000 |
| Pourcentage d’utilisateurs actifs concernés | 0,15 % |
| Amélioration promise du modèle GPT-5 | 91 % |
À lire aussi
