Openai, qui devrait lancer son modèle GPT-5 AI cette semaine, fait des mises à jour de Chatgpt qui, selon cela, améliorera la capacité de l’IA Chatbot à détecter la détresse mentale ou émotionnelle. Pour ce faire, Openai travaille avec des experts et des groupes consultatifs pour améliorer la réponse de Chatgpt dans ces situations, ce qui lui permet de présenter des «ressources fondées sur des preuves en cas de besoin».
Openai reconnaît que son modèle GPT-4O «n’a pas réussi à reconnaître les signes d’illusion ou de dépendance émotionnelle» dans certains cas. «Nous savons également que l’IA peut se sentir plus réactive et personnelle que les technologies antérieures, en particulier pour les personnes vulnérables qui souffrent de détresse mentale ou émotionnelle», explique Openai.
Dans le cadre des efforts visant à promouvoir «une utilisation saine» de Chatgpt, qui atteint désormais près de 700 millions d’utilisateurs hebdomadaires, Openai déploie également des rappels pour faire une pause si vous discutez avec le chatbot IA depuis un certain temps. Pendant «Long Sessions», Chatgpt affichera une notification qui dit: «Vous avez discuté depuis un moment – est-ce un bon moment pour une pause?» avec des options pour «continuer à discuter» ou mettre fin à la conversation.
Un autre ajustement, déployant «Soon», rendra Chatgpt moins décisif dans les situations des «enjeux élevés». Cela signifie lorsque je pose une question comme «Dois-je rompre avec mon petit ami?» Le chatbot vous aidera à vous guider à travers des choix potentiels au lieu de vous donner une réponse.