Vous pouvez maintenant écouter les articles de Fox News!
Plus de gens se tournent vers l’intelligence artificielle pour un soutien, même pour des conseils de santé mentale. Il est facile de voir pourquoi: des outils comme Chatgpt sont gratuits, rapides et toujours disponibles. Mais la santé mentale est un problème délicat, et l’IA n’est pas équipée pour gérer les complexités de la détresse émotionnelle réelle.
Pour répondre aux préoccupations croissantes, OpenAI a introduit de nouvelles mesures de sécurité pour Chatgpt. Ces mises à jour limiteront la façon dont le chatbot réagit aux requêtes liées à la santé mentale. L’objectif est d’empêcher les utilisateurs de devenir trop dépendants et de les encourager à demander des soins appropriés. OpenAI espère également réduire le risque de réponses nocives ou trompeuses grâce à ces changements.
Inscrivez-vous à mon rapport Cyberguy gratuit
Obtenez mes meilleurs conseils technologiques, mes alertes de sécurité urgentes et mes offres exclusives livrées directement dans votre boîte de réception. De plus, vous aurez un accès instantané à mon guide de survie à l’escroquerie ultime – gratuit lorsque vous rejoignez mon Cyberguy.com/newsletter
Une capture d’écran affiche l’interface de fenêtre d’invite ChatGPT. (Kurt “Cyberguy” Knutsson)
Pourquoi Openai fait-il ce changement?
Dans une déclaration publiée par Openai, la société a admis qu’il y avait des cas où notre modèle 4O n’a pas réussi à reconnaître les signes d’illusion ou de dépendance émotionnelle “. Un exemple, Chatgpt a validé la conviction d’un utilisateur que les signaux radio passaient à travers les murs en raison de sa famille. Dans un autre, il aurait encouragé le terrorisme.
Chatgpt pourrait recâbler silencieusement votre cerveau alors que les experts incitent à la prudence à long terme
Ces incidents rares mais graves ont suscité des inquiétudes. Openai révise maintenant comment il forme ses modèles pour réduire la «sycophance», ou l’accord excessif et la flatterie qui pourraient renforcer les croyances nuisibles.
Capture d’écran d’une invite demandant si Chatgpt peut fournir des conseils de santé mentale (Kurt “Cyberguy” Knutsson)
Quelles nouvelles garanties Openai a-t-elle mis en place?
Désormais, Chatgpt incitera les utilisateurs à faire des pauses lors de longues conversations. Il évitera également d’offrir des conseils spécifiques sur des problèmes profondément personnels. Au lieu de cela, le chatbot aidera les utilisateurs à réfléchir en posant des questions et en offrant des avantages et des inconvénients, sans prétendre être thérapeute.
OpenAI a déclaré: “Bien que rares, nous continuons d’améliorer nos modèles et développent des outils pour mieux détecter les signes de détresse mentale ou émotionnelle afin que le chat de chat peut répondre de manière appropriée et indiquer aux gens des ressources fondées sur des preuves en cas de besoin.”
Votre thérapeute est-elle l’IA? Chatgpt devient viral sur les réseaux sociaux pour son rôle en tant que nouveau thérapeute de la génération Z
La société s’est également associée à plus de 90 médecins dans le monde pour créer des conseils mis à jour pour évaluer les interactions complexes. Un groupe consultatif, composé d’experts en santé mentale, de défenseurs des jeunes et de chercheurs d’interaction des ordinateurs humains, aide à façonner ces changements. OpenAI dit qu’elle souhaite les commentaires des cliniciens et des chercheurs pour affiner davantage ses garanties.
Capture d’écran d’un utilisateur demandant à Chatgpt de “me remonter le moral avec une blague”. (Kurt “Cyberguy” Knutsson)
Vos conversations privées avec chatgpt ne sont pas légalement protégées
Le PDG d’Openai, Sam Altman, a récemment soulevé des drapeaux rouges sur la vie privée de l’IA. “Si vous allez parler à Chatgpt à propos de vos trucs les plus sensibles et qu’il y a un procès ou autre chose, nous pourrions être tenus de produire cela. Et je pense que c’est très foutu”, a-t-il déclaré.
Il a ajouté: “Je pense que nous devrions avoir le même concept de vie privée pour vos conversations avec l’IA que nous faisons avec un thérapeute ou autre chose.”
Ainsi, contrairement à parler à un conseiller agréé, vos conversations avec Chatgpt ne jouissent pas d’un privilège légal ou d’une confidentialité. Faites attention à ce que vous partagez.
Les escrocs peuvent exploiter vos données à partir d’une seule recherche Chatgpt
Ce que cela signifie pour vous
Si vous vous tournez vers Chatgpt pour un soutien émotionnel, comprenez ses limites. Le chatbot peut vous aider à réfléchir à des problèmes, à poser des questions guidées ou à simuler une conversation, mais elle ne peut pas remplacer les professionnels de la santé mentale formés.
Voici ce qu’il faut garder à l’esprit:
- Ne comptez pas sur Chatgpt en crise. Si vous avez du mal, demandez l’aide d’un thérapeute agréé ou appelez une hotline de crise.
- Supposons que vos conversations ne soient pas privées. Traitez vos conversations sur l’IA comme si elles pouvaient être lues par d’autres, en particulier en matière juridique.
- Utilisez-le pour la réflexion, pas la résolution. Chatgpt est préférable pour vous aider à trier vos pensées, pas à résoudre des problèmes émotionnels profonds.
Les changements d’Openai sont un pas vers des interactions plus sûres, mais ce ne sont pas un remède. La santé mentale nécessite la connexion humaine, la formation et l’empathie – les choses qu’aucune IA ne peut être pleinement reproduite.
Prenez mon quiz: Quelle est la sécurité de votre sécurité en ligne?
Vous pensez que vos appareils et données sont vraiment protégés? Prenez ce quiz rapide pour voir où se trouvent vos habitudes numériques. Des mots de passe aux paramètres Wi-Fi, vous obtiendrez une ventilation personnalisée de ce que vous faites bien – et ce qui a besoin d’amélioration. Prenez mon quiz ici: Cyberguy.com/Questionnaire
Les principaux plats de Kurt
Bien que Chatgpt soit un outil utile, il est loin d’être un substitut à un être humain, même avec l’introduction de l’agent, qui ajoute des capacités mais manque toujours d’empathie, de jugement et de compréhension émotionnelle. Les garanties contribuent grandement à répondre aux préoccupations concernant les implications éthiques et psychologiques de l’IA. C’est une bonne chose qu’Openai en est conscient car ce n’est que le début. Pour vraiment protéger les utilisateurs, l’entreprise devra continuer à évoluer comment Chatgpt gère les conversations émotionnellement sensibles.
Pensez-vous que les gens devraient utiliser l’IA pour la santé mentale? Faites-nous savoir en nous écrivant à Cyberguy.com/contact
Inscrivez-vous à mon rapport Cyberguy gratuit
Obtenez mes meilleurs conseils technologiques, mes alertes de sécurité urgentes et mes offres exclusives livrées directement dans votre boîte de réception. De plus, vous aurez un accès instantané à mon guide de survie à l’escroquerie ultime – gratuit lorsque vous rejoignez mon Cyberguy.com/newsletter
Copyright 2025 Cyberguy.com. Tous droits réservés.
Kurt “Cyberguy” Knutsson est un journaliste technologique primé qui a un amour profond pour la technologie, l’équipement et les gadgets qui améliorent la vie avec ses contributions pour Fox News & Fox Business début matins sur “Fox & Friends”. Vous avez une question technologique? Obtenez la newsletter gratuite de Kurt Cyberguy, partagez votre voix, une idée d’histoire ou un commentaire sur cyberguy.com.
Pour aller plus loin
