Publié le 10 janvier 2026 à 11h03. OpenAI lance une nouvelle fonctionnalité, ChatGPT Health, capable d’analyser les dossiers médicaux des utilisateurs pour fournir des conseils personnalisés, malgré les avertissements persistants concernant la fiabilité des informations de santé générées par l’intelligence artificielle.
- Les chatbots d’IA sont de plus en plus pointés du doigt pour la diffusion de conseils médicaux erronés, voire dangereux.
- OpenAI persiste dans son développement d’outils de santé basés sur l’IA, malgré les inquiétudes croissantes des experts.
- Des questions cruciales se posent quant à la protection de la vie privée des données médicales partagées avec ces systèmes.
L’engouement pour les chatbots basés sur l’intelligence artificielle (IA) ne faiblit pas, mais leur capacité à fournir des informations fiables, en particulier dans le domaine de la santé, est de plus en plus remise en question. Des experts tirent la sonnette d’alarme face à la prolifération de conseils médicaux inexacts et potentiellement dangereux, diffusés par ces outils et facilement accessibles en ligne.
Récemment, une enquête menée par The Guardian a révélé que les aperçus d’IA de Google, intégrés aux pages de résultats de recherche, diffusaient de nombreuses informations médicales inexactes, susceptibles de mettre en danger la santé des utilisateurs. Malgré ces avertissements, OpenAI a annoncé le lancement de ChatGPT Health, une nouvelle fonctionnalité qui promet des réponses « plus pertinentes et plus utiles » en analysant les dossiers médicaux personnels des utilisateurs.
OpenAI assure que cette fonctionnalité a été « conçue en étroite collaboration avec des médecins » et repose sur des « contrôles rigoureux de la confidentialité, de la sécurité et des données ». Cependant, la société précise que ChatGPT Health est « destiné à compléter, et non à remplacer, les soins médicaux » et inclut une mise en garde paradoxale : l’outil n’est « pas destiné au diagnostic ou au traitement ». Sur son site web, l’entreprise explique que ChatGPT Health vise à aider les utilisateurs à « jouer un rôle plus actif dans la compréhension et la gestion de leur santé et de leur bien-être », tout en soulignant qu’il ne doit pas se substituer à l’avis d’un professionnel de la santé.
Néanmoins, de nombreux observateurs craignent que les utilisateurs ne recourent précisément à ChatGPT Health pour obtenir des conseils médicaux, ce qui pourrait nuire à la réputation d’OpenAI. Cette situation s’inscrit dans une tendance plus large, soulignée par Business Insider, qui observe que ChatGPT transforme les gens en « avocats et médecins amateurs », au grand dam des professionnels du droit et de la médecine.
Jonathan Freidin, avocat spécialisé en faute professionnelle médicale basé à Miami, a déclaré à la publication :
« Nous voyons de plus en plus de personnes qui pensent avoir un cas parce que ChatGPT ou Gemini leur ont indiqué que les médecins ou les infirmières n’avaient pas respecté les normes de soins. Même si cela peut être vrai, cela ne constitue pas nécessairement un dossier viable. »
Un autre sujet de préoccupation majeur concerne la divulgation des antécédents médicaux personnels. Malgré l’existence de lois fédérales, comme la HIPAA (Health Insurance Portability and Accountability Act) aux États-Unis, qui ne s’appliquent pas aux produits d’IA grand public, OpenAI encourage désormais les utilisateurs à partager leurs données médicales avec ChatGPT Health. Cette incitation a été amplifiée par des personnalités comme Elon Musk, qui a encouragé l’année dernière les utilisateurs à télécharger leurs données médicales sur son chatbot concurrent, Grok, ce qui a conduit à une vague de confusion et de diagnostics erronés basés sur l’interprétation d’images médicales.
Compte tenu des antécédents de l’industrie de l’IA en matière de protection de la vie privée et des nombreuses failles de sécurité, ces risques sont plus pertinents que jamais. Andrew Crawford, avocat principal du Centre pour la démocratie et la technologie, a déclaré à la BBC :
« Les nouveaux outils de santé de l’IA offrent la promesse d’autonomiser les patients et de promouvoir de meilleurs résultats en matière de santé, mais les données de santé font partie des informations les plus sensibles que les gens peuvent partager et elles doivent être protégées. »
Il souligne également l’importance de garantir une séparation stricte entre les données de santé et les informations collectées par ChatGPT à partir d’autres conversations, surtout si OpenAI envisage d’explorer la publicité comme modèle économique. Sara Geoghegan, avocate principale de l’Electronic Privacy Information Center, a quant à elle mis en garde dans The Record :
« ChatGPT n’est lié que par ses propres déclarations et promesses, donc sans aucune limitation significative, comme une réglementation ou une loi, ChatGPT peut modifier les conditions de son service à tout moment. »
Des inquiétudes subsistent également quant à la possibilité que des données sensibles, telles que des informations sur la santé reproductive, soient divulguées à la police sans le consentement de l’utilisateur. Crawford a interrogé The Record sur la manière dont OpenAI gère les demandes des forces de l’ordre :
« Est-ce qu’ils se contentent de transmettre les informations ? L’utilisateur est-il informé d’une manière ou d’une autre ? »
« Il y a beaucoup de questions auxquelles je n’ai pas encore de bonnes réponses », a-t-il ajouté.
Pour en savoir plus sur l’IA et les conseils de santé : Les aperçus de l’IA de Google sont surpris en train de donner des conseils de « santé » dangereux