L’intelligence artificielle s’invite de plus en plus dans le domaine de la santé, mais cette avancée rapide soulève des interrogations cruciales quant à la fiabilité des informations fournies et à la confiance que l’on peut accorder à ces outils. Des géants de la technologie comme OpenAI et Anthropic investissent massivement dans des solutions d’IA dédiées à la santé, mais les experts mettent en garde contre les risques d’erreurs et de désinformation.
Selon OpenAI, plus de 230 millions de personnes dans le monde utilisent déjà ChatGPT pour obtenir des renseignements sur leur santé et leur bien-être chaque semaine. Face à cette demande croissante, l’entreprise a lancé ChatGPT Health ce mois-ci et a acquis la startup Torch pour 60 millions de dollars (environ 55 millions d’euros) afin de renforcer ses capacités. Anthropic a rapidement suivi en annonçant Claude for Healthcare la semaine dernière, signalant une transformation en cours : le passage d’un simple chatbot à un véritable conseiller en matière de santé.
Dans un contexte marqué par des inégalités d’accès aux soins – qu’il s’agisse de l’augmentation des coûts de l’assurance aux États-Unis ou du manque de professionnels de santé dans les régions isolées – la démocratisation de l’information médicale est, en théorie, une évolution positive. Cependant, le fonctionnement opaque des grandes entreprises d’IA suscite des inquiétudes.
« Ce qui m’inquiète en tant que médecin, c’est le niveau élevé d’“hallucinations” et d’informations erronées que ces grands modèles de langage (LLM) peuvent parfois produire, et qui sont ensuite présentées aux utilisateurs », explique le docteur Saurabh Gombar, instructeur clinique à Stanford Health Care et cofondateur d’Atropos Health, une plateforme d’aide à la décision clinique basée sur l’IA. « Il y a une différence entre demander une recette de spaghettis et obtenir une quantité incorrecte d’ingrédients, et obtenir des conseils médicaux potentiellement dangereux. » Il illustre son propos en évoquant le cas d’une douleur à l’épaule gauche, qui pourrait être un signe de crise cardiaque chez certains patients, alors qu’un chatbot pourrait simplement recommander des analgésiques en vente libre.
Le risque est également que les patients arrivent chez leur médecin avec des idées préconçues, basées sur des informations erronées obtenues auprès d’une IA, ce qui pourrait nuire à la confiance dans le diagnostic médical. Google a déjà été critiqué pour les informations de santé inexactes fournies par son outil d’IA Aperçu, et ChatGPT et Claude ont également fait l’objet de critiques similaires pour des hallucinations et de la désinformation, malgré leurs clauses de non-responsabilité.
Le docteur Gombar estime que les entreprises d’IA doivent être plus transparentes quant à la probabilité d’erreurs et indiquer clairement lorsque les informations sont basées sur des preuves limitées ou sont purement spéculatives. Cette transparence est d’autant plus importante que les clauses de non-responsabilité des chatbots ne permettent pas aux utilisateurs de recourir à la justice en cas de faute, contrairement aux professionnels de santé.
La pénurie de médecins, en particulier dans les zones rurales des États-Unis (la main-d’œuvre des prestataires de soins primaires a diminué de 11 % par an au cours des sept dernières années), pourrait également modifier le rôle des médecins. « Si les patients ne consultent plus systématiquement un médecin en premier lieu, ces derniers risquent de devenir des experts sollicités en second avis plutôt qu’en première instance », prévient le docteur Gombar.
La question de la confidentialité des données est également au cœur des préoccupations. OpenAI et Anthropic affirment que leurs outils de santé sont sécurisés et conformes à la loi américaine HIPAA, qui protège les informations médicales sensibles. Cependant, Alexander Tsiaras, fondateur et PDG de StoryMD, une plateforme de dossiers médicaux basée sur l’IA, souligne que la protection contre le piratage n’est pas le seul enjeu. « Il faut également se demander ce qu’ils feront avec ces données », met-il en garde. « Leurs algorithmes de cryptage sont peut-être performants, mais une fois les données en leur possession, peut-on leur faire confiance ? » Il critique le « techno-optimisme » des élites de la Silicon Valley, qu’il accuse de ne pas prendre au sérieux les enjeux de confidentialité.
Par ailleurs, les chatbots ont tendance à être excessivement conciliants, ce qui peut être dangereux. Le chatbot Grok de xAI a récemment été critiqué pour avoir accepté de générer des photos suggestives de femmes et d’enfants, avant que cette fonctionnalité ne soit désactivée. Les chatbots peuvent également renforcer des idées délirantes ou des schémas de pensée nuisibles chez les personnes souffrant de troubles mentaux, pouvant entraîner des crises psychotiques ou des tentatives de suicide.
Andrew Crawford, conseiller principal pour la confidentialité et les données au sein du Center for Democracy and Technology, met en garde contre le risque que les entreprises d’IA privilégient le profit à la protection des données. « D’autant plus qu’OpenAI envisage d’explorer la publicité comme modèle économique, il est crucial que les données de santé soient hermétiquement séparées des autres informations collectées par ChatGPT », souligne-t-il.
Enfin, les données de santé non protégées que les utilisateurs saisissent volontairement dans des applications de bien-être personnel comme MyFitnessPal et Oura présentent également des risques en matière de confidentialité. « Cela amplifie le risque inhérent en rendant ces données plus accessibles », estime le docteur Gombar.
Pour des experts comme Tsiaras, les géants de l’IA à but lucratif ont terni l’image du secteur des technologies de la santé. « La confiance est tellement érodée que toute nouvelle entreprise doit faire preuve d’une transparence totale et démontrer qu’elle est au service des patients, et non qu’elle cherche à exploiter leurs données », conclut-il.
Nasim Afsar, médecin et ancienne directrice de la santé chez Oracle, considère ChatGPT Health comme une première étape vers ce qu’elle appelle la santé intelligente, mais souligne qu’il ne s’agit pas d’une solution miracle. « L’IA peut désormais expliquer les données et préparer les patients aux consultations médicales, ce qui est une avancée significative. Mais la véritable transformation se produira lorsque ces informations permettront de prévenir les maladies, de coordonner les soins et d’obtenir des résultats mesurables en matière de santé, et pas seulement d’améliorer les réponses dans un système défaillant. »
À ne pas manquer
