Publié le 2024-12-19 10:30:00. Les résumés d’informations générés par l’intelligence artificielle de Google, censés faciliter l’accès à des connaissances clés, diffusent des erreurs médicales potentiellement dangereuses, selon une enquête du Guardian. Des experts s’alarment de conseils erronés en matière de traitement du cancer et de tests médicaux.
- Google a été critiqué pour avoir donné des conseils incorrects aux patients atteints d’un cancer du pancréas, leur suggérant d’éviter les aliments riches en graisses.
- L’IA de Google a également diffusé des informations fausses concernant des tests hépatiques essentiels et des tests de dépistage du cancer chez les femmes.
- Des organisations de santé et des experts mettent en garde contre le risque que ces informations inexactes induisent les patients en erreur et compromettent leur santé.
L’enquête du Guardian révèle que les « aperçus IA » de Google, qui apparaissent en haut des résultats de recherche, peuvent contenir des inexactitudes graves en matière de santé. Dans un cas particulièrement préoccupant, l’IA a conseillé aux personnes atteintes d’un cancer du pancréas d’éviter les aliments gras, une recommandation diamétralement opposée aux directives médicales établies. Selon Anna Jewell, directrice du soutien, de la recherche et de l’influence chez Pancreatic Cancer UK, ce conseil est « complètement incorrect » et pourrait « compromettre les chances d’une personne d’être suffisamment bien pour bénéficier d’un traitement ».
D’autres exemples alarmants ont été mis en lumière. L’IA a fourni des informations trompeuses sur les analyses de sang hépatiques, sans tenir compte de facteurs tels que l’âge, le sexe ou l’origine ethnique, ce qui pourrait amener des patients atteints de maladies graves à croire à tort qu’ils sont en bonne santé. Pamela Healy, directrice générale du British Liver Trust, a qualifié ces résumés d’« alarmants », soulignant que de nombreuses personnes atteintes de maladies du foie ne présentent aucun symptôme à un stade précoce et qu’il est crucial qu’elles se fassent dépister.
L’enquête a également révélé des erreurs concernant les tests de dépistage du cancer du vagin, l’IA suggérant à tort que le test Pap est un test de dépistage de ce type de cancer. Athena Lamnisos, directrice générale de l’association caritative Eve Appeal, a dénoncé cette information comme « complètement fausse », craignant qu’elle n’incite les femmes à ne pas se faire vérifier en cas de symptômes.
Des préoccupations ont également été soulevées concernant les informations fournies sur les problèmes de santé mentale. Stephen Buckley, responsable de l’information chez Mind, a déclaré que certains résumés de l’IA offraient des « conseils très dangereux » et pouvaient inciter les gens à éviter de demander de l’aide. Il a également souligné que l’IA peut refléter des préjugés et des stéréotypes existants.
Interrogé par le Guardian, un porte-parole de Google a déclaré que la plupart des exemples de santé partagés étaient des « captures d’écran incomplètes » et que, d’après leur évaluation, les informations provenaient de « sources bien connues et réputées » et recommandaient de consulter des professionnels de la santé. La société affirme investir massivement dans l’amélioration de la qualité des aperçus IA, en particulier sur des sujets sensibles comme la santé, et que leur taux de précision est comparable à celui d’autres fonctionnalités de recherche.
Cette affaire intervient alors que les inquiétudes concernant la fiabilité des informations générées par l’IA se multiplient. En novembre dernier, une étude avait déjà révélé que les chatbots IA pouvaient donner des conseils financiers inexacts, et des préoccupations similaires avaient été soulevées concernant les résumés d’actualités. Sophie Randall, directrice du Patient Information Forum, a souligné que les aperçus IA de Google peuvent placer des informations de santé inexactes en tête des résultats de recherche, ce qui représente un risque pour la santé publique.