Publié le 20 décembre 2025 à 21h40. Des algorithmes d’intelligence artificielle, conçus pour améliorer la détection du cancer, présentent des biais raciaux inquiétants, affectant la précision de leurs diagnostics en fonction de l’origine ethnique des patients. Une étude de l’université Harvard révèle que ces systèmes peuvent extraire des informations démographiques directement des images médicales, une capacité hors de portée des pathologistes humains.
- Quatre principaux systèmes d’IA utilisés en pathologie présentent des biais dans près d’un tiers des diagnostics.
- Ces biais sont liés à la manière dont les IA sont entraînées et à la représentation des différentes populations dans les données d’apprentissage.
- Une nouvelle méthode d’entraînement, appelée FAIR-Path, permet de réduire significativement ces disparités de performance.
Des chercheurs de l’université Harvard ont mis en évidence un problème troublant : les systèmes d’intelligence artificielle (IA) utilisés pour aider au diagnostic du cancer présentent des biais raciaux. L’étude, publiée dans la revue Cellular and Molecular Medicine Reports, a analysé près de 29 000 images de pathologies cancéreuses provenant de plus de 14 400 patients. Les résultats montrent que quatre outils d’IA majeurs diffèrent en termes de précision selon l’âge, le sexe et, surtout, l’origine ethnique des patients.
Ce qui est particulièrement préoccupant, c’est que l’IA semble capable d’identifier des informations démographiques directement à partir des lames de pathologie, une prouesse impossible pour un médecin. « Nous avons découvert que, grâce à leur puissance, les IA peuvent distinguer de nombreux signaux biologiques subtils qui échappent à une évaluation humaine standard », explique Kun-Hsing Yu, chercheur à Harvard et auteur principal de l’étude, dans un communiqué de presse. « Identifier l’origine ethnique d’un patient à partir d’une simple lame est considéré comme une “mission impossible” pour un pathologiste. Le biais de l’IA en pathologie nous a donc surpris. »
Selon les chercheurs, ces erreurs sont dues au fait que les IA s’appuient sur des schémas associés à différentes données démographiques lors de l’analyse des tissus cancéreux. Une fois qu’un outil d’IA a identifié l’âge, la race ou le sexe d’un patient, ces facteurs deviennent centraux dans son analyse. En d’autres termes, l’IA reproduit les biais présents dans les données utilisées pour son entraînement.
L’étude révèle que les outils d’IA peuvent identifier plus facilement les échantillons prélevés sur des patients noirs. Ces lames de cancer contenaient, en moyenne, un nombre plus élevé de cellules néoplasiques anormales et moins d’éléments de soutien que celles des patients blancs, ce qui a conduit l’IA à les classer différemment, même lorsque les échantillons étaient anonymisés.
Le problème s’aggrave lorsque l’IA, après avoir identifié l’origine ethnique d’un patient, se concentre excessivement sur la recherche d’analyses antérieures correspondant à ce profil. Or, si le modèle a été principalement entraîné avec des données provenant de patients blancs, il aura du mal à interpréter correctement les données de patients moins représentés. Par exemple, les IA ont rencontré des difficultés à distinguer les sous-types de cellules cancéreuses du poumon chez les patients noirs, non pas par manque de données sur le cancer du poumon en général, mais par manque de données sur les cellules cancéreuses du poumon des patients noirs.
« C’était inattendu », a déclaré M. Yu dans le communiqué de presse. « Nous nous attendons à ce que l’évaluation pathologique soit objective. Pour poser un diagnostic, nous n’avons pas nécessairement besoin de connaître les données démographiques du patient. »
Cette découverte intervient après qu’une étude menée en juin dernier a révélé un biais racial similaire dans les outils de diagnostic psychiatrique basés sur de grands modèles de langage (LLM). Dans ce cas, les IA proposaient souvent des plans de traitement moins adaptés aux patients noirs lorsque leur origine ethnique était connue. En savoir plus sur cette étude.
L’équipe de Harvard a développé une nouvelle approche d’entraînement de l’IA, baptisée FAIR-Path (pour *Fairness-Aware Image Recognition in Pathology*), afin de pallier ces problèmes. L’application de ce cadre d’entraînement aux outils d’IA avant l’analyse a permis de réduire de 88,5 % les disparités de performance.
Bien que les 11,5 % restants ne soient pas négligeables, cette solution est encourageante. Tant que des cadres de formation comme FAIR-Path ne seront pas systématiquement intégrés à tous les outils d’IA utilisés en pathologie, les questions relatives aux biais inhérents à ces systèmes persisteront.
Pour en savoir plus sur le cancer : Lien entre un centre de données Amazon et un cluster de cancers rares
