L’intelligence artificielle, de plus en plus présente dans le diagnostic du cancer, peut comporter des biais insoupçonnés. Une étude récente révèle que la précision des systèmes d’IA en pathologie varie considérablement selon l’âge, le sexe et l’origine ethnique des patients, soulignant la nécessité d’une évaluation rigoureuse pour garantir un accès équitable aux soins.
Les chercheurs de la Harvard Medical School ont découvert que les modèles d’IA utilisés pour analyser des lames de tissus pathologiques sont capables de déduire des informations démographiques sur les patients, ce qui peut introduire des erreurs de diagnostic. L’étude, publiée le 16 décembre dans Cell Reports Medicine, a évalué quatre modèles d’IA couramment utilisés pour le diagnostic de 20 types de cancer différents.
Les résultats ont montré que les systèmes d’IA étaient moins performants pour certains groupes démographiques. Par exemple, ils ont eu des difficultés à distinguer les sous-types de cancer du poumon chez les hommes et les Afro-Américains, et à classifier les cancers du sein chez les femmes plus jeunes. Dans environ 29 % des cas analysés, des disparités significatives ont été observées.
« Nous nous attendions à ce que l’évaluation pathologique soit objective », explique Kun-Hsing Yu, professeur agrégé d’informatique biomédicale à l’Institut Blavatnik du HMS et professeur adjoint de pathologie au Brigham and Women’s Hospital. « Il est surprenant de constater que l’IA puisse extraire des informations démographiques à partir d’une simple image de tissu. »
L’équipe a identifié trois facteurs principaux expliquant ces biais. Tout d’abord, les données d’entraînement utilisées pour développer les modèles d’IA sont souvent déséquilibrées, avec une représentation inégale des différents groupes démographiques. Ensuite, certains cancers sont plus fréquents dans certaines populations, ce qui peut fausser les résultats. Enfin, les modèles d’IA peuvent détecter des différences moléculaires subtiles entre les groupes démographiques et les utiliser à tort pour établir des diagnostics.
Pour remédier à ce problème, les chercheurs ont développé un nouveau cadre appelé FAIR-Path, basé sur une technique d’apprentissage automatique appelée apprentissage contrastif. FAIR-Path permet aux modèles d’IA de se concentrer davantage sur les caractéristiques essentielles des cellules cancéreuses, tout en minimisant l’attention portée aux informations démographiques. L’application de FAIR-Path a permis de réduire les disparités diagnostiques d’environ 88 %.
« En effectuant ce simple ajustement, les modèles peuvent acquérir des fonctionnalités plus robustes et plus généralisables », souligne M. Yu. « Cela suggère qu’il est possible de réduire considérablement les biais sans avoir besoin d’ensembles de données d’entraînement parfaitement équilibrés. »
Les chercheurs travaillent désormais avec des institutions du monde entier pour étudier les biais liés à l’IA en pathologie dans différents contextes. Ils étudient également comment adapter FAIR-Path aux situations où les données sont limitées et comment ces biais peuvent contribuer aux inégalités en matière de soins de santé.
« Nous espérons que, grâce à une prise de conscience accrue et à une conception plus prudente des systèmes d’IA, nous pourrons construire des modèles qui fonctionnent bien pour toutes les populations », conclut M. Yu.
Pour aller plus loin
