L’intelligence artificielle (IA) s’invite de plus en plus dans le domaine médical, mais son fonctionnement opaque suscite l’inquiétude des praticiens. Si l’IA peut fournir des informations précieuses pour le diagnostic et le traitement, la nécessité de comprendre comment elle arrive à ses conclusions devient un enjeu majeur pour gagner la confiance des médecins.
Nombre de professionnels de santé se montrent sceptiques face à ces algorithmes, souvent décrits comme une « boîte noire » en raison de la complexité des calculs qui les sous-tendent. Ils estiment que, tant qu’un algorithme produit des résultats exploitables, il n’est pas nécessaire de comprendre son fonctionnement interne. Cependant, cette approche est-elle réellement justifiable ?
Certains experts soulignent que les médecins utilisent déjà quotidiennement des outils diagnostiques sophistiqués dont ils ne maîtrisent pas tous les détails. Le score CHA2DSA-VASc, par exemple, permet d’évaluer le risque d’accident vasculaire cérébral chez les patients atteints de fibrillation auriculaire. Bien que peu de cliniciens connaissent les fondements scientifiques de ce calculateur, ils l’utilisent régulièrement. De même, le score FRAX, qui estime le risque de fracture osseuse sur dix ans, est largement employé malgré une compréhension limitée des calculs sous-jacents.
La clé de cette acceptation réside dans le soutien apporté par des organisations médicales reconnues. L’American Heart Association et l’American College of Cardiology recommandent l’utilisation du score CHA2DSA-VASc, tandis que la National Osteoporosis Foundation soutient le score FRAX. À ce jour, aucune grande société savante n’a émis de recommandation spécifique concernant l’utilisation d’algorithmes d’IA pour le diagnostic ou le traitement. L’American Diabetes Association a mentionné, dans ses normes de soins pour le diabète de 2020, la possibilité d’utiliser des systèmes d’IA pour le dépistage de la rétinopathie diabétique, mais a souligné que leurs avantages et leur utilisation optimale restent à déterminer.
Les enquêtes confirment ce scepticisme. Une étude menée auprès de 91 médecins généralistes a révélé que la compréhensibilité de l’IA est un facteur déterminant pour leur confiance dans ses recommandations en matière de dépistage du cancer du sein. Une enquête similaire au Royaume-Uni auprès de spécialistes a mis en évidence la même préoccupation. En Nouvelle-Zélande, 88 % des médecins se disent plus enclins à faire confiance à un algorithme d’IA capable d’expliquer son raisonnement.
Si l’explication des mathématiques complexes derrière l’apprentissage automatique peut s’avérer difficile, il existe d’autres moyens de rendre ces outils plus transparents. Des didacticiels simplifiés sur les réseaux de neurones, la modélisation de forêts aléatoires et d’autres techniques sont disponibles. Des outils comme les cartes de saillance et les réseaux contradictoires génératifs permettent de visualiser les zones spécifiques identifiées par l’IA, par exemple en mettant en évidence les pixels pertinents sur une radiographie.
Des chercheurs de l’Université de Washington ont utilisé cette approche pour expliquer les recommandations d’un algorithme de détection des changements liés à la COVID-19 sur des radiographies pulmonaires. De même, des chercheurs de l’Université de Stanford ont développé un système d’apprentissage profond capable d’identifier des anomalies sur des échocardiogrammes, et ont mis en évidence les zones d’intérêt qui ont conduit à leurs conclusions. Par exemple, si l’algorithme détectait une sonde de stimulateur cardiaque, il mettait en évidence les pixels correspondants.
Pour gagner la confiance des médecins, il est essentiel de lever le voile sur le fonctionnement de l’IA. Au-delà de la preuve de son efficacité et de son équité, les praticiens ont besoin d’explications claires et raisonnables pour comprendre comment ces outils parviennent à leurs résultats.