L’intelligence artificielle (IA) pourrait-elle un jour remplacer le jugement d’un chirurgien ? Une question éthique et pratique, ravivée par un débat sur les réseaux sociaux, met en lumière la nécessité d’une IA « explicable » dans le domaine de la santé, capable de justifier ses décisions.
La discussion a été relancée par Geoffrey Hinton, figure emblématique de l’IA, qui a posé une question provocatrice sur Twitter : face à un cancer, choisirait-on un chirurgien IA performant mais opaque (avec un taux de guérison de 90 %) ou un chirurgien humain moins efficace (80 %) ? « Voudriez-vous que ce chirurgien IA soit interdit ? » a-t-il demandé, ouvrant une vive controverse.
Si l’efficacité d’un algorithme est indéniable, certains estiment qu’il est impératif de comprendre son raisonnement, notamment dans un contexte aussi sensible que la santé. L’explicabilité de l’IA est un défi majeur. Dans les modèles simples, comme les régressions linéaires, il est possible d’analyser l’importance de chaque variable. Pour l’interprétation des images médicales, des outils comme Eli5, LIME et SHAP peuvent être utilisés, mais ils augmentent la complexité des calculs et nécessitent davantage de ressources.
Une équipe de chercheurs a exploré une approche combinant précision et transparence, en se concentrant sur le diagnostic des nodules thyroïdiens. Plus de 50 % des personnes de plus de 50 ans présentent ces nodules, dont seulement 5 à 10 % sont cancéreux. Actuellement, le diagnostic définitif repose sur des procédures invasives comme la biopsie.
Pour réduire le nombre de biopsies inutiles, les chercheurs ont développé un modèle d’IA (AIBx) capable d’aider les médecins à identifier les nodules les plus susceptibles d’être cancéreux. Une étude publiée dans la revue Thyroid Journal a démontré que l’utilisation de ce modèle permettait de réduire de plus de 50 % le nombre de biopsies superflues. La valeur prédictive négative de l’AIBx, c’est-à-dire la probabilité qu’un nodule prédit comme bénin le soit réellement, atteint 93,2 %.
AIBx fonctionne en comparant l’image du nodule à une base de données d’images similaires, affichant les diagnostics correspondants pour aider le médecin à prendre une décision éclairée. Le modèle ne remplace pas le médecin, mais l’assiste dans son diagnostic. Chaque étape du processus nécessite l’intervention du professionnel de santé, ce qui justifie l’appellation « Physician in Loop » (PIL).
La dernière version d’AIBx affiche également des cartes thermiques superposées à l’image, mettant en évidence les zones qui ont influencé la prédiction. En combinant l’analyse de similarité d’images et les cartes thermiques (cartes d’activation de classe), le modèle devient plus explicable et renforce la confiance du médecin dans ses résultats.
« L’utilisation d’un modèle d’IA explicable contribue à accroître la confiance dans les prédictions », conclut l’équipe. Tout comme un patient se fie à la confiance qu’il a dans son chirurgien, les algorithmes d’IA qui inspirent confiance seront privilégiés par rapport aux « boîtes noires ».
Pour en savoir plus sur ces recherches, consultez le site https://www.thyroïdebx.com/. L’article scientifique complet est disponible sur https://www.liebertpub.com/doi/abs/10.1089/thy.2019.0752.
