L’engouement pour l’intelligence artificielle en médecine est confronté à un défi majeur : la méfiance des praticiens, alimentée par des algorithmes dont l’efficacité et l’équité sont souvent remises en question. Une analyse récente met en lumière les limites d’un outil de prédiction du sepsis largement utilisé, soulignant la nécessité d’une évaluation rigoureuse et d’une intégration réfléchie de ces technologies.
Un nombre croissant d’experts s’inquiètent de la prolifération d’algorithmes basés sur l’IA, dont beaucoup manquent de fondements scientifiques solides pour une utilisation directe dans les soins aux patients. Les critiques pointent notamment le manque de validation par des données externes, la dépendance à l’analyse rétrospective, le manque de généralisation et les biais potentiels.
Parmi les 59 dispositifs médicaux approuvés par la FDA (Food and Drug Administration) intégrant l’apprentissage automatique, 49 sont conçus pour améliorer l’aide à la décision clinique, principalement pour le diagnostic ou le triage. Ces outils permettent, par exemple, de détecter la rétinopathie diabétique, d’analyser les bruits cardiaques, de mesurer la fraction d’éjection ventriculaire gauche ou de quantifier les nodules pulmonaires et les lésions hépatiques.
Cependant, les preuves soutenant ces dispositifs varient considérablement. L’algorithme Epic Sepsis Model (ESM), intégré au dossier patient électronique Epic, a été testé sur plus de 400 000 patients dans trois établissements de santé pour prédire l’apparition du sepsis, une complication potentiellement mortelle. Une étude récente menée par l’Université du Michigan, portant sur plus de 27 600 patients, a révélé des performances décevantes. Les chercheurs, dirigés par Andrew Wong, ont constaté une aire sous la courbe ROC (Receiver Operating Characteristic) de seulement 0,63.
Le rapport précise que l’ESM a identifié seulement 7 % des patients atteints de sepsis qui n’ont pas reçu d’antibiotiques en temps opportun, soulignant une faible sensibilité par rapport aux pratiques cliniques actuelles. De plus, l’ESM a généré des alertes pour 18 % des patients hospitalisés, mais a manqué de détecter le sepsis chez 67 % des patients qui en étaient atteints, créant ainsi une « fatigue d’alerte » importante pour les soignants.
« L’augmentation et la croissance du déploiement de modèles propriétaires ont conduit à une multitude de documents confidentiels et non évalués par des pairs sur les performances des modèles qui peuvent ne pas refléter fidèlement les performances des modèles dans le monde réel », soulignent les auteurs de l’étude.
Ces résultats ne font qu’amplifier le scepticisme de nombreux cliniciens envers les outils d’aide à la décision basés sur l’IA. Pour éviter un rejet généralisé, il est crucial de mettre à disposition des outils scientifiquement rigoureux et de convaincre les professionnels de leur utilité.
Une approche consiste à développer un système d’évaluation impartial qui examine toutes les spécifications de chaque produit et génère des fiches techniques claires. Cependant, cela ne suffit pas. Il est également essentiel de s’inspirer du succès des plateformes de commerce en ligne comme Walmart ou Amazon, qui ont investi massivement dans des chaînes d’approvisionnement performantes et des services de livraison efficaces.
Ron Li et ses collègues de l’Université de Stanford insistent sur la nécessité d’impliquer toutes les parties prenantes dès la phase de conception des algorithmes, afin d’anticiper les obstacles potentiels à la mise en œuvre. Ils préconisent également une « cartographie de l’empathie » pour identifier les éventuelles inégalités de pouvoir entre les différents groupes de cliniciens.
La mise en œuvre de toute innovation technologique en santé doit tenir compte des enjeux sociaux et culturels propres à chaque établissement. Pour tirer pleinement parti des avantages de l’IA, il est impératif d’évaluer rigoureusement ses produits et services, et de les développer dans un environnement interdisciplinaire respectueux de toutes les parties prenantes.
