L’intelligence artificielle (IA) représente un potentiel considérable pour la santé, mais son adoption doit être encadrée par une gouvernance rigoureuse, une sécurité accrue et une évaluation constante de sa valeur ajoutée, souligne Pallavi Ranade-Kharkar, directrice de la recherche informatique et génomique chez Intermountain Health.
Face à la pression croissante pour automatiser les processus, améliorer l’accès aux soins et réduire les coûts, les établissements de santé se tournent de plus en plus vers l’IA. Ranade-Kharkar préconise une approche méthodique, axée sur le déploiement progressif d’outils d’IA – prédictifs, génératifs et hybrides – uniquement après validation de leurs résultats.
« L’IA a un énorme potentiel et évolue constamment », a-t-elle déclaré, tout en insistant sur la nécessité de maintenir des garde-fous stricts pour éviter les erreurs et préserver la confiance des patients et des professionnels de santé. Elle met en garde contre un excès de confiance, soulignant que « une dépendance excessive à l’IA peut être préjudiciable ». Les dirigeants doivent privilégier les projets qui produisent des résultats cliniques et opérationnels tangibles, et adopter des cycles d’apprentissage rapides, associés à une validation indépendante et un suivi post-implémentation.
La protection des données et la confidentialité des patients sont au cœur de cette démarche. Ranade-Kharkar insiste sur l’importance d’intégrer ces principes dès la conception, l’acquisition et l’utilisation des solutions d’IA. Les responsables de la sécurité des systèmes d’information (RSSI), les responsables de la conformité et les responsables des données doivent être impliqués dès le début et rester actifs tout au long du cycle de vie des outils.
« La sécurité des données et la confidentialité des patients sont l’affaire de tous », a-t-elle affirmé, ajoutant que la gouvernance doit clairement définir les responsabilités en matière de contrôles, d’audits et de gestion des incidents.
Au-delà de ces mesures de base, la transparence est essentielle. Les dirigeants doivent exiger une documentation détaillée sur les ensembles de données utilisés pour l’entraînement des modèles, les méthodes de test employées et les limites connues. Ils doivent également insister sur l’évaluation des biais lors du déploiement auprès de nouvelles populations et mettre en place une surveillance continue de la qualité, en particulier pour les modèles qui influencent les décisions cliniques ou modifient le dossier médical électronique.
La relation avec les fournisseurs de technologies est également un point crucial. Ranade-Kharkar recommande d’exiger une notification explicite lors de l’introduction de fonctionnalités d’IA, ainsi que des instructions claires pour l’évaluation des risques, l’activation et les contrôles. Elle préconise une stratégie de test en deux étapes : valider les affirmations des fournisseurs sur des exemples de données, puis confirmer les performances sur les propres données de l’établissement de santé avant un déploiement à grande échelle.
La surveillance humaine doit être adaptée au niveau de risque de chaque tâche. Les outils qui génèrent des résumés de réunions ou des brouillons de documents nécessitent moins de supervision que ceux qui génèrent des prescriptions ou des instructions de décharge. Pour les flux de travail à fort impact, des comités doivent définir les rôles des réviseurs, les voies d’escalade et les seuils d’intervention.
Enfin, il est crucial de mesurer l’expérience utilisateur. Ranade-Kharkar plaide pour une approche centrée sur le patient, qui accorde autant d’importance à la commodité et à la clarté qu’à la précision. Les taux d’abandon des kiosques, des chatbots et des systèmes d’enregistrement virtuels sont des indicateurs précieux : si les patients abandonnent, c’est que la conception ou le flux de travail est défaillant.
Elle conseille de définir un ensemble d’indicateurs clés de performance (KPI) combinant des mesures quantitatives (taux d’abandon, temps d’exécution des tâches) et qualitatives (sentiment post-interaction). Pour les outils destinés aux cliniciens, elle souligne l’importance de mesurer le temps gagné par tâche, la qualité de la documentation, les taux d’erreur et la satisfaction, ainsi que de mettre en place des mécanismes de sécurité pour acheminer les résultats douteux vers un examen humain.
Lorsqu’on lui a demandé un conseil pour ses pairs, Ranade-Kharkar a souligné que la technologie doit être au service des cliniciens et des patients. « Les meilleurs outils d’IA sont ceux qui augmentent les capacités humaines », a-t-elle conclu.
Pallavi Ranade-Kharkar interviendra au forum d’automne de CHIME lors de la session « Sidekick to Strategist: Redefining the Human-AI Partnership in Healthcare » (11 novembre ; 12h30).
À ne pas manquer
