La transparence de l’intelligence artificielle (IA) dans le secteur de la santé va être renforcée grâce à un nouveau guide de mise en œuvre, qui permettra d’identifier clairement quand et comment les données des patients ont été créées ou modifiées par l’IA. Ce guide, développé par l’organisation HL7, vise à instaurer la confiance et à garantir une utilisation éclairée de ces technologies en plein essor.
L’objectif principal est de fournir aux professionnels de santé, aux développeurs et aux institutions un format standardisé pour signaler l’implication de l’IA dans le traitement des informations médicales. Ce guide permettra aux systèmes informatiques et aux utilisateurs de déterminer si les données proviennent de l’IA, et si oui, quand, comment et grâce à quel algorithme elles ont été générées. Cette traçabilité est essentielle pour évaluer la fiabilité et la pertinence des informations issues de l’IA, et pour identifier les éventuels besoins de vérification.
Le guide de mise en œuvre prévoit notamment l’utilisation de balises ou d’indicateurs spécifiques sur les ressources FHIR (Fast Healthcare Interoperability Resources) – un standard d’échange de données de santé – pour marquer l’intervention de l’IA. Il inclut également des métadonnées détaillées sur l’outil utilisé, telles que le nom et la version du modèle, les horodatages, ainsi que des scores de confiance ou d’incertitude. La documentation de la surveillance humaine, c’est-à-dire la mention de l’examen ou de la modification des résultats par un clinicien, est également un élément clé.
En outre, le guide insiste sur la traçabilité des données : il doit être possible de savoir quelles informations (notes cliniques, images médicales, résultats d’analyses, etc.) ont été soumises à l’IA et comment les résultats ont été utilisés pour produire ou mettre à jour les données de santé. Cette transparence est cruciale pour les patients, les cliniciens et les administrateurs des systèmes de santé, qui pourront ainsi mieux comprendre l’origine des informations dont ils disposent.
« Savoir si des données ont été générées par l’IA ou par un humain est fondamental pour instaurer la confiance et garantir une utilisation responsable de ces technologies », explique l’organisation HL7. Cette transparence permettra également de détecter plus facilement les recommandations potentiellement dangereuses produites par les modèles d’IA, et de les soumettre à une réévaluation.
Ce guide de mise en œuvre sera soumis à l’examen de HL7 et servira de base à une piste d’essai lors du prochain Connectathon HL7 FHIR, qui se tiendra en janvier. L’adoption de ces standards est considérée comme une étape essentielle pour gérer efficacement l’utilisation croissante de l’IA dans le domaine de la santé.