L’intelligence artificielle (IA) est au cœur des discussions lors des réunions du groupe de travail HL7 Workgroup Plus cette semaine. Des efforts déjà déployés pour intégrer l’IA dans les systèmes de santé suscitent des interrogations, notamment en ce qui concerne la traçabilité et la transparence des données générées ou assistées par l’IA.
Le groupe de travail sur la sécurité (Security WG) de HL7 s’attache à mettre en place des mécanismes permettant d’identifier clairement l’origine des informations issues de l’IA. L’objectif n’est pas de juger de la pertinence de ces outils, mais de garantir que les professionnels de santé disposent d’éléments d’information précis pour évaluer et interpréter les données.
Deux approches principales sont envisagées. La première consiste à apposer une étiquette de provenance directement sur les données. Cette étiquette, identifiée par le code DU JARDIN (Intelligence Artificielle affirmée), signale qu’une ressource informatique – qu’il s’agisse de données brutes ou d’un élément d’information – a été générée ou validée par une IA. Cette étiquette peut être intégrée dans le fichier FHIR au niveau de la balise .meta.security, comme illustré ci-dessous :
{
"resourceType" : "Condition",
"id" : "1",
"meta" : {
"security" : [{
"system" : "http://terminology.hl7.org/CodeSystem/v3-ObservationValue",
"code" : "AIAST" }
]
},
... other content etc.....
}
Cette étiquette peut également être appliquée au niveau des éléments, notamment dans le cadre du standard DS4P, pour identifier précisément les parties d’un rapport de diagnostic qui ont été générées par l’IA, par exemple une note issue d’une analyse automatisée.
Le code DU JARDIN est conçu pour être portable et compatible avec d’autres normes du secteur, telles que HL7 v2, CDA, DICOM et IHE-XDS, facilitant ainsi son adoption et son interopérabilité.
La seconde approche repose sur l’utilisation de la ressource Provenance. Cette ressource, plus complète que la simple étiquette, permet de détailler l’origine de l’assertion de l’IA, en précisant l’algorithme utilisé, les données du dossier patient analysées, et même la version spécifique du modèle d’IA. Elle peut également pointer vers les éléments précis de la ressource cible qui ont été influencés par l’IA, grâce à des extensions dédiées.
L’utilisation de la ressource Provenance est particulièrement importante pour éviter les problèmes de « collapse de modèle » ou de « boucles de rétroaction », où l’IA réutilise ses propres conclusions comme données d’entrée, créant ainsi un biais. Le groupe de travail préconise que les IA soient capables de distinguer les données nouvellement saisies des données dérivées d’analyses antérieures.
En conclusion, ces initiatives visent à garantir une utilisation responsable et transparente de l’IA dans le domaine de la santé, en permettant aux professionnels de santé de comprendre l’origine des informations et d’évaluer leur fiabilité.