L’intelligence artificielle (IA) s’invite de plus en plus dans le domaine de la santé, soulevant des questions cruciales quant à la transparence et à la fiabilité des données médicales. Un nouveau projet vise à établir un système permettant d’identifier précisément l’influence de l’IA sur les dossiers patients, afin de garantir l’intégrité des soins.
Le défi réside dans le fait que cette influence n’est pas binaire – il ne s’agit pas simplement de savoir si l’IA a ou non participé à la création d’une donnée – mais qu’elle se manifeste selon un spectre. Les données peuvent être entièrement générées par l’IA (« données AI-authore »), suggérées par l’IA puis validées par un professionnel de santé (« données recommandées par l’IA »), ou encore assistées par l’IA, l’humain restant l’auteur principal (« données assistées par l’IA »).
Pour répondre à ce besoin, les développeurs s’appuient sur deux approches complémentaires : le marquage des données et la provenance. Le marquage des données consiste à apposer une étiquette sur chaque élément d’information, indiquant le type d’interaction qu’il a eu avec l’IA. Cette simple indication permet de signaler que la donnée pourrait ne pas être entièrement originale et pourrait avoir un impact sur la formation de futurs modèles d’IA.
La provenance, quant à elle, offre un niveau de détail plus approfondi. Elle permet de retracer l’ensemble des informations relatives à la création d’une donnée : quel modèle d’IA a été utilisé, quelle version, quelle requête a été formulée, etc. Cette approche s’appuie sur la norme FHIR, dérivée de W3C Prov et adaptée aux standards de codage de données HL7. L’objectif est de réutiliser des normes d’IA plus générales, comme la carte de modèle, mais un consensus reste à trouver.
Comprendre le niveau d’influence de l’IA est essentiel pour évaluer la fiabilité des informations et, le cas échéant, réévaluer des décisions médicales basées sur ces données. Il est également possible d’utiliser la provenance pour identifier des anomalies ou des erreurs potentielles introduites par l’IA.
Les solutions envisagées permettent d’appliquer le marquage et la provenance au niveau de chaque élément de donnée, et non pas seulement au niveau de l’ensemble du dossier patient. Cela est particulièrement important pour des documents complexes comme les plans de soins, où certaines informations peuvent être influencées par l’IA tandis que d’autres restent inchangées.
Une préoccupation soulevée lors d’un récent événement (Connectathon) concerne la complexité de la gestion de la provenance. Les développeurs estiment qu’il s’agit principalement d’un problème de formation. Ils proposent d’utiliser le marquage des données comme indicateur pour orienter vers la provenance, ou d’intégrer directement la provenance au sein des ressources FHIR, en utilisant la fonctionnalité de « contenance » de la norme. Une autre solution consiste à utiliser le paramètre « _revinclude » pour inclure la provenance lors de la recherche de ressources.
Un guide de mise en œuvre, actuellement en développement par HL7, détaille ces approches et est accessible en ligne : https://build.fhir.org/ig/hl7/aitransparency-ig/branches/main/index.html. Des articles de blog complémentaires sont également disponibles sur le sujet, notamment sur les contrôles de l’IA et la provenance des ensembles de données d’apprentissage.
Par ailleurs, des travaux similaires sont menés par l’Alliance Data and Trust pour définir une norme de provenance applicable aux ensembles de données utilisés pour l’apprentissage de l’IA : https://dataandtrustalliance.org/work/data-provenance-standards.
Ces initiatives sont en constante évolution et encouragent la participation de tous les acteurs concernés afin d’adapter ces solutions aux différents cas d’utilisation et de bénéficier de leurs retours d’expérience.