L’intelligence artificielle (IA) suscite un intérêt croissant dans le secteur de la santé, mais son déploiement soulève des questions cruciales en matière de confidentialité et de sécurité des données. Des experts travaillent déjà à adapter les normes existantes, notamment HL7 et FHIR, pour répondre à ces défis et garantir une utilisation éthique et responsable de l’IA.
Au cœur des préoccupations se trouve la question de savoir si et comment les données de santé peuvent être utilisées pour entraîner des modèles d’IA. Il est essentiel de définir des règles claires permettant de spécifier quelles données sont autorisées à cet effet, et lesquelles ne le sont pas. Ces règles doivent s’appliquer à différents niveaux : à l’ensemble des données (par exemple, au sein d’une base de données) et au niveau du consentement individuel du patient. « Un patient doit avoir la possibilité de choisir de ne pas inclure ses données dans l’entraînement d’une IA », soulignent les spécialistes.
Une fois un modèle d’IA entraîné, il est tout aussi important de conserver une trace précise des données qui ont servi à sa création. Cette « provenance » des données permet de comprendre comment l’IA a été formée et, en cas de problème, de déterminer si celui-ci est lié aux données d’entraînement. La provenance des données est donc un élément clé pour assurer la fiabilité et la transparence des systèmes d’IA.
Le contrôle de l’utilisation des données individuelles dans les décisions prises par l’IA est également un enjeu majeur. Le consentement du patient doit permettre d’autoriser ou de refuser l’utilisation de ses données dans un contexte clinique spécifique. Dans ce cadre, des « objectifs d’utilisation » précis sont définis : PMTDS pour les décisions de paiement et TREATDS pour les décisions cliniques. Ces objectifs permettent de contrôler l’accès aux données par l’IA, indépendamment de l’accès effectué par un humain à des fins similaires.
Enfin, il est nécessaire de pouvoir identifier clairement les données qui sont le résultat d’une décision ou d’une recommandation formulée par une IA. Cela peut se faire en utilisant des balises de sécurité ou des informations de provenance plus détaillées, incluant la version du modèle d’IA utilisé et les données spécifiques du patient qui ont été prises en compte. « Le marquage peut se faire au niveau de la ressource de données ou de l’élément », expliquent les experts, soulignant l’importance de savoir d’où proviennent les informations.
Les acteurs du secteur de la santé disposent déjà d’un certain nombre d’outils et de méthodes pour relever ces défis. L’objectif est désormais d’encourager leur utilisation et de les adapter aux spécificités de l’IA, plutôt que de repartir de zéro. Cette approche pragmatique permettra de garantir que l’IA est déployée de manière responsable et respectueuse de la confidentialité des patients.