Les établissements de santé repensent en profondeur leur stratégie de sécurité face à l’essor de l’intelligence artificielle (IA). L’approche initiale, axée sur des mesures d’urgence, laisse place à une gouvernance plus rigoureuse, une meilleure traçabilité des données et des contrôles adaptatifs pour ne pas freiner l’innovation tout en protégeant les patients.
Lors d’un récent webinaire consacré à la cybersécurité et à l’IA, plusieurs experts ont partagé leurs expériences sur la manière de sécuriser les systèmes de santé dans ce nouvel environnement. Brian Cayer, responsable de la sécurité des systèmes d’information (RSSI) de Keck Medicine of USC, Christopher Frenz, RSSI chez Experienced Healthcare Systems, Steven Ramirez, vice-président et RSSI de Renown Health, et Damian Chung, vice-président de la cyberdéfense et responsable de la sécurité pour le secteur de la santé chez Netskope, ont souligné la nécessité d’une transformation rapide des programmes de cybersécurité.
Les panélistes ont constaté que l’adoption de l’IA progresse souvent plus vite que la mise en place des mesures de sécurité correspondantes, un schéma déjà observé lors de précédentes vagues technologiques, mais à un rythme considérablement accéléré. Christopher Frenz a mis en garde contre une tendance à privilégier l’enthousiasme au détriment de la rigueur : « Je pense que de nombreuses organisations se lancent dans l’IA simplement pour suivre la tendance, sans nécessairement évaluer si c’est la solution appropriée au problème qu’elles cherchent à résoudre. »
La protection des informations sensibles est au cœur des préoccupations, a expliqué Brian Cayer. « Une grande partie de mes inquiétudes concerne la confidentialité des données et la manière dont nous les partageons avec les outils d’IA », a-t-il précisé. Il a insisté sur l’importance de sensibiliser le personnel médical aux risques liés au partage de données confidentielles dans des applications SaaS ou des modèles publics, où ces données pourraient être conservées ou réutilisées sans leur consentement.
Au-delà de la confidentialité, M. Cayer a souligné les dangers d’une automatisation excessive des outils de sécurité. Une interprétation erronée d’un événement par une plateforme de défense basée sur l’IA pourrait, par exemple, bloquer l’accès d’un chirurgien aux systèmes critiques en plein milieu d’une opération. Il a donc plaidé pour une surveillance humaine systématique des décisions de sécurité prises par l’IA, en particulier lorsque ces décisions ont un impact direct sur les soins aux patients.
Steven Ramirez a mis en avant l’importance d’une gouvernance solide et d’une vision globale des projets pour contrer ces risques. « Le succès que nous avons rencontré est directement lié à la gouvernance, à notre capacité à comprendre ce qui entre dans le système, pourquoi, et comment cela doit être utilisé », a-t-il déclaré. Chez Renown Health, chaque proposition suit un processus structuré : une demande formelle, un examen de faisabilité par un bureau de transformation, puis une validation par les équipes informatiques en termes d’adéquation technique, d’évaluation des risques de sécurité et d’analyse spécifique des implications de l’IA avant la signature de tout contrat.
Ce processus, qui se déroule chaque semaine, est soutenu par les différents services de l’entreprise. Les responsables de la conformité, de la confidentialité, des finances, des affaires juridiques et des contrats contribuent à garantir que les nouveaux outils sont systématiquement examinés et acheminés via ce processus centralisé, qui permet désormais de contrôler la grande majorité des initiatives liées à l’IA avant leur mise en œuvre.
Damian Chung a souligné que même une gouvernance rigoureuse est inefficace sans une visibilité claire sur le flux des données. « Il est essentiel de savoir où vont ces données, afin d’éviter que des informations confidentielles ou des données à caractère personnel (PHI) ne soient transmises à des modèles d’IA publics », a-t-il affirmé. Il a également mis en avant l’intérêt des outils capables de détecter et d’alerter les utilisateurs en temps réel lorsqu’ils s’apprêtent à envoyer des informations sensibles à des services externes, rendant ainsi la gouvernance plus concrète.
Les experts ont également reconnu la difficulté de localiser les PHI au sein des vastes systèmes de santé, mais ont souligné qu’ignorer ce défi n’est pas une option. Connaître l’emplacement et l’utilisation des PHI permet de prioriser les mesures de protection, d’éviter les mauvaises surprises et de concentrer les efforts sur les zones les plus vulnérables.
L’essor de l’IA renforce le lien entre les RSSI et les responsables des données, qui doivent désormais travailler en étroite collaboration pour garantir la qualité et la sécurité des modèles. Christopher Frenz a insisté sur le fait qu’aucun RSSI ne peut relever seul ces défis : « La sécurité est un moyen de garantir l’intégrité du modèle, pas une fin en soi. »
Pour favoriser cette compréhension commune, M. Frenz privilégie les simulations d’incidents liés à l’IA, qui permettent aux différentes parties prenantes de visualiser les interdépendances en temps réel. Ces exercices aident les responsables des données, les cliniciens, les équipes de conformité et les équipes opérationnelles à comprendre comment leurs décisions influencent la sécurité et pourquoi certaines mesures de protection sont essentielles.
Steven Ramirez a précisé que son organisation classe désormais les données en différentes catégories (données commerciales, données de recherche clinique, informations sur les patients dans Epic, données financières, etc.) et adapte les stratégies de protection en conséquence, allant du blocage des fuites de données à la désidentification et au contrôle d’accès basé sur les rôles. Ce travail est coordonné au sein des organes de gouvernance des données de l’entreprise, où les responsables de la sécurité, de la confidentialité, de la recherche, des finances et les cliniciens partagent la responsabilité.
Brian Cayer a souligné que les équipes de sécurité doivent fournir des outils d’étiquetage, de protection et de prévention des fuites de données, mais que la décision finale sur la manière de traiter chaque ensemble de données doit être prise en concertation avec les responsables métiers et cliniques. « Assurez-vous d’avoir une visibilité sur l’utilisation des données et de mettre en place des contrôles appropriés avant de subir une perte de données », a-t-il ajouté, soulignant l’importance de l’expertise des équipes de confidentialité et de conformité.
Les panélistes ont convenu que les interdictions générales de l’IA risquent d’inciter les utilisateurs à contourner les mesures de sécurité, en particulier dans un contexte de pression pour améliorer la productivité et l’expérience des patients. Damian Chung a souligné que tenter de bloquer l’accès à l’IA générative est une tâche impossible, car de nouveaux outils apparaissent constamment. Il a plaidé pour des politiques adaptatives qui distinguent les comportements à haut risque (tels que le téléchargement massif de données patients vers des services publics) des utilisations à faible risque qui peuvent être tolérées.
L’IA transforme également le paysage des menaces. Brian Cayer et Steven Ramirez ont noté que les e-mails de phishing générés ou améliorés par l’IA sont de plus en plus difficiles à détecter, car ils ne présentent plus les erreurs typiques des attaques traditionnelles. Les panélistes ont également évoqué des attaques autonomes où des adversaires utilisent des agents d’IA pour explorer les environnements, identifier les vulnérabilités et lancer des exploits avec une intervention humaine minimale. Ces évolutions nécessitent que les équipes de sécurité intègrent l’IA dans leurs propres défenses pour analyser les alertes, détecter les anomalies et réduire les temps de réponse.
Christopher Frenz a exhorté les RSSI à adapter leurs processus de gestion des vulnérabilités en accordant davantage d’attention aux mesures compensatoires qui peuvent atténuer les risques, même en l’absence de correctifs spécifiques. Il a souligné que les systèmes de santé doivent adopter une approche de défense en profondeur, en partant du principe que certaines vulnérabilités persisteront, mais en garantissant que leur exploitation reste difficile et visible.
En résumé, les experts recommandent :
- De traiter l’IA comme un programme d’entreprise avec une gouvernance claire et un processus d’examen centralisé.
- De maintenir une visibilité sur l’emplacement et le flux des données sensibles, et d’aligner les contrôles de sécurité en conséquence.
- De renforcer la collaboration entre les équipes de sécurité, de données, de confidentialité, de conformité et les cliniciens.
- De positionner la sécurité comme un facteur de qualité des données et de sécurité des patients.
- D’adopter des politiques adaptatives qui distinguent les utilisations acceptables de l’IA des comportements à haut risque.
- De se préparer aux attaques basées sur l’IA en investissant dans des mesures compensatoires et la détection des anomalies.
Damian Chung a conclu en soulignant l’importance de l’agilité : « La sécurité doit cesser d’être réactive et devenir proactive. »
À lire aussi
