L’intelligence artificielle (IA) offre des perspectives considérables pour améliorer les soins de santé, mais son adoption rapide expose le secteur à des risques de cybersécurité sans précédent. La protection des données des patients et la confiance dans les systèmes d’IA sont désormais des enjeux cruciaux pour garantir la sécurité et l’efficacité des traitements.
L’IA transforme déjà le paysage médical, en accélérant l’analyse d’imagerie diagnostique et en optimisant les processus opérationnels. Son potentiel est immense, mais cette révolution technologique s’accompagne d’une vulnérabilité accrue face aux cyberattaques. Les données personnelles, qui alimentent les modèles d’IA et d’apprentissage automatique, constituent une cible privilégiée pour les cybercriminels.
Les systèmes d’IA sont particulièrement sensibles aux attaques dites « contradictoires », où de légères modifications des données d’entrée peuvent entraîner des résultats erronés ou trompeurs. L’intégration croissante de l’IA dans les outils cliniques et opérationnels élargit considérablement la surface d’attaque, avec des conséquences potentiellement graves pour l’ensemble du secteur et la sécurité des patients.
La confiance est un pilier fondamental des soins de santé. La relation entre le patient et le professionnel de santé repose sur l’attente d’un diagnostic précis, de la protection des informations personnelles et de soins sûrs et efficaces. Or, l’IA intervient désormais dans presque tous les aspects de cette relation. Toute compromission de cet écosystème, qu’il s’agisse de manipulation de données, de vol de modèles ou de corruption, risque d’éroder rapidement la confiance dans l’IA et de freiner son adoption.
Une étude récente a mis en évidence cette fragilité. Elle a démontré que la modification de seulement 0,001 % des données d’entraînement d’un modèle d’IA pouvait augmenter le risque d’erreurs médicales. Ces résultats soulignent la vulnérabilité des modèles d’IA et leur capacité à générer des recommandations erronées, même pour des cliniciens expérimentés.
Il est donc impératif d’intégrer la cybersécurité au cœur même des systèmes d’IA en matière de santé. Pour relever ces défis, les établissements de santé doivent repenser leur approche du déploiement et de la gestion de l’IA. La sécurité ne peut plus être considérée comme un domaine distinct, mais doit être intégrée à chaque étape du développement, de la gouvernance et de la mise en œuvre.
Trois priorités se dégagent pour les acteurs du secteur : exiger une IA sécurisée dès la conception, intégrer la gestion des risques à chaque étape du cycle de vie de l’IA, et collaborer pour établir des normes à l’échelle du secteur. Les fournisseurs de technologies d’IA doivent fournir des preuves tangibles de la sécurité de leurs produits, en garantissant la validation des données et une surveillance continue.
Par ailleurs, il est essentiel de former les cliniciens aux capacités et aux vulnérabilités de l’IA. Ces professionnels de santé sont en première ligne et leur capacité à interagir efficacement avec les outils d’IA est cruciale pour maintenir la confiance et la sécurité. La formation doit porter sur le fonctionnement des outils d’IA, la reconnaissance des signes de manipulation de données et le développement d’un esprit critique pour remettre en question les résultats de l’IA.
En dotant les cliniciens de ces compétences, les établissements de santé peuvent créer un « pare-feu humain », une couche de défense complémentaire aux protections techniques. Les cliniciens formés peuvent ainsi jouer un rôle actif dans l’intégration de l’IA, en veillant à ce que ces outils améliorent les soins aux patients, sans les compromettre.
L’IA représente une transformation majeure pour le secteur de la santé, avec des avantages potentiels considérables. Cependant, sans une base solide en matière de cybersécurité, nous risquons non seulement d’exposer des données sensibles, mais aussi de miner la confiance et la sécurité dont dépendent les soins de santé. Une sécurité robuste est donc indispensable pour libérer tout le potentiel de l’IA, sans mettre en danger la sécurité des patients.