L’intelligence artificielle s’impose de plus en plus comme un élément central de la stratégie des établissements de santé, mais soulève également des questions cruciales en matière de sécurité, d’éthique et de réglementation. Des investissements massifs sont réalisés, tandis que des voix s’élèvent pour appeler à une approche prudente et encadrée.
L’Association des hôpitaux américains (AHA) a récemment demandé à la Food and Drug Administration (FDA) d’adopter une approche flexible et basée sur les risques pour l’évaluation des dispositifs médicaux intégrant l’IA. L’AHA plaide pour une harmonisation avec les cadres réglementaires existants et une simplification du processus d’autorisation 510(k) – utilisé dans 96 % des cas d’approbation de dispositifs médicaux compatibles avec l’IA – tout en garantissant la protection de la vie privée et la sécurité des patients. Elle recommande également la mise en place de normes d’évaluation post-commercialisation pour identifier d’éventuels problèmes de précision et de validité.
Parallèlement, l’importance des rôles liés à l’IA au sein des organisations de santé est en forte croissance. Selon des dirigeants de prestataires interrogés, le poste de directeur de l’innovation en IA pourrait rapidement devenir l’un des rôles de direction les plus importants (niveau C), aux côtés des postes de directeur de l’IA et de directeur des systèmes d’information (CIO) ou directeur technique (CTO).
L’IA se déploie déjà sur le terrain. LCMC Santé prévoit de mettre en œuvre la technologie de documentation ambiante de Nabla. Google.org a annoncé un don de 5 millions de dollars (environ 4,6 millions d’euros) pour lancer une initiative européenne visant à permettre aux cliniciens de première ligne de développer et de tester leurs propres solutions d’IA.
Cependant, les risques liés à l’IA ne doivent pas être sous-estimés. Joe Braidwood, fondateur de Yara AI, a pris la décision de fermer son chatbot de santé mentale, estimant que l’IA présentait des risques inacceptables pour les utilisateurs vulnérables. « Nous avons eu du mal à distinguer le stress de routine d’un traumatisme ou d’une maladie mentale grave, ce qui rend difficile de savoir quand soutenir les utilisateurs et quand les diriger vers un professionnel », a-t-il expliqué. Il souligne également les limites de sécurité, les comportements nuisibles observés dans les grands modèles de langage et les nouvelles restrictions juridiques.
Dans le secteur des investissements, Artera, un développeur d’agents d’IA pour les soins de santé, a levé 65 millions de dollars (environ 60 millions d’euros) et prévoit d’atteindre 100 millions de dollars (environ 93 millions d’euros) de revenus annuels récurrents contractuels d’ici la fin de l’année.
Les avancées de l’IA se confirment également dans la recherche médicale. Une étude a démontré que la plateforme ECG basée sur l’IA, Queen of Hearts, surpassait les méthodes de triage standard des urgences dans l’identification des infarctus du myocarde avec élévation du segment ST.
Enfin, des usages détournés de l’IA suscitent l’inquiétude. Le New York Times a révélé que des patients téléchargent leurs dossiers médicaux depuis les portails en ligne des prestataires de soins, puis les soumettent à ChatGPT et à d’autres outils d’IA pour obtenir des conseils médicaux et une interprétation. Les experts mettent en garde contre la fiabilité incertaine de ces résultats et le risque de divulgation d’informations sensibles.
Une fausse information largement diffusée, concernant un agent de stationnement réservant des places pour des familles dans le besoin, a également mis en lumière les dangers de la désinformation générée par l’IA. L’hôpital concerné au Canada a démenti cette histoire, qui provenait d’une page Facebook avouant inventer des récits et utiliser des images créées par l’IA.
À lire aussi
