L’intelligence artificielle s’invite de plus en plus dans les décisions concernant les soins de suivi après une hospitalisation, avec des conséquences parfois dramatiques pour les patients. Des algorithmes, censés optimiser l’accès aux soins, peuvent au contraire conduire à des refus de prise en charge basés sur des biais ou des hypothèses erronées, soulignant la nécessité d’une surveillance accrue.
Des chercheurs ont mis en évidence le risque que les algorithmes de santé reproduisent les préjugés humains existants. Une étude a révélé qu’un programme largement utilisé pour identifier les patients à risque favorisait systématiquement les patients blancs, même moins malades, par rapport aux patients noirs plus gravement atteints. L’explication ? L’algorithme se basait sur les dépenses de santé comme indicateur des besoins, or les patients noirs bénéficient souvent de moins de soins pour les mêmes pathologies, ce qui entraînait une sous-estimation de leur risque et un retard d’accès à une prise en charge adaptée.
Le problème ne se limite pas à la discrimination. Des outils d’évaluation de la couverture médicale prennent en compte des facteurs non cliniques tels que l’âge, le code postal ou les conditions de vie d’un patient. Si l’intégration de ces déterminants sociaux peut théoriquement améliorer les soins, les experts mettent en garde contre le risque de reproduire les inégalités. L’utilisation du code postal, par exemple, peut limiter l’accès aux services pour les patients issus de quartiers défavorisés, comme si le logiciel supposait que ces communautés pouvaient se contenter de moins.
Un cas particulièrement frappant illustre les dérives possibles. Un assureur a prédit qu’un patient de 85 ans se remettrait d’une blessure grave en 16,6 jours. Le 17e jour, la prise en charge en maison de retraite a été brutalement interrompue, alors que la patiente était encore incapable de s’habiller ou de marcher seule. Un juge a qualifié cette décision de « spéculative », mais d’ici là, la patiente avait épuisé ses économies pour financer les soins qui lui étaient nécessaires.
Les outils de planification des sorties d’hôpital sont également concernés. Certains systèmes utilisent l’IA pour recommander des plans de soins post-hospitaliers, mais ils ne tiennent pas toujours compte de la réalité du terrain. Ils peuvent par exemple présumer que la présence d’un membre de la famille garantit un soutien adéquat, sans vérifier si ce proche est réellement disponible et capable de prodiguer des soins. Un patient victime d’un AVC a ainsi failli être renvoyé chez lui avec un minimum de soutien médical, car le logiciel avait identifié son fils adulte comme un potentiel aidant, ignorant que celui-ci occupait deux emplois et était rarement présent à domicile.
Face à ces risques, les autorités commencent à réagir. Les Centers for Medicare & Medicaid Services ont récemment proposé de nouvelles règles visant à limiter l’utilisation des algorithmes opaques dans les décisions de couverture Medicare Advantage. À partir de l’année prochaine, les assureurs devront garantir que les outils prédictifs tiennent compte des circonstances individuelles de chaque patient et qu’un clinicien qualifié examine les refus recommandés par l’IA pour s’assurer qu’ils sont justifiés sur le plan médical.
« Les algorithmes doivent assister, et non supplanter, un bon jugement clinique », soulignent les experts. Il s’agit d’une première étape vers une utilisation plus responsable de l’IA dans les soins de santé, mais l’application effective de ces règles sera cruciale. L’objectif ultime est de garantir que ces nouveaux outils intelligents soient aussi transparents, impartiaux et compatissants que les soignants que nous souhaiterions pour nos propres familles.
Pour aller plus loin
