L’Organisation mondiale de la santé a publié la semaine dernière une note d’orientation visant à lutter contre les biais liés à l’âge dans les outils d’intelligence artificielle liés à la santé.
Le mémoire, « L’âgisme dans l’intelligence artificielle pour la santé », propose un large éventail de mesures pour garantir que les personnes âgées sont effectivement engagées dans les processus, les technologies et les services qui les concernent.
“Les préjugés implicites et explicites de la société, y compris autour de l’âge, sont souvent reproduits dans les technologies d’IA”, a déclaré Alana Officer, chef d’unité du changement démographique et du vieillissement en bonne santé à l’OMS.
“Pour garantir que les technologies d’intelligence artificielle jouent un rôle bénéfique, l’âgisme doit être identifié et éliminé de leur conception, de leur développement, de leur utilisation et de leur évaluation”, a poursuivi M. Officer.
POURQUOI EST-CE IMPORTANT
Comme le note l’OMS, l’IA recèle un grand potentiel pour transformer les soins de santé, y compris à l’échelle de la population.
En ce qui concerne spécifiquement les personnes âgées, les outils permettant les soins communautaires et de longue durée via la surveillance à distance des patients et le développement de médicaments liés au vieillissement peuvent être particulièrement utiles.
Dans le même temps, les technologies d’IA peuvent reproduire les préjugés sociétaux, exacerbant potentiellement les disparités existantes dans les soins.
Pour cette note, l’OMS s’est concentrée sur les préjugés affectant les personnes âgées, tout en reconnaissant que d’autres défis éthiques – tels que ceux liés à la race, au sexe ou au statut socio-économique – doivent également être abordés.
“L’encodage des stéréotypes, des préjugés ou de la discrimination dans la technologie de l’IA ou leur manifestation dans son utilisation pourrait nuire, par exemple, à la qualité des soins de santé pour les personnes âgées, réduire l’engagement intergénérationnel ou limiter l’utilisation bénéfique des technologies de l’IA pour les personnes âgées en raison d’idées préconçues, des hypothèses souvent erronées sur la façon dont les personnes âgées souhaitent vivre ou interagir avec la technologie dans leur vie quotidienne », ont écrit des chercheurs dans le dossier de l’OMS.
Par exemple, les personnes âgées peuvent être exclues des ensembles de données utilisés pour former les outils d’IA, ou exclues des études de marché, de la conception et des tests.
Le mémoire décrit plusieurs stratégies pour maximiser les avantages de l’IA en santé pour les personnes âgées, notamment :
- Conception participative des technologies d’IA par et avec les personnes âgées
- Équipes de science des données d’âges divers
- Collecte de données incluant l’âge
- Investissements dans l’infrastructure numérique et la littératie numérique pour les personnes âgées et leurs prestataires de soins de santé et aidants
- L’établissement du droit des personnes âgées de consentir et de contester les recommandations de l’IA pour la santé
- Cadres de gouvernance et réglementations pour autonomiser et travailler avec les personnes âgées
- Recherche accrue pour comprendre les nouvelles utilisations de l’IA et comment éviter les biais
- Processus éthiques solides dans le développement et l’application de l’IA
“Les technologies d’IA pour la santé peuvent renforcer les soins de santé et sociaux pour les personnes âgées en aidant à identifier les risques et en permettant aux personnes âgées de répondre à leurs propres besoins individuellement ou en collaboration avec leurs prestataires de soins de santé”, lit-on dans la note d’orientation.
“Pour garantir que les technologies d’intelligence artificielle jouent un rôle bénéfique, l’âgisme doit être identifié et éliminé de leur conception, de leur développement, de leur utilisation et de leurs évaluations”, a-t-il poursuivi.
LA GRANDE TENDANCE
Une attention renouvelée a été accordée à la lutte contre les biais dans l’IA, en particulier dans le contexte de la pandémie de COVID-19.
Chris Hemphill, vice-président de l’IA appliquée et de la croissance chez SymphonyRM, a déclaré Nouvelles de l’informatique de la santé l’année dernière que la résolution de ce problème nécessite une approche globale.
“Il y a la partie apprentissage automatique, mais il y a aussi la partie humaine”, ont-ils déclaré. “La modélisation ne signifie rien si vous n’avez pas l’expérience utilisateur ; les discussions avec les utilisateurs ; la formation sur comment et pourquoi les gens devraient l’utiliser.”
ENREGISTREMENT
“L’IA est très prometteuse pour la pratique de la santé publique et de la médecine”, ont écrit des chercheurs dans le mémoire de l’OMS.
“Pourtant, pour tirer pleinement parti des avantages de l’IA, les défis éthiques pour les systèmes de santé, les praticiens et les bénéficiaires des services médicaux et de santé publique doivent être relevés”, ont-ils poursuivi.
Kat Jercich est rédactrice en chef de Healthcare IT News.
Twitter: @kjercich
Courriel : [email protected]
Healthcare IT News est une publication HIMSS Media.
