L’innovation en santé exige une approche plus collaborative, où les disciplines scientifiques, médicales et technologiques ne travaillent plus en silos. Des biais insoupçonnés dans les algorithmes d’intelligence artificielle, notamment en matière de diagnostic, mettent en lumière l’urgence d’une réflexion interdisciplinaire pour garantir des soins plus équitables et efficaces.
Les dangers d’une spécialisation excessive sont de plus en plus évidents. L’exemple des diodes électroluminescentes (DEL) bleues, dont l’invention a valu le prix Nobel de physique en 2014 à Isamu Akasaki, Hiroshi Amano et Shuji Nakamura, illustre ce problème. Si cette technologie a révolutionné l’éclairage domestique en offrant une source lumineuse performante et économique, ses concepteurs n’ont pas initialement envisagé les conséquences potentielles sur la santé humaine. Une approche interdisciplinaire aurait pu anticiper les effets neurologiques d’une exposition prolongée à la lumière bleue, qui perturbe le sommeil en trompant le cerveau, qui la confond avec la lumière du jour.
Ainissa Ramírez, scientifique des matériaux, souligne que la recherche souffre d’un manque de transversalité : « La culture de la recherche… ne nous incite pas à regarder au-delà de notre propre discipline… Les cloisonnements académiques nous empêchent de penser de manière large et holistique. » Elle explique que, dans son domaine, les critères de sélection des matériaux se limitent souvent au coût, à la disponibilité et à la facilité de fabrication, reléguant les considérations éthiques au rang de cours optionnels.
Le même constat s’impose dans le domaine de la santé numérique. De nombreux data scientists et investisseurs se concentrent sur le développement d’algorithmes sophistiqués pour le dépistage et le traitement des maladies, sans toujours accorder suffisamment d’attention à la qualité et à la représentativité des données sur lesquelles ces outils sont entraînés. Cela peut engendrer des dilemmes éthiques majeurs.
Une étude menée par Zaid Obermeyer, de l’École de santé publique de l’Université de Californie à Berkeley, a révélé des biais raciaux dans un algorithme commercial utilisé pour évaluer les risques pour la santé. L’analyse de plus de 43 000 dossiers de patients blancs et 6 000 de patients noirs a montré que, lorsque l’algorithme attribuait le même niveau de risque à un patient noir qu’à un patient blanc, le patient noir était en réalité plus malade. « Un biais se produit parce que l’algorithme utilise les coûts de santé comme indicateur des besoins de santé. Moins d’argent est dépensé pour les patients noirs qui ont le même niveau de besoin, et l’algorithme conclut ainsi à tort que les patients noirs sont en meilleure santé que les patients blancs tout aussi malades », explique l’étude.
Une recherche argentine portant sur des réseaux neuronaux profonds utilisés pour diagnostiquer des maladies thoraciques à partir d’images radiographiques a également mis en évidence des inégalités. Les chercheurs ont constaté que des ensembles de données déséquilibrés en termes de représentation hommes/femmes conduisaient à des performances inférieures pour la classe minoritaire. « Avec un ratio de déséquilibre de 25 %/75 %, la performance moyenne pour toutes les maladies dans la classe minoritaire est nettement inférieure à celle d’un modèle formé avec un ensemble de données parfaitement équilibré », ont-ils conclu.
Pour remédier à ces problèmes, la Mayo Clinic, la Duke School of Medicine et Optum/Change Healthcare analysent actuellement un vaste ensemble de données de plus de 35 milliards d’événements de santé et 16 milliards de consultations, incluant des données socio-économiques. L’objectif est de pouvoir stratifier les données en fonction de critères tels que l’origine ethnique, le revenu, la localisation géographique et le niveau d’éducation. Par ailleurs, la création d’une plateforme d’évaluation systématique de l’équité et de la précision des algorithmes commerciaux, avec des « étiquettes » indiquant les sources de données, les protocoles de validation et les mesures de performance, pourrait également s’avérer utile. Des outils analytiques spécifiques, tels que TCAV de Google, Audit-AI et AI-Fairness 360 d’IBM, sont également disponibles pour détecter les biais algorithmiques.
Briser les barrières entre les disciplines en santé est un défi ambitieux, mais réalisable, à condition d’une volonté forte et d’un engagement soutenu.