La Coalition for AI Health a annoncé qu’elle se réunira ce mois-ci pour finaliser son cadre consensuel et partager ses recommandations d’ici la fin de l’année dans une mise à jour des progrès.
POURQUOI EST-CE IMPORTANT
La CHAI s’est réunie en décembre pour développer un consensus et une compréhension mutuelle dans le but de dompter la volonté d’acheter des produits d’intelligence artificielle et d’apprentissage automatique dans les soins de santé et d’armer les décideurs informatiques de la santé avec des recherches universitaires et des directives approuvées pour les aider à choisir des technologies fiables qui apportent de la valeur.
Jusqu’au 14 octobre, CHAI accepte les commentaires du public sur son travail d’examen de la testabilité, de la convivialité et de la sécurité lors d’un atelier avec des experts en la matière des soins de santé et d’autres industries que l’organisation a organisé en juillet.
Auparavant, CHAI a produit un document important sur les préjugés, l’équité et la justice basé sur une réunion de deux jours et a accepté les commentaires du public jusqu’à la fin du mois dernier. Le résultat sera un cadre, les “Lignes directrices pour une utilisation responsable de l’IA dans les soins de santé”, qui favorise intentionnellement l’assurance, la sûreté et la sécurité de l’IA résiliente, selon la mise à jour des progrès du 6 octobre.
“L’application de l’IA apporte un énorme avantage pour les soins aux patients, mais son potentiel d’exacerber les inégalités dans les soins de santé l’est tout autant”, a déclaré le Dr John Halamka, président de Mayo Clinic Platform et cofondateur de la coalition dans la mise à jour.
La coalition affirme qu’elle travaille également à la création d’un ensemble d’outils et de lignes directrices pour le parcours de soins des patients, des chatbots aux dossiers des patients, afin que les populations ne soient pas affectées par les biais algorithmiques.
“Les directives pour l’utilisation éthique d’une solution d’IA ne peuvent pas être une réflexion après coup. Les experts de notre coalition partagent un engagement à garantir que des directives centrées sur le patient et informées par les parties prenantes puissent obtenir des résultats équitables pour toutes les populations”, a fait remarquer Halamka dans la mise à jour.
La mise à jour des progrès fait suite à la publication cette semaine de The White House Blueprint for an AI Bill of Rights.
CHAI a été formé par Change Healthcare, Duke AI Health, Google, Johns Hopkins University, Mayo Clinic, Microsoft, MITRE, Stanford Medicine, UC Berkeley, UC San Francisco et d’autres, et est observé par la Food and Drug Administration des États-Unis et le National Institutes of Health, et maintenant, le Bureau du coordinateur national pour l’informatique de la santé, selon l’annonce.
Certaines des organisations font également partie du Health AI Partnership dirigé par le Duke Institute for Health Innovation et élaborent des conseils et un programme open source basés sur les meilleures pratiques pour la cybersécurité de l’IA. DIHI sollicite actuellement des demandes de financement auprès des professeurs, du personnel, des étudiants et des stagiaires de l’Université Duke et du système de santé de l’Université Duke pour des projets d’innovation liés à l’automatisation afin d’améliorer l’efficacité opérationnelle des soins de santé.
ONC s’est concentré sur l’évolution de l’espace et, dans sa série de blogs, a discuté de ce qu’il faudrait faire pour tirer le meilleur parti des algorithmes pour stimuler l’innovation, accroître la concurrence et améliorer les soins aux patients et aux populations.
“Ce que nous savons des études à ce jour, c’est que la technologie prédictive basée sur l’IA/ML peut avoir un impact positif ou négatif sur la sécurité des patients, introduire ou propager des biais et entraîner une augmentation ou une réduction des coûts. En bref, les résultats ont été mitigés. Mais l’intérêt – et le bénéfice potentiel – reste élevé », ont écrit les auteurs de l’ONC Kathryn Marchesini, Jeff Smith et Jordan Everson dans un article de blog en juin.
Selon le Dr Brian Anderson, cofondateur de la coalition et médecin en chef de la santé numérique chez MITRE, le besoin national est à l’origine d’un cadre national pour l’IA en santé qui favorise la transparence et la fiabilité.
“La participation enthousiaste des principaux systèmes de santé universitaires, des organisations technologiques et des observateurs fédéraux démontre l’intérêt national important à faire en sorte que l’IA de la santé nous serve à tous”, a-t-il déclaré dans la mise à jour des progrès de la CHAI.
LA GRANDE TENDANCE
La collaboration sur l’IA a également été lancée pour lutter contre les programmes compromis qui présentent des risques de préjudice pour les cliniciens et les patients et renforcer le discernement et la compréhension de la prolifération des logiciels d’IA dans le secteur de la santé.
Les chercheurs de CHAI se préparent également à développer un programme en ligne pour aider à former les responsables informatiques de la santé, à établir des normes sur la manière dont le personnel doit être formé et sur la manière dont les systèmes d’IA doivent être pris en charge et entretenus.
“Ces systèmes peuvent intégrer un biais systémique dans la prestation des soins, les fournisseurs peuvent commercialiser des allégations de performances qui divergent des performances réelles et le logiciel existe dans un état avec peu ou pas de conseils sur les meilleures pratiques logicielles”, selon la déclaration de lancement de CHAI.
Mais en définissant dès le départ des objectifs d’équité et d’efficacité dans le processus d’apprentissage automatique et en concevant des systèmes pour atteindre ces objectifs, de nombreux professionnels de la santé pensent que des résultats biaisés peuvent être évités et que les avantages de l’IA dans les opérations de santé et les soins aux patients peuvent être réalisés.
ENREGISTREMENT
“Il est inspirant de voir l’engagement de la Maison Blanche et du ministère américain de la Santé et des Services sociaux à inculquer des normes éthiques à l’IA”, a déclaré Halamka dans la mise à jour.
“En tant que coalition, nous partageons bon nombre des mêmes objectifs, y compris la suppression des biais dans les algorithmes axés sur la santé, et nous sommes impatients d’offrir notre soutien et notre expertise à mesure que le processus politique progresse”, a-t-il déclaré.
Andrea Fox est rédactrice en chef de Healthcare IT News.
Courriel : [email protected]
Healthcare IT News est une publication HIMSS.
