Geisinger, un important système de santé américain, repense en profondeur son approche de l’intelligence artificielle (IA), passant d’une logique de projets ponctuels à une organisation structurée autour de produits et de services. Cette transformation vise à garantir une utilisation responsable et efficace de l’IA, tout en répondant à une demande croissante.
Selon Morgan Jeffries, directrice médicale de l’IA chez Geisinger, la clé de cette nouvelle organisation réside dans la création d’équipes produits multidisciplinaires. Ces équipes, composées de chefs de produit, de scientifiques des données, d’ingénieurs et de designers, sont chargées de transformer des idées prometteuses en solutions concrètes et opérationnelles.
Geisinger adopte une stratégie à deux volets : développer en interne des modèles d’IA lorsque l’organisation maîtrise parfaitement le problème à résoudre, et évaluer rigoureusement les solutions proposées par des tiers. Cette évaluation, baptisée “activation”, vise à garantir la transparence des modèles, leur validation sur des données locales, leur surveillance continue et leur conformité avec les politiques de Geisinger.
La gouvernance de l’IA est au cœur de cette démarche. Jeffries souligne l’importance d’une approche basée sur l’évaluation des risques. Les projets à faible risque bénéficient d’une supervision allégée, tandis que ceux présentant un risque plus élevé font l’objet d’une analyse approfondie, incluant une évaluation des risques, des mesures d’atténuation, un plan de surveillance et une procédure d’escalade.
« Ils doivent faire une évaluation des risques associés au système d’IA… puis d’une évaluation des actions… puis d’un plan de surveillance… puis d’un plan d’escalade », explique Jeffries, insistant sur la nécessité de prendre en compte le contexte local, même lorsque les fournisseurs fournissent une documentation détaillée. Elle met également en avant l’importance d’intégrer des perspectives variées – techniques, cliniques et éthiques – dans les processus de décision.
La gestion des fournisseurs est également un défi majeur. Si les nouveaux fournisseurs sont soumis à des questionnaires spécifiques concernant l’IA, le véritable enjeu réside dans le suivi des logiciels existants qui intègrent progressivement des fonctionnalités d’IA via des mises à jour régulières. Pour faire face à cette réalité, Geisinger privilégie une approche axée sur les plateformes et les modèles, plutôt que sur des examens individuels.
Le marché de l’IA évolue rapidement, passant d’une logique de “nous sommes une entreprise d’IA” à une logique d'”l’IA est intégrée au produit”. Geisinger adapte donc son modèle de surveillance en conséquence, en travaillant avec les propriétaires de plateformes pour mettre en place une gouvernance partagée et rapprocher la surveillance des solutions.
Jeffries reconnaît que la gouvernance centralisée ne pourra pas être maintenue à long terme. Les équipes centrales se concentreront sur la définition des politiques, la formation aux modèles de risque et l’intervention dans les cas les plus complexes, tandis que les propriétaires de produits et d’entreprises assumeront la responsabilité quotidienne de la conformité.
L’IA peut-elle aider à évaluer l’IA ? Jeffries se montre prudente, soulignant les risques de biais, de complaisance et de décalage. Cependant, elle reconnaît que des outils d’assistance peuvent aider les chefs de projet moins expérimentés à identifier les risques potentiels et à garantir l’équité. Un “copilote” bien conçu peut donc être un atout précieux, à condition que les experts de la matière restent impliqués et que la responsabilité finale reste humaine.
Enfin, Geisinger investit massivement dans la formation de ses employés, non seulement des membres des comités de gouvernance, mais de l’ensemble du personnel. L’objectif est de leur apprendre à utiliser les outils d’IA de manière sûre et efficace, et de créer une culture du partage des expériences et des leçons apprises. Cette diffusion culturelle est considérée comme un moyen de contrôler les risques, à l’image de la sensibilisation au phishing au cours de la dernière décennie.
Jeffries insiste sur la nécessité d’une approche pragmatique et mesurable, avec des canaux d’admission clairs, un dépistage précoce de la présence d’IA, un triage rapide vers des conseils adaptés et un suivi continu des solutions déployées. Elle encourage également à séparer l’urgence de la précipitation, et à laisser les autres faire des erreurs pour en tirer des leçons.
À lire aussi
