Réglementation de l’IA

L’essor de l’intelligence artificielle (IA) dans le secteur de la santé suscite à la fois enthousiasme et interrogations. Avant de pouvoir être déployées, ces nouvelles technologies, des outils de diagnostic du mélanome aux chatbots proposant des traitements, doivent obtenir l’aval de l’Agence australienne des produits thérapeutiques (TGA). Mais comment cette agence évalue-t-elle la sécurité et l’efficacité de ces systèmes complexes ?

Selon la TGA, l’IA relève de sa compétence dès lors qu’elle est destinée au diagnostic, à la prévention, à la surveillance, à la prédiction, au pronostic, au traitement ou à l’atténuation d’une maladie, d’une blessure ou d’un handicap. Elle est alors traitée et réglementée comme un dispositif médical, avec un processus d’approbation légèrement différent de celui des médicaments.

« Pour obtenir l’approbation d’un dispositif médical, un promoteur australien doit soumettre une demande à la TGA et fournir des preuves cliniques et autres preuves pertinentes démontrant que le produit est sûr et répond à l’usage prévu. Les bénéfices du modèle d’IA doivent contrebalancer tout effet indésirable et les risques doivent être minimisés », a déclaré un porte-parole de la TGA.

Le demandeur doit également détailler comment il compte assurer un suivi continu des performances du dispositif, et assumer la responsabilité du produit tout au long de son cycle de vie, y compris en cas de rappel. Pour les dispositifs médicaux connectés, des exigences strictes s’appliquent en matière de conception, de développement, de production, de tests, de maintenance, de cybersécurité et de gestion des données.

La TGA insiste notamment sur la nécessité pour les fabricants de surveiller en permanence les menaces en matière de cybersécurité, afin de prévenir toute interception ou compromission des données.

Le niveau de contrôle exercé par la TGA varie en fonction du niveau de risque associé au modèle d’IA. Les produits à faible risque peuvent faire l’objet d’une auto-certification par les fabricants, tandis que les produits à risque plus élevé nécessitent une évaluation indépendante de leur sécurité, de leurs performances et de leur fabrication.

L’agence peut également prendre en compte les approbations réglementaires délivrées par des organismes étrangers comparables, tels que la FDA américaine, Santé Canada ou les organismes notifiés européens. Le niveau de contrôle supplémentaire appliqué aux produits déjà approuvés à l’étranger dépendra du risque et des « exigences ou préoccupations spécifiques à l’Australie ».

« Nous accordons une attention particulière aux logiciels et aux IA à haut risque susceptibles de causer des dommages en fournissant des informations inexactes aux patients et aux professionnels de santé », précise la TGA.

Les obligations post-commercialisation sont particulièrement importantes pour les modèles d’IA. Les promoteurs doivent démontrer leur capacité à gérer les risques et les biais involontaires, la dégradation des performances et l’utilisation du système à des fins non spécifiées par le développeur. Ils doivent également signaler les événements indésirables et se conformer aux procédures de rappel en cas de problème, en informant immédiatement les utilisateurs et en suivant les instructions de la TGA.

La TGA se réserve également le droit de mener des examens ou des enquêtes post-commercialisation à tout moment, en analysant notamment la conception de l’algorithme, la méthodologie de formation et de test, ainsi que l’exactitude, la sensibilité et la spécificité du modèle.

Il est important de souligner que la TGA ne dicte pas le choix des technologies aux établissements de santé. Cette décision relève de la responsabilité des dirigeants hospitaliers et des professionnels de santé. La Commission australienne sur la sécurité et la qualité des soins de santé recommande que l’IA réponde à un besoin clair, s’intègre au flux de travail existant et offre des avantages supérieurs aux risques potentiels, notamment en termes de biais et d’inéquité.

L’approbation de la TGA n’est donc pas une garantie absolue. Les professionnels de santé doivent exercer leur propre jugement et s’assurer de la pertinence et de la sécurité de l’IA avant de l’intégrer à leur pratique. L’Agence australienne de réglementation des praticiens de la santé rappelle que « l’approbation d’un outil ne modifie pas la responsabilité d’un praticien d’appliquer la surveillance et le jugement humains à son utilisation de l’IA ».

Enfin, l’utilisation de l’IA soulève des questions éthiques qui ne sont pas résolues par une simple approbation réglementaire. Les professionnels de santé doivent être transparents envers leurs patients quant à l’utilisation de l’IA et obtenir leur consentement éclairé.