L’Illinois est devenu le premier État américain à légiférer sur l’utilisation de l’intelligence artificielle (IA) dans le domaine de la santé mentale. Une nouvelle loi, entrée en vigueur début août, encadre strictement l’emploi de l’IA dans les services de thérapie et de psychothérapie, tout en autorisant certaines applications administratives.
La loi HB 1806, surnommée la « Loi sur le bien-être et la surveillance des ressources psychologiques », précise que seuls les professionnels de la santé mentale agréés – psychologues cliniciens, travailleurs sociaux, conseillers professionnels et thérapeutes conjugaux et familiaux – sont autorisés à proposer des services de thérapie ou de psychothérapie dans l’Illinois. Elle distingue trois types d’utilisation de l’IA : l’assistance administrative, le soutien supplémentaire et la prise de décision thérapeutique indépendante.
L’utilisation de l’IA pour des tâches administratives, telles que la planification de rendez-vous, le traitement des factures et la gestion des assurances, est autorisée. De même, l’IA peut être employée pour des fonctions de soutien, comme la tenue des dossiers patients, l’analyse de données anonymisées pour suivre les progrès et l’identification de références. Cependant, dans le cas d’enregistrements ou de transcriptions de séances, le consentement écrit du patient est obligatoire. Ce consentement doit être explicite et sans ambiguïté, un simple accord aux conditions générales d’utilisation ne suffisant pas. Le patient doit être informé par écrit de l’utilisation de l’IA et de son objectif précis.
La loi interdit formellement l’utilisation de l’IA pour prendre des décisions thérapeutiques de manière autonome, fournir une communication thérapeutique directe aux patients, générer des recommandations ou des plans de traitement sans l’approbation d’un professionnel agréé, ou encore détecter les émotions ou les états mentaux. La « communication thérapeutique » est définie comme toute interaction, verbale, non verbale ou écrite, visant à diagnostiquer, traiter ou répondre aux problèmes de santé mentale d’un individu.
Toute violation de cette loi est passible d’une amende civile pouvant atteindre 10 000 $ (environ 9 200 €) par infraction, et fera l’objet d’une enquête du Département de la réglementation financière et professionnelle de l’Illinois. La loi réaffirme également les règles de confidentialité des données des patients, conformément à la législation existante sur la protection de la santé mentale.
Cette nouvelle réglementation pose des défis aux fournisseurs et aux entreprises qui développent des systèmes d’IA « agentique » – des IA autonomes capables d’analyser l’état de santé mentale d’un utilisateur et d’agir en conséquence. Ces acteurs devront s’assurer que leurs technologies ne franchissent pas les limites fixées par la loi, notamment en matière de prise de décision thérapeutique indépendante. L’obtention d’un consentement écrit clair et affirmatif des patients pour l’utilisation de ces outils reste également une condition essentielle.
À ne pas manquer
