La Californie se positionne à nouveau en pionnière en matière de régulation de l’intelligence artificielle (IA) avec l’adoption de la loi sur la transparence de l’IA à la frontière (TFAIA), qui entrera en vigueur le 1er janvier 2026. Cette nouvelle législation impose des obligations significatives aux développeurs d’IA de pointe en matière de transparence, de responsabilité et de signalement des incidents.
La TFAIA fait suite à un premier projet de loi, le SB 1047, qui avait été rejeté par le gouverneur Gavin Newsom en 2024. Ce dernier était jugé trop restrictif par l’industrie technologique, qui craignait qu’il ne freine l’innovation. Suite à ce veto, un groupe de travail a été mis en place pour formuler des recommandations, qui ont ensuite façonné la TFAIA. Le sénateur californien Scott Wiener (D-SF) est à l’origine de ce texte, qui se concentre sur la transparence et la surveillance des systèmes d’IA les plus avancés.
La loi cible principalement les développeurs d’IA les plus importants, classés en deux catégories : les « développeurs frontières », capables de créer des modèles complexes nécessitant une puissance de calcul supérieure à 1026 opérations entières ou à virgule flottante, et les « grands développeurs frontières », qui, en plus de répondre à ce critère technique, doivent avoir un chiffre d’affaires annuel supérieur à 500 millions de dollars (environ 460 millions d’euros) avec leurs filiales. La plupart des petites entreprises et des start-up sont donc exemptées de ces nouvelles exigences.
Parmi les principales dispositions de la TFAIA, les grands développeurs frontières devront publier un « cadre de l’IA à la frontière » sur leur site web, détaillant leurs pratiques en matière de sécurité, leur gouvernance et leurs procédures pour identifier et atténuer les risques, y compris le risque « catastrophique » – défini comme la mort ou des blessures graves pour plus de 50 personnes, ou des dommages matériels supérieurs à 1 milliard de dollars (environ 930 millions d’euros) en un seul incident. Ce cadre devra être révisé et mis à jour annuellement.
En outre, les développeurs frontières devront publier un « rapport de transparence » avant ou lors du déploiement d’un nouveau modèle, précisant sa date de sortie, ses utilisations prévues, ses conditions d’utilisation et les langues prises en charge. Les grands développeurs frontières devront également inclure un résumé des évaluations des risques catastrophiques et leurs résultats.
La loi instaure également un mécanisme de signalement des « incidents critiques de sécurité », tels que la perte de contrôle d’un modèle d’IA, à l’Office of Emergency Services (OES) de Californie. Les développeurs sont tenus de signaler ces incidents dans les 15 jours suivant leur découverte, et dans les 24 heures si un risque imminent de décès ou de blessures graves est identifié.
La TFAIA prévoit également des protections pour les lanceurs d’alerte, interdisant les représailles contre les employés qui signalent des risques potentiels aux autorités. Une ligne d’assistance téléphonique est également mise en place pour faciliter ces signalements.
Le procureur général de Californie dispose de pouvoirs étendus pour faire appliquer la loi, avec des sanctions civiles pouvant atteindre 1 million de dollars (environ 930 000 euros) par infraction. Des sanctions seront notamment appliquées en cas de non-signalement des incidents de sécurité critiques ou de non-soumission des documents de conformité.
Enfin, la loi crée CalCompute, un cluster informatique public dédié à la promotion d’un développement de l’IA sûr, éthique et durable pour le secteur public. Le Département de technologie de Californie devra également examiner régulièrement les progrès de l’IA et proposer des mises à jour de la réglementation à partir du 1er janvier 2027.