L’UE vote pour interdire l’IA dans la surveillance biométrique et exige la divulgation des systèmes d’IA

Mercredi, les responsables de l’Union européenne ont voté pour mettre en œuvre des réglementations proposées plus strictes concernant l’IA, selon Reuters. Le projet mis à jour du “Loi sur l’IA” la loi comprend une interdiction de l’utilisation de l’IA dans surveillance biométrique et nécessite des systèmes comme ChatGPT d’OpenAI pour révéler quand le contenu a été généré par l’IA. Bien que le projet ne soit toujours pas contraignant, il donne une bonne indication de la façon dont les régulateurs de l’UE envisagent l’IA.

Les nouvelles modifications de la proposition de loi de la Commission européenne, qui n’ont pas encore été finalisées, visent à protéger les citoyens de l’UE des menaces potentielles liées à la technologie d’apprentissage automatique.

Les changements surviennent au milieu de la prolifération de systèmes d’IA génératifs qui imitent les capacités de conversation humaines, comme OpenAI. ChatGPT et GPT-4, qui ont déclenché des controverses appelle à l’action parmi les scientifiques de l’IA et cadres de l’industrie concernant les risques sociétaux potentiels. Cependant, le projet de loi sur l’IA proposé par l’UE date de plus de 2 ans, il ne s’agit donc pas simplement d’une réponse instinctive au battage médiatique sur l’IA. Il comprend des dispositions qui protègent contre d’autres types de dommages causés par l’IA qui sont plus ancrés dans l’ici et maintenant qu’un hypothétique Prise de contrôle de l’IA.

“Alors que les entreprises Big Tech tirent la sonnette d’alarme sur leurs propres créations, l’Europe est allée de l’avant et a proposé une réponse concrète aux risques que l’IA commence à poser”, a déclaré Brando Benifei, co-rapporteur du projet de loi. (Un co-rapporteur est similaire à un co-parrain d’un projet de loi au Congrès américain, partageant avec une autre personne la responsabilité de rédiger et de guider la législation proposée tout au long du processus législatif.)

Le nouveau projet de loi sur l’IA comprend une disposition interdisant aux entreprises de récupérer des données biométriques (telles que des photos d’utilisateurs) sur les réseaux sociaux à des fins de formation à la reconnaissance faciale. Des nouvelles d’entreprises comme Clearview AI utilisant cette pratique pour créer des systèmes de reconnaissance faciale s’est attiré de vives critiques des défenseurs de la vie privée en 2020. Cependant, Reuters rapporte que cette règle pourrait être une source de discorde avec certains pays de l’UE qui s’opposent à une interdiction générale de l’IA dans la surveillance biométrique.

Le nouveau projet de l’UE impose également des mesures de divulgation et de transparence sur l’IA générative. Des services de synthèse d’images comme À mi-parcours seraient tenus de divulguer le contenu généré par l’IA pour aider les gens à identifier les images de synthèse. Le projet de loi exigerait également que les entreprises d’IA générative fournissent des résumés du matériel protégé par le droit d’auteur récupéré et utilisé dans la formation de chaque système. Alors que l’industrie de l’édition soutient cette proposition, selon Le New York Times, les développeurs de technologies s’opposent à sa faisabilité technique.

De plus, les créateurs de systèmes d’IA générative seraient tenus de mettre en place des garanties pour empêcher la génération de contenus illégaux, et les entreprises travaillant sur des “applications à haut risque” devraient évaluer leur impact potentiel sur les droits fondamentaux et l’environnement. Le projet actuel de loi de l’UE désigne les systèmes d’IA susceptibles d’influencer les électeurs et les élections comme “à haut risque”. Il classe également les systèmes utilisés par les plateformes de médias sociaux avec plus de 45 millions d’utilisateurs dans la même catégorie, englobant ainsi des plateformes comme Meta et Twitter.

Selon Reuters, Microsoft et IBM applaudissent les nouvelles règles proposées par les législateurs de l’UE, bien qu’ils espèrent un affinement supplémentaire de la législation proposée. “Nous pensons que l’IA nécessite des garde-fous législatifs, des efforts d’alignement au niveau international et des actions volontaires significatives de la part des entreprises qui développent et déploient l’IA”, a déclaré un porte-parole de Microsoft au service de presse.

Cependant, malgré les appels croissants à la réglementation de l’IA, certaines entreprises comme Meta ont minimisé les menaces potentielles des systèmes d’apprentissage automatique. Lors d’une conférence à Paris mercredi, Yann LeCun, scientifique en chef de l’IA chez Meta, a déclaré : “L’IA est intrinsèquement bonne parce que l’effet de l’IA est de rendre les gens plus intelligents”.

De plus, certains critiques pensent que l’alarme sur le risque existentiel des systèmes d’IA est exagéré et ne sert qu’à aider des entreprises comme Microsoft et OpenAI à atteindre capture réglementaire— usant de leur poids et de leur influence pour façonner la réglementation à leur avantage. Surtout concernant le potentiel Réglementation américaine sur l’IAles critiques affirment que permettre aux géants de la technologie d’écrire les règles pourrait nuire aux petites entreprises et étouffer la concurrence.

La Commission européenne a introduit pour la première fois Projet de règles de la loi sur l’IA en avril 2021, et certains ont critiqué le rythme lent des réglementations sur la scène mondiale, mais avec la technologie qui évolue si rapidement, il est difficile de suivre le rythme. Le chef de l’industrie européenne, Thierry Breton, a souligné la nécessité d’agir rapidement plutôt que de retarder les progrès. “L’IA soulève de nombreuses questions, d’un point de vue social, éthique, économique”, a-t-il déclaré. “Mais ce n’est pas le moment d’appuyer sur un ’bouton pause’. Au contraire, il s’agit d’agir vite et de prendre ses responsabilités.”

Les experts disent qu’après un débat considérable sur les nouvelles règles entre les pays membres de l’UE, une version finale de la loi sur l’IA n’est attendue que plus tard cette année.