La Chine n’attend pas pour établir des règles sur l’IA générative

La semaine dernière, Je suis allé sur le podcast de CBC News “Nothing Is Foreign» pour parler du projet de règlement et de ce que cela signifie pour le gouvernement chinois d’agir aussi rapidement sur une technologie encore très nouvelle.

Comme je l’ai dit dans le podcast, je vois le projet de règlement comme un mélange de restrictions sensées sur les risques liés à l’IA et une continuation de la forte tradition gouvernementale chinoise d’intervention agressive dans l’industrie technologique.

De nombreuses clauses du projet de règlement sont des principes que les critiques de l’IA préconisent en Occident: les données utilisées pour former des modèles d’IA générative ne doivent pas porter atteinte à la propriété intellectuelle ou à la vie privée ; les algorithmes ne doivent pas discriminer les utilisateurs sur la base de la race, de l’origine ethnique, de l’âge, du sexe et d’autres attributs ; Les entreprises d’IA doivent être transparentes sur la manière dont elles ont obtenu les données de formation et sur la manière dont elles ont embauché des humains pour étiqueter les données.

En même temps, il existe des règles auxquelles d’autres pays rechigneraient probablement. Le gouvernement demande que les personnes qui utilisent ces outils d’IA génératifs s’enregistrent avec leur véritable identité, comme sur n’importe quelle plateforme sociale en Chine. Le contenu généré par les logiciels d’IA devrait également « refléter les valeurs fondamentales du socialisme ».

Aucune de ces exigences n’est surprenante. Le gouvernement chinois a réglementé les entreprises technologiques avec force ces dernières années, punissant les plates-formes pour modération laxiste et intégrant de nouveaux produits dans le régime de censure établi.

Le document rend cette tradition réglementaire facile à voir : il est fréquemment fait mention d’autres règles qui ont été adoptées en Chine, sur les données personnelles, les algorithmes, les deepfakes, la cybersécurité, etc. D’une certaine manière, on a l’impression que ces documents discrets forment lentement un réseau de règles qui aident le gouvernement à relever les nouveaux défis de l’ère technologique.

Le fait que le gouvernement chinois puisse réagir si rapidement à un nouveau phénomène technologique est une épée à double tranchant. La force de cette approche, qui examine chaque nouvelle tendance technologique séparément, “est sa précision, créant des remèdes spécifiques à des problèmes spécifiques”, écrit Matt Sheehan, membre du Carnegie Endowment for International Peace. “La faiblesse est sa nature fragmentaire, les régulateurs étant obligés d’élaborer de nouvelles réglementations pour de nouvelles applications ou de nouveaux problèmes.” Si le gouvernement est occupé à jouer au taupe avec de nouvelles règles, il pourrait manquer l’occasion de réfléchir stratégiquement à une vision à long terme de l’IA. Nous pouvons opposer cette approche à celle de l’UE, qui travaille depuis des années sur une loi sur l’IA “extrêmement ambitieuse”, comme ma collègue Melissa a récemment expliqué. (Une récente révision du projet de loi sur l’IA comprenait des réglementations sur l’IA générative.)