Publié le 28 décembre 2023. La Chine va renforcer la régulation des services d’intelligence artificielle (IA) capables de simuler des interactions humaines et de susciter des émotions, dans un contexte de développement rapide de ces technologies.
- Pékin souhaite encadrer le déploiement des IA conversationnelles auprès du grand public en imposant des exigences accrues en matière de sécurité et d’éthique.
- Les fournisseurs de ces services devront mettre en garde contre une utilisation excessive et intervenir en cas de signes de dépendance chez les utilisateurs.
- Le projet de réglementation interdit la génération de contenus portant atteinte à la sécurité nationale, diffusant des rumeurs ou incitant à la violence.
Le régulateur chinois de la cybersécurité a publié ce samedi 27 décembre un projet de règles soumises à la consultation publique, visant à encadrer plus strictement les services d’intelligence artificielle conçus pour imiter la personnalité humaine et engager les utilisateurs sur le plan émotionnel. Cette initiative reflète la volonté du gouvernement chinois de maîtriser l’essor rapide de l’IA destinée aux consommateurs.
Les règles proposées s’appliqueront à tous les produits et services d’IA offerts au public en Chine qui présentent des caractéristiques humaines simulées, telles que des traits de personnalité, des modes de pensée et des styles de communication spécifiques, et qui interagissent émotionnellement avec les utilisateurs par le biais de textes, d’images, d’audio, de vidéo ou d’autres supports.
Le projet de réglementation prévoit une approche proactive, obligeant les prestataires à informer les utilisateurs des risques liés à une utilisation excessive et à mettre en place des mécanismes d’intervention en cas de comportements addictifs. Selon les termes du projet, « les prestataires de services seraient tenus d’assumer des responsabilités en matière de sécurité tout au long du cycle de vie du produit et d’établir des systèmes d’examen des algorithmes, de sécurité des données et de protection des informations personnelles. »
Au-delà des aspects techniques, le projet de réglementation s’intéresse également aux risques psychologiques potentiels. Les fournisseurs seront tenus d’évaluer l’état émotionnel des utilisateurs et leur niveau de dépendance au service. En cas de détection d’émotions extrêmes ou de comportements addictifs, ils devront prendre les mesures nécessaires pour intervenir.
Le texte définit également des limites claires en matière de contenu, interdisant la génération d’éléments susceptibles de menacer la sécurité nationale, de propager des fausses informations ou d’encourager la violence ou l’obscénité.
À lire aussi
