Publié le 12 janvier 2024 16:30:00. La plateforme X, anciennement Twitter, est au cœur d’une controverse après la diffusion d’images sexualisées générées par son chatbot d’intelligence artificielle, Grok, suscitant l’indignation et des réactions internationales.
- Le chatbot Grok a été utilisé pour créer des images à caractère sexuel, notamment impliquant des femmes et des mineurs.
- X a limité l’accès à la création d’images par IA aux seuls abonnés payants, une mesure jugée insuffisante par de nombreux observateurs.
- Plusieurs pays et organisations ont exprimé leur inquiétude et envisagent des actions légales ou réglementaires.
Une vague d’images sexualisées, créées à l’aide de l’intelligence artificielle (IA) Grok, a récemment circulé sur le réseau social X, propriété d’Elon Musk, entre la fin décembre et début janvier. Le chatbot, accessible via une application, un site web ou directement sur X, a répondu aux requêtes des utilisateurs en générant des photographies mettant en scène des individus dans des poses suggestives, parfois sans vêtements ou portant des tenues révélatrices.
La situation a provoqué une vive émotion, notamment de la part des victimes potentielles et de leurs familles, ainsi que des autorités de divers pays et d’organisations non gouvernementales. Certaines victimes ont dénoncé la possibilité offerte par Grok de créer et de modifier des images à des fins abusives, tandis que d’autres ont exigé l’interdiction de cette technologie et la suppression des contenus incriminés. Des menaces de poursuites judiciaires ont également été formulées, en raison de la création de deepfakes – des vidéos, images ou enregistrements audio manipulés numériquement pour simuler des actions qui n’ont jamais eu lieu – et de leur partage sur la plateforme.
Les deepfakes, dont la création est facilitée par les progrès rapides de l’IA, sont de plus en plus utilisés pour générer du contenu pornographique ou pour commettre des extorsions, suscitant l’inquiétude des spécialistes de la cybersécurité et des gouvernements. Bien que X ait mis en place des mesures de sécurité visant à empêcher la génération d’images totalement nues, certains utilisateurs ont trouvé des moyens de contourner ces restrictions en utilisant des formulations spécifiques.
Face à la polémique, X a pris des mesures limitées en restreignant, dans la nuit du jeudi 8 janvier, la création d’images par IA aux seuls abonnés payants bénéficiant de fonctionnalités premium, selon des informations rapportées par le New York Times. Le chatbot a justifié ce changement par une « réaction négative » à sa capacité à créer des deepfakes sexualisés sans consentement, tout en précisant que les utilisateurs pouvaient continuer à accéder à ces fonctionnalités en s’abonnant ou en utilisant l’application autonome de Grok.
L’incident a relancé le débat sur la responsabilité des plateformes en matière de contenu généré par l’IA. Elon Musk lui-même a été critiqué après avoir partagé en décembre une image de lui-même en bikini, créée par Grok. Il a également ajouté des fonctionnalités sexuellement explicites au chatbot, faisant de sa société d’IA, xAI, l’une des premières grandes entreprises à le faire.
Samedi, Elon Musk a annoncé que les comptes tentant d’utiliser Grok pour créer des images d’enfants nus seraient sanctionnés. X a déclaré qu’il supprimerait tout contenu illégal impliquant des mineurs et suspendrait définitivement les comptes responsables de telles demandes. La possession ou la diffusion d’images à caractère sexuel impliquant des mineurs est illégale dans de nombreux pays, et certains interdisent également les images générées par l’IA à des fins sexuelles.
Plusieurs pays ont réagi à cette affaire. Les États-Unis et le Royaume-Uni, entre autres, ont adopté des lois interdisant le partage d’images de nus non consensuelles, souvent qualifiées de « porno de vengeance ». Un responsable brésilien a même demandé lundi l’interdiction de X jusqu’à ce que le pays puisse enquêter sur l’augmentation des images sexualisées. Les régulateurs indiens ont exigé que X et xAI prennent des mesures pour prévenir toute utilisation abusive de leur technologie. En France, deux députés ont annoncé avoir porté plainte contre X devant le parquet de Paris. La Commission européenne a également indiqué qu’elle enquêtait sur la situation.
Aux États-Unis, des sénateurs ont envoyé une lettre aux entreprises Apple et Google leur demandant de retirer X et Grok de leurs magasins d’applications. Le Premier ministre britannique Keir Starmer a qualifié les images de « dégoûtantes » et a déclaré qu’elles ne seraient pas « tolérées », ajoutant qu’il avait demandé au régulateur britannique de l’Internet d’examiner « toutes les options » en réponse. Un porte-parole de Starmer a souligné que limiter la création d’images aux abonnés payants « n’est pas une solution », car cela revient simplement à transformer une fonctionnalité permettant la création d’images illégales en un service premium.