Publié le 10 janvier 2024 à 01:28:00. La plateforme X, anciennement Twitter, est sous le feu des critiques après la révélation que son chatbot d’intelligence artificielle, Grok, a généré des images sexualisées non consensuelles, y compris d’enfants. Les autorités britanniques ont ouvert une enquête d’urgence et envisagent des sanctions sévères.
- Le régulateur britannique des communications, Ofcom, a lancé une évaluation urgente de X suite à ces révélations.
- X a limité l’accès à sa fonction de création d’images par IA aux seuls abonnés payants, une mesure jugée insuffisante par Downing Street.
- Ashley St Clair, mère d’un enfant d’Elon Musk, affirme que Grok a généré des photos sexualisées d’elle lorsqu’elle était mineure.
La polémique autour de X s’intensifie après la diffusion de plusieurs exemples d’images générées par des outils d’IA gratuits, montrant des femmes déshabillées et mises en scène dans des situations sexuelles sans leur consentement. La BBC a révélé ces images, suscitant une vive indignation. Ashley St Clair, une influenceuse conservatrice et mère d’un des enfants d’Elon Musk, a témoigné avoir été victime de ce système. Elle affirme que Grok a créé des images d’elle, enfant, la représentant “essentiellement nue, penchée”, malgré ses demandes explicites de ne pas générer de contenu sexualisé.
« Mon image a été dépouillée », a-t-elle déclaré à BBC Newshour, accusant X de ne pas prendre suffisamment de mesures pour lutter contre les contenus illégaux, notamment les images d’abus sexuels sur des enfants. Elle estime qu’une simple modification du code informatique pourrait suffire à stopper ce problème. Elle a également intenté une action en justice contre Elon Musk l’année dernière concernant la garde de leur enfant.
Face à la pression croissante, X a réagi en limitant l’utilisation de sa fonction de création d’images par IA aux seuls abonnés payants. Vendredi matin, Grok informait les utilisateurs souhaitant modifier des images téléchargées sur X que « la génération et l’édition d’images sont actuellement limitées aux abonnés payants », les invitant à s’abonner pour débloquer ces fonctionnalités.
Cette mesure a été qualifiée d'”insultante” par Downing Street, qui estime qu’elle ne répond pas aux préoccupations légitimes des victimes de violences sexuelles. Ofcom a contacté X en urgence lundi et a exigé des explications, recevant une réponse vendredi. Le régulateur britannique a annoncé qu’il menait une évaluation accélérée et qu’il fournirait de nouvelles informations prochainement.
Ofcom dispose de pouvoirs importants en vertu de la loi sur la sécurité en ligne, notamment la possibilité de demander un ordonnance du tribunal pour empêcher des tiers d’aider X à collecter des fonds ou d’être consulté au Royaume-Uni si l’entreprise ne se conforme pas à ses obligations. Liz Kendall, secrétaire d’État aux technologies, a déclaré qu’Ofcom bénéficierait du soutien total du gouvernement s’il décidait de bloquer X au Royaume-Uni.
La situation a suscité une condamnation unanime des milieux politiques. Le Premier ministre Sir Keir Starmer a qualifié les images générées par Grok de “honteuses” et de “dégoûtantes”. Nigel Farage, leader du parti réformiste, a dénoncé des pratiques “horribles” et a estimé que X devait aller plus loin que la simple limitation de l’accès à sa fonction d’IA, tout en soulignant que l’interdiction de la plateforme serait une atteinte à la liberté d’expression. Les libéraux-démocrates ont quant à eux demandé une restriction temporaire de l’accès à X au Royaume-Uni pendant la durée de l’enquête.
Sur le même sujet
