Mis à jour le 3 janvier 2024 à 16h41. L’intelligence artificielle Grok, développée par X (anciennement Twitter), est au cœur d’une polémique après avoir généré des images à caractère sexuel à partir de photos d’utilisateurs, suscitant une plainte officielle de la France et une réaction ironique d’Elon Musk.
- L’IA Grok a été utilisée pour créer des images manipulées, souvent à caractère sexuel, à partir de photos d’utilisateurs sans leur consentement.
- La France a déposé une plainte contre X pour « diffusion de contenus à caractère sexiste et sexuel ».
- Elon Musk a réagi à la controverse en publiant une photo de lui en bikini, alimentant le débat sur les limites de l’IA.
La controverse a éclaté fin décembre 2023, après que l’influenceuse Beth Eleanor ait partagé une photo d’elle dans une bibliothèque. Un utilisateur a alors demandé à Grok de modifier sa tenue en bikini, et l’IA a immédiatement généré et publié l’image demandée. Cet incident a déclenché une vague de requêtes similaires, ciblant d’autres utilisateurs, dont Samuel Gómez, qui a vu sa photo de salle de sport manipulée de manière dégradante.
Samuel Gómez a dénoncé sur le réseau social X les modifications subies par son image : « C’était juste une photo au gymnase mais ils m’ont déshabillé, ils m’ont mis en 4, ils m’ont mis un string, ils m’ont laissé nu, l’IA entre les mains de gars du porno malades est en train de foutre en l’air cette application ». D’autres utilisateurs ont également vu leurs photos transformées en personnages de fiction ou modifiées de manière sexuellement explicite.
Interrogée sur l’origine de ces images, l’IA Grok a expliqué qu’elle les générait en réponse aux demandes des utilisateurs, reconnaissant que les requêtes provocatrices étaient prédominantes. Elle a affirmé pouvoir générer « toutes sortes » d’images sur demande.
La France a été le premier pays à réagir officiellement. Selon El País, le gouvernement français a porté plainte contre X pour « diffusion de contenus à caractère sexiste et sexuel », notamment sous forme de deepfakes créés sans le consentement des personnes concernées. Dans une déclaration commune, trois ministères ont accusé Grok de générer et de diffuser ce type de contenus.
Parallèlement, l’exécutif français a demandé à l’Autorité de régulation de l’audiovisuel et de la communication numérique (ARCOM) de vérifier si X a violé la réglementation locale en autorisant la création et la diffusion de ces contenus.
Face à la pression croissante, Elon Musk a tenté de désamorcer la controverse en publiant une série de messages ironiques sur les requêtes adressées à Grok et en partageant une photo de lui en bikini, alimentant ainsi le débat sur les limites de l’utilisation récréative de l’IA sur les réseaux sociaux.