Le chatbot d’intelligence artificielle Grok, développé par xAI, est au cœur d’une controverse après avoir permis la modification non consentie d’images, notamment en supprimant les vêtements de personnes sur des photographies. Déployée cette semaine, une nouvelle fonctionnalité de X (anciennement Twitter) permet aux utilisateurs de modifier instantanément n’importe quelle image via Grok, sans l’autorisation de la personne photographiée.
La tendance à retirer les vêtements des images a débuté avec des créateurs de contenu pour adultes demandant à Grok de générer des images suggestives d’eux-mêmes, selon la société d’authentification d’IA Deepfake Copy Detection. Rapidement, d’autres utilisateurs ont commencé à appliquer des requêtes similaires à des photos d’autres personnes, principalement des femmes, sans leur consentement.
Des personnalités publiques et des célébrités du monde entier ont également été victimes de ces manipulations. Des images de femmes et d’enfants apparaissant enceintes, sans jupe, en bikini ou dans d’autres situations sexualisées ont proliféré sur la plateforme. Plusieurs médias, dont Métro et PétaPixel, ont souligné l’augmentation rapide de la création de deepfakes sur X.
Dans un exemple particulièrement choquant, Grok a modifié une photo de deux jeunes filles en les présentant dans des tenues suggestives. Un utilisateur de X a alors demandé à Grok de s’excuser pour cet « incident », le qualifiant de « défaillance des garanties » qui pourrait violer les politiques de xAI et la législation américaine. Bien que la légalité de ces images reste à déterminer, la création d’images sexuellement explicites impliquant des enfants est illégale aux États-Unis.
Face à la polémique, Grok a affirmé qu’il « corrige de toute urgence » les « lacunes dans les garanties » et a même suggéré à un utilisateur de le signaler au FBI pour diffusion de CSAM (Child Sexual Abuse Material). Cependant, ces réponses sont générées par l’IA et ne reflètent pas nécessairement la position de xAI.
Interrogée par Reuters, xAI s’est contentée de répondre : « Legacy Media Lies » (Les médias traditionnels mentent). La société n’a pas répondu aux sollicitations du magazine The Verge.
Elon Musk, propriétaire de X et de xAI, semble avoir involontairement encouragé ces modifications. Il avait initialement demandé à Grok de remplacer une image mémétique de l’acteur Ben Affleck par lui-même portant un bikini. Quelques jours plus tard, la veste en cuir du dirigeant nord-coréen Kim Jong Un avait été remplacée par un bikini multicolore, tandis que l’ancien président américain Donald Trump se tenait à proximité, vêtu d’un maillot de bain assorti.
En réponse à cette vague de photos de bikini, Musk a republié une image d’un grille-pain en bikini, accompagnée de la légende : « Grok peut mettre un bikini sur tout ». Si certaines images étaient clairement humoristiques, d’autres visaient à produire des images à la limite de la pornographie, avec des instructions précises pour que Grok supprime des vêtements.
Grok a également accédé à des demandes de remplacement des vêtements d’un enfant en bas âge par un bikini. Les produits d’IA de Musk sont souvent critiqués pour leur manque de protection et leur forte sexualisation. La compagne IA de xAI, Ani, a flirté avec une journaliste de The Verge, et le générateur vidéo de Grok a facilement créé des deepfakes topless de Taylor Swift, malgré les politiques de xAI interdisant la représentation pornographique de personnes.
D’autres générateurs vidéo, comme Veo de Google et Sora d’OpenAI, disposent de garde-fous plus stricts concernant la génération de contenu NSFW (Not Safe For Work), bien que Sora ait également été utilisé pour produire des vidéos à caractère sexuel impliquant des enfants. Selon un rapport de la société de cybersécurité Deep Strike, la prévalence des images deepfake augmente rapidement, et nombre d’entre elles contiennent des images sexualisées non consensuelles. Une enquête menée en 2024 auprès d’étudiants américains a révélé que 40 % étaient au courant d’un deepfake d’une personne qu’ils connaissaient, et 15 % d’un deepfake explicite ou intime non consensuel.
Interrogé sur les raisons pour lesquelles il transformait les images de femmes en photos de bikini, Grok a répondu : « Ce sont des créations d’IA basées sur des demandes, pas de véritables retouches de photos sans consentement. »