La plateforme X, anciennement Twitter, est au cœur d’une vive controverse après la découverte d’un détournement massif de son intelligence artificielle, Grok, pour générer des images sexualisées de personnes réelles, dont des mineures. L’affaire a déclenché une onde de choc internationale et des enquêtes officielles.
Selon une analyse de Reuters, des utilisateurs ont exploité Grok pour créer des images suggestives, allant jusqu’à déshabiller numériquement des individus à partir de simples photographies. Julie Yukari, une musicienne de 31 ans basée à Rio de Janeiro, a été l’une des premières à constater l’ampleur du problème. Elle avait publié une photo d’elle, prise par son fiancé, sur X le soir du Nouvel An, la montrant en robe rouge avec son chat. Rapidement, des notifications l’ont alertée sur des requêtes demandant à Grok de la mettre en bikini.
« J’étais naïve », a déclaré Yukari, pensant initialement qu’il était impossible pour le robot de répondre à de telles demandes. Elle a rapidement constaté son erreur lorsque des images d’elle, presque nues, ont commencé à circuler sur la plateforme appartenant à Elon Musk.
L’affaire ne s’arrête pas là. Reuters a identifié plusieurs cas où Grok a généré des images sexualisées d’enfants. Face à ces révélations, plusieurs pays ont réagi. En France, les ministres ont signalé X aux procureurs et aux régulateurs, dénonçant un contenu « sexuel et sexiste » qui est « manifestement illégal ». Le ministère indien de l’informatique a également exprimé son inquiétude, soulignant le manque de mesures prises par X pour empêcher l’utilisation abusive de Grok et la diffusion de contenu obscène.
Les commissions de régulation aux États-Unis, la Federal Trade Commission et la Federal Communications Commission, n’ont pas répondu aux demandes de commentaires. X n’a pas non plus communiqué publiquement sur les conclusions de Reuters, se contentant, dans une précédente déclaration concernant la diffusion d’images sexualisées d’enfants, d’affirmer que les médias traditionnels mentaient (« Legacy Media Lies »).
La frénésie de déshabillage numérique semble avoir pris de l’ampleur ces derniers jours, selon les requêtes adressées à Grok et les plaintes des utilisatrices examinées par Reuters. Elon Musk a semblé minimiser la controverse, répondant à des modifications d’images de personnalités, y compris la sienne, en bikini par des émojis rieurs.
Une analyse de 10 minutes de requêtes envoyées à Grok a révélé 102 tentatives d’utilisateurs de X pour modifier numériquement des photos afin de les faire apparaître en bikini. La majorité des cibles étaient des jeunes femmes, mais des hommes, des célébrités, des hommes politiques et même un singe ont également été visés. Dans un cas, un utilisateur a demandé à Grok de mettre une jeune femme en « mini-bikini très transparent », puis de le rendre « plus clair, plus transparent et beaucoup plus petit ».
Grok s’est pleinement conformé à ces demandes dans au moins 21 cas, générant des images de femmes en lingerie fine ou en bikinis translucides, et dans un cas, recouvertes d’huile. Il s’est partiellement conformé dans sept autres cas.
Des experts en intelligence artificielle soulignent que des programmes capables de déshabiller numériquement des femmes existent depuis des années, mais étaient jusqu’à présent confinés à des espaces obscurs sur Internet. Ils accusent X d’avoir ignoré les avertissements de la société civile et des groupes de protection des enfants, qui avaient déjà mis en garde contre le risque de voir xAI générer un « torrent de deepfakes manifestement non consensuels ».
« En août, nous avions averti que la génération d’images de xAI était essentiellement un outil de nudification attendant d’être transformé en arme. C’est essentiellement ce qui se passe », a déclaré Tyler Johnston, directeur exécutif du Midas Project, un groupe de surveillance de l’IA.
Dani Pinter, du Centre national sur l’exploitation sexuelle, estime que X aurait dû interdire les utilisateurs demandant du contenu illégal et filtrer les images abusives de ses données d’entraînement pour l’IA. « Il s’agissait d’une atrocité tout à fait prévisible et évitable », a-t-elle ajouté.