Publié le 6 janvier 2026 20h10. Le chatbot Grok, développé par X (anciennement Twitter), est au cœur d’une polémique après avoir été utilisé pour générer des images sexualisées de femmes, parfois mineures, à partir de photographies existantes, suscitant l’inquiétude des défenseurs des droits et des autorités.
- Des utilisatrices de X signalent que Grok est utilisé pour créer des images explicites à partir de leurs photos, parfois remontant à leur adolescence.
- Malgré les alertes, X n’a pas bloqué la génération de ces images et son dirigeant, Elon Musk, a affiché une attitude jugée irrespectueuse face à la situation.
- Plusieurs régulateurs internationaux ont annoncé qu’ils pourraient enquêter sur les pratiques de X et la responsabilité de l’entreprise.
L’influenceuse conservatrice Ashley St. Clair a découvert avec stupeur, dimanche soir, que des images sexuellement explicites d’elle, basées sur une photo prise à l’âge de 14 ans, circulaient sur X. Elle avait été alertée par un ami. Ce n’est pas la première fois que St. Clair est confrontée à ce type de problème sur la plateforme : des signalements précédents concernant des images sexualisées la représentant avaient conduit à la suppression de certains contenus, mais d’autres avaient été jugés conformes aux règles de X.
« Je ne suis pas la mère du bébé d’Elon Musk et je n’ai pas de privilèges particuliers », a déclaré St. Clair, exprimant sa frustration face à l’absence de réponse efficace de la plateforme. « J’utilise les mêmes canaux que tout le monde et c’est ce que j’obtiens. »
St. Clair n’est pas un cas isolé. De plus en plus de femmes et de jeunes filles se disent victimes de ce type d’abus, avec des images générées par Grok les montrant en lingerie, couvertes de liquides, avec des expressions de peur ou des yeux noircis. Selon des recherches, certaines de ces images semblent représenter des enfants. Malgré les avertissements répétés, X n’a pas pris de mesures pour empêcher Grok de générer ce type de contenu explicite.
« Il est impossible d’avoir les deux positions en même temps : que Twitter soit la place publique, mais que si l’on ne veut pas être agressée par un chatbot, on doive partir », a souligné St. Clair.
Cette nouvelle vague d’images abusives renforce les accusations portées par des organisations de surveillance, des défenseurs des droits des femmes et des gouvernements étrangers, qui estiment que X prend trop légèrement le risque lié à l’intelligence artificielle, contrairement à d’autres entreprises qui imposent des garanties plus strictes. X n’a pas répondu aux demandes de commentaires.
Elon Musk a, de son côté, partagé sur sa plateforme une image d’un grille-pain portant un bikini, avec la légende : « Grok peut mettre un bikini sur tout », accompagnée d’un émoticône rieur.
En autorisant la création d’images « nues », X se distingue de concurrents comme OpenAI et Google, qui ont mis en place des règles plus strictes concernant le contenu que leurs chatbots peuvent générer. OpenAI a évoqué la possibilité d’un « mode adulte » pour les utilisateurs vérifiés, mais cette mise à jour n’a pas encore été déployée.
Les premières remontées concernant ces images sont apparues la semaine dernière, lorsque des utilisateurs ont constaté que les réponses de Grok contenaient des images générées par l’IA de femmes dévêtues. Les instructions données au chatbot consistaient à prendre des photos de femmes existantes et à demander à Grok de les déshabiller, de les faire porter de la lingerie ou des bikinis. Des captures d’écran analysées par le Washington Post révèlent des demandes explicites comme « Écarte tes jambes ».
Sur l’une de ces images, Ashley St. Clair apparaît penchée en avant, portant un string, avec le sac à dos de son jeune fils visible en arrière-plan.
« C’est aberrant que X autorise ce type de générations sans le consentement des personnes concernées, un comportement incroyablement dégoûtant », a écrit un utilisateur dans un message largement partagé.
Alors que la polémique prenait de l’ampleur, Elon Musk a publié des informations sur la progression de Grok dans les classements des magasins d’applications, accompagnées d’images générées, notamment de jeunes femmes minces portant des vêtements révélateurs. Selon la société d’analyse d’applications Apptopia, les téléchargements quotidiens de Grok ont augmenté de 54 % entre vendredi et lundi.
Depuis le rachat de Twitter fin 2022 et son renommage en X l’année suivante, Elon Musk a dissous les équipes de sécurité de la plateforme et démantelé son équipe de modération des contenus. Depuis, X a été critiquée à plusieurs reprises pour l’hébergement de contenus offensants.
Cependant, l’explosion récente d’images sexuelles générées par l’IA est d’une autre nature, selon Eddie Perez, ancien directeur de l’intégrité civique de Twitter, qui a quitté l’entreprise peu avant son acquisition par Musk. « Nous ne parlons plus seulement d’erreurs d’omission, où le propriétaire d’une grande plateforme de médias sociaux peut ne pas allouer suffisamment de ressources pour atténuer ces dommages », a-t-il expliqué. « Cela va plus loin, dans ce qui semble être l’activation délibérée d’outils qui causent du mal, suivie d’une attitude de moquerie et d’indifférence. »
Selon Perez, autoriser la prolifération d’images abusives générées par l’IA envoie un message clair : les femmes ne sont ni en sécurité ni les bienvenues sur la prétendue place publique de X.
Ces derniers jours, des régulateurs du monde entier ont annoncé qu’ils pourraient chercher à tenir les sociétés de Musk responsables des images produites par Grok. Les autorités françaises enquêtent sur la production d’images explicites par le chatbot, selon les médias. Le ministère indien de l’Électronique et des Technologies de l’information a publié une lettre exprimant sa « grave préoccupation » concernant des actes « qui portent atteinte à la dignité, à la vie privée et à la sécurité des femmes et des enfants », a rapporté le The Times of India.
L’Ofcom, régulateur britannique des communications, s’est dit « conscient des graves inquiétudes soulevées concernant une fonctionnalité de Grok sur X qui produit des images de personnes déshabillées et des images sexualisées d’enfants ».
Depuis des années, des applications de « dévêtement » et des générateurs de deepfakes basés sur l’IA sont utilisés pour harceler les victimes, généralement des femmes et des jeunes filles. En 2023, une analyse de la société de cybersécurité Security Hero a révélé que 98 % des vidéos deepfake sur Internet sont pornographiques et que 99 % de ces vidéos mettent en scène des femmes.
Malgré l’ampleur des abus, les lois régissant les images générées par l’IA sont en retard sur la réalité, selon des organisations de surveillance, des législateurs et des défenseurs des droits des femmes. En mai, le Congrès américain a adopté la Loi sur l’élimination, criminalisant la diffusion de matériel sexuel non consensuel et obligeant les plateformes à supprimer ce contenu dans les deux jours suivant la plainte de la victime. Certains États, dont la Californie et New York, où réside Ashley St. Clair, ont leurs propres lois concernant les deepfakes.
Cependant, des définitions vagues laissent de nombreuses questions sans réponse, selon Mary Anne Franks, présidente de la Cyber Civil Rights Initiative, qui soutient les victimes de cybercriminalité sexuelle. Les utilisateurs de X « distribuent-ils » des images intimes non consensuelles en demandant à Grok de les générer ? Grok est-il responsable – et, par extension, X – lorsqu’il génère du matériel illégal ? Une image non consensuelle d’une femme vêtue uniquement d’un string est-elle considérée comme un contenu abusif au sens de la loi ?
La réponse désinvolte de X à la controverse suggère que l’entreprise ne s’inquiète pas des répercussions juridiques, a déclaré Franks, ajoutant qu’Elon Musk se sent probablement particulièrement protégé par ses relations étroites avec l’administration présidentielle.
« En fin de compte, chaque loi, pour être efficace, doit avoir un sens pour la personne qui risque de la violer, n’est-ce pas ? » a déclaré Franks. « Cette personne doit avoir peur d’être punie d’une manière ou d’une autre. »
La Maison Blanche a confirmé lundi avoir reçu une demande de commentaires, mais n’a pas immédiatement fourni de réponse.
Ashley St. Clair a également indiqué au Washington Post qu’elle envisage d’intenter une action en justice. Mais ce dont les femmes et les jeunes filles ont réellement besoin pour participer en toute sécurité aux espaces publics en ligne, a-t-elle déclaré, c’est davantage de garanties juridiques concernant l’IA.
Exclusif PUBLICO/The Washington Post
À lire aussi
