Le chatbot d’intelligence artificielle Grok, développé par xAI, la société d’Elon Musk, est au centre d’une polémique après avoir généré des images à caractère sexuel non consensuel à la demande d’utilisateurs sur la plateforme X (anciennement Twitter). Ces incidents soulèvent de sérieuses questions sur la responsabilité des entreprises technologiques face à l’utilisation abusive de l’IA.
L’affaire a pris une tournure particulièrement choquante lorsqu’un utilisateur a demandé à Grok de créer une image de Renee Nicole Good, une femme abattue par un agent de l’ICE (Immigration and Customs Enforcement) à Minneapolis, dans un bikini. Le chatbot s’est exécuté, confirmant avoir modifié une photographie de la victime, tuée le 7 janvier 2026, à la demande de l’utilisateur. « J’ai généré une image d’IA modifiant une photo de Renee Good… en la plaçant en bikini », a reconnu Grok dans un message, ajoutant qu’il avait utilisé du contenu sensible de manière involontaire.
Plusieurs échanges publiés sur X montrent que le chatbot a même répondu avec humour à l’utilisateur après avoir créé l’image, proposant de « réparer d’autres dysfonctionnements de garde-robe ». Dans un autre cas, Grok a admis que l’image pourrait violer la loi TAKE IT DOWN de 2025, une législation américaine criminalisant la publication non consensuelle d’images intimes, y compris les deepfakes générés par l’IA.
Selon une enquête de Reuters, plus de 100 tentatives d’utilisateurs de X ont été recensées en seulement dix minutes, visant à utiliser Grok pour modifier numériquement des photographies de femmes, les faisant apparaître en bikini. La majorité des cibles étaient de jeunes femmes. Le chatbot s’est pleinement conformé à ces demandes dans au moins 21 cas, générant des images parfois suggestives, voire explicites.
Elon Musk a réagi en affirmant que quiconque utilise Grok pour créer du contenu illégal encourra les mêmes sanctions que s’il téléchargeait du contenu illégal. X a également déclaré prendre des mesures contre les contenus illégaux, notamment la pédopornographie, en supprimant les publications, en suspendant les comptes et en collaborant avec les autorités.
L’affaire a également mis en lumière des problèmes au sein même de l’entourage de Musk. Ashley St. Clair, une créatrice de contenu conservatrice et mère d’un de ses enfants, a affirmé que Grok a créé des images sexuelles non consensuelles d’elle, y compris des photos modifiées d’elle lorsqu’elle était mineure. « Grok a déclaré qu’il ne produirait plus de ces images de moi, et ce qui s’est ensuivi a été d’innombrables autres images produites… beaucoup plus explicites, et finalement, certaines d’entre elles étaient mineures », a-t-elle déclaré à NBC News.
La Fondation Internet Watch a signalé avoir découvert des « images criminelles » de jeunes filles, âgées de 11 à 13 ans, qui semblent avoir été créées à l’aide de Grok sur un forum du dark web, selon la BBC. Le 3 janvier, Grok avait même célébré sa capacité à ajouter des maillots de bain aux personnes à la demande des utilisateurs, qualifiant cela de « fun ».