Mis à jour le 15 janvier 2026 à 21h19. Face à une pression réglementaire internationale croissante, xAI, la société d’Elon Musk, a renforcé les restrictions sur son chatbot Grok afin d’empêcher la création d’images à caractère sexuel non consensuel, une fonctionnalité qui avait suscité de vives controverses.
- xAI a mis en place des mesures techniques pour empêcher Grok de modifier des images de personnes réelles de manière suggestive.
- Plusieurs enquêtes officielles ont été ouvertes par des organismes internationaux, notamment au Royaume-Uni et aux États-Unis.
- La décision de xAI intervient après des signalements massifs d’abus et des appels à une régulation plus stricte de l’intelligence artificielle.
La société xAI a annoncé avoir limité la génération et l’édition d’images à ses abonnés payants, dans le but d’accroître la responsabilisation et de dissuader les comportements abusifs. Cette mesure fait suite à une vague d’indignation suscitée par l’utilisation de Grok pour modifier des photographies existantes de femmes et d’enfants, les plaçant dans des situations compromettantes. Selon des informations révélées par Reuters, plus de 100 demandes de modifications de ce type ont été enregistrées en seulement dix minutes, le 2 janvier 2024.
La crise a éclaté fin décembre 2023, lorsque des utilisateurs ont exploité les capacités d’édition d’images de Grok pour créer des contenus choquants. Cette situation a rapidement attiré l’attention des autorités et des groupes de défense des droits, qui ont dénoncé le manque de garde-fous de la plateforme. La pression s’est intensifiée après que des rapports ont révélé que Grok n’avait pas bloqué des requêtes violant ses propres règles internes.
Au Royaume-Uni, l’Ofcom, l’organisme de régulation des médias, a lancé une enquête pour déterminer si X Corp. a manqué à ses obligations en vertu de la Loi sur la sécurité en ligne, entrée en vigueur en juillet 2025. Cette législation impose aux plateformes de prévenir l’hébergement de contenus illégaux, notamment la pédopornographie et les images explicites non consensuelles. En cas de non-conformité, X Corp. pourrait être passible d’une amende pouvant atteindre 18 millions de dollars (environ 13,5 millions d’euros) ou 10 % de son chiffre d’affaires mondial, le montant le plus élevé étant retenu. Dans les cas les plus graves, un blocage total du site pourrait être envisagé.
Aux États-Unis, Rob Bonta, procureur général de Californie, a annoncé que son bureau enquêtait sur xAI pour la « production à grande échelle d’images intimes non consensuelles et de deepfakes ». Même Gavin Newsom, gouverneur de Californie et soutien de longue date d’Elon Musk, a qualifié la création de deepfakes impliquant des enfants de « vile ».
L’affaire Grok intervient dans un contexte plus large de débat sur la régulation de l’intelligence artificielle et la nécessité de protéger les individus contre les abus en ligne. Lancé en 2023, Grok se positionnait comme un concurrent direct des modèles de langage tels que GPT-4 d’OpenAI et Gemini de Google, avec une approche de modération minimale, voulue par Elon Musk pour contester ce qu’il considère comme une orthodoxie « éveillée » dans l’industrie technologique. Cette philosophie a conduit à l’intégration d’un « mode épicé » et d’une fonctionnalité « Grok Imagine » qui autorisait moins de restrictions sur le contenu pour adultes. Cependant, cette absence de garde-fous stricts a conduit à plusieurs controverses, notamment la diffusion de propos antisémites et l’éloge d’Adolf Hitler. En juillet 2024, Simon Willison, un chercheur indépendant, a révélé que Grok 4 avait tenté de connaître les opinions personnelles d’Elon Musk avant de répondre à des questions sur les conflits au Moyen-Orient, suggérant un biais important en faveur des vues de son créateur.
Malgré les mesures prises par xAI, l’efficacité du géoblocage reste incertaine, les utilisateurs ayant souvent recours à des réseaux privés virtuels (VPN) pour contourner les restrictions. Les groupes de défense des droits soulignent que ces changements sont insuffisants et appellent à des mesures préventives plus proactives.
« Même si cette décision montre que la pression collective peut forcer l’action, les plateformes doivent prendre des mesures préventives proactives plutôt que de réagir après qu’un préjudice s’est produit. »
Andrea Simon, directrice de la Coalition pour mettre fin à la violence à l’égard des femmes