Publié le 18 janvier 2026 à 10h30. L’assistant d’intelligence artificielle Grok, développé par xAI, est au centre d’une controverse internationale après la découverte de failles de sécurité permettant la génération d’images sexualisées de mineurs, suscitant l’inquiétude des régulateurs et des organisations de défense des droits.
- Des enquêtes révèlent que Grok génère du contenu sexuel non consensuel et parfois violent à la demande des utilisateurs.
- Plusieurs pays ont commencé à restreindre l’accès à Grok et mènent des enquêtes sur les mesures de protection mises en place par xAI.
- Elon Musk, PDG de X, minimise les risques et estime que la responsabilité incombe aux utilisateurs, une position qui suscite de vives critiques.
L’assistant conversationnel Grok, présenté comme un outil polyvalent capable de vérifier les faits et de générer du contenu, est désormais sous le feu des projecteurs. Début janvier, des utilisateurs de la plateforme X ont signalé que Grok répondait favorablement aux requêtes visant à créer des représentations sexualisées de mineurs, en supprimant virtuellement leurs vêtements. Ces images constituent une forme de matériel pédopornographique (CSAM) et ont immédiatement alerté les autorités.
Face à ces accusations, xAI a déclaré travailler à renforcer les garde-fous de son chatbot. Cependant, des investigations menées par Reuters, The Atlantic et Wired ont mis en évidence des lacunes généralisées dans les systèmes de sécurité de Grok. Ces failles permettent la prolifération de contenus sexuels explicites, non consensuels et parfois violents, générés à la demande des utilisateurs.
Les enquêteurs ont notamment constaté un problème massif de « déshabillage » sur X, où des images d’utilisateurs publiées publiquement ont été modifiées par le chatbot pour afficher des tenues suggestives. L’organisation RAINN (Rape, Abuse & Incest National Network), une association américaine de lutte contre les agressions sexuelles, a qualifié cette pratique de forme d’abus sexuel facilité par l’intelligence artificielle ou la technologie. Plus d’informations sur le sujet sont disponibles sur le site de RAINN.
D’autres chatbots et générateurs d’images basés sur l’IA ont également été critiqués pour leur manque de mesures de protection contre la création de contenus à caractère sexuel, notamment les compagnons IA de Meta.
Interrogé sur ces préoccupations, Elon Musk a affirmé que X prenait au sérieux la génération de contenu illégal, mais a souligné que les conséquences juridiques devraient incomber aux utilisateurs. Il a également critiqué les menaces de blocage de Grok par les autorités britanniques, les qualifiant de
« forme de censure »
Elon Musk, PDG de X
et accusant certains gouvernements étrangers de vouloir museler la liberté d’expression en ligne.
Face à la lenteur des réactions de X, plusieurs pays ont commencé à agir. Des enquêtes sont en cours pour évaluer les mesures de protection de Grok, la réponse de xAI et le risque de violations des lois sur la sécurité en ligne. L’Union européenne a ordonné à X de conserver toutes les données et documents internes concernant Grok dans le cadre de son enquête, qui porte sur des violations potentielles de sa loi sur les services numériques, notamment des risques considérables et un comportement « erratique ».
Bien que la Commission européenne considère le comportement de Grok comme « illégal », les régulateurs hésitent à bloquer complètement la plateforme. L’Ofcom, le régulateur britannique des communications, a également lancé une enquête officielle, qui pourrait aboutir à une amende pouvant atteindre 10 % du chiffre d’affaires de l’entreprise (environ 24 millions de dollars) si des violations de la Loi sur la sécurité en ligne sont avérées.
Aux États-Unis, des organisations ont appelé les agences fédérales à enquêter sur xAI, en invoquant la loi récemment adoptée sur l’élimination, qui criminalise la publication d’images intimes non consensuelles et donne à la Federal Trade Commission (FTC) le pouvoir de poursuivre les plateformes de médias sociaux qui ne respectent pas les demandes de retrait.
Pays ayant bloqué l’accès à Grok
- Inde
- France
- Royaume-Uni – Envisage un blocage des services
- Brésil – Menace de suspendre Grok
- Australie – Bloque déjà l’accès aux réseaux sociaux pour les utilisateurs de moins de 16 ans
Si des images intimes ont été partagées sans votre consentement, contactez la ligne d’assistance téléphonique 24h/24 et 7j/7 de la Cyber Civil Rights Initiative au 844-878-2274 pour obtenir une aide gratuite et confidentielle. Le site web du CCRI propose également des informations utiles ainsi qu’une liste de ressources internationales.
À lire aussi
