Publié le 12 janvier 2026 à 07h41. L’outil d’intelligence artificielle Grok, développé par l’entreprise de Elon Musk, xAI, a été interdit en Indonésie et en Malaisie en raison de sa capacité à générer des images sexuellement explicites et des “deepfakes” abusifs, suscitant une vague d’inquiétudes internationales.
- Grok a été bloqué en Indonésie et en Malaisie, les premiers pays à prendre cette mesure.
- L’interdiction fait suite à une tendance virale où les utilisateurs ont exploité l’IA pour créer des images manipulées suggestives et obscènes, notamment impliquant des femmes et des mineurs.
- Plusieurs gouvernements, dont le Royaume-Uni, l’Union européenne et l’Inde, ont exprimé leur préoccupation quant aux mesures de sécurité de Grok.
L’Indonésie a annoncé son interdiction samedi, par le biais de son ministre du Numérique, Meutya Hafid, qui a déclaré que la mesure visait à « protéger les femmes, les enfants et le grand public contre les risques liés aux faux contenus pornographiques générés à l’aide de la technologie de l’intelligence artificielle ». Déclaration officielle du ministre indonésien de la Communication et du Numérique.
La Malaisie a suivi dimanche avec une interdiction temporaire, invoquant « l’utilisation abusive répétée de Grok pour générer des images manipulées obscènes, sexuellement explicites, indécentes, grossièrement offensantes et non consensuelles, y compris des contenus impliquant des femmes et des mineurs ». Annonce de l’autorité de régulation des communications de Malaisie. Ces deux pays, à majorité musulmane, appliquent des lois strictes en matière de pornographie.
La controverse a débuté fin 2023, lorsque des utilisateurs ont découvert qu’ils pouvaient demander à Grok de manipuler des images, entraînant la création de milliers d’images sexualisant des femmes. Une analyse menée par l’organisation AI Forensics entre le 25 décembre et le 1er janvier a révélé une forte prévalence de termes liés à la sexualité dans les requêtes des utilisateurs et dans les images générées, avec plus de la moitié des images représentant des personnes en tenue minimale.
Elon Musk, qui se positionne publiquement contre les restrictions imposées aux modèles d’IA, a initialement rejeté les inquiétudes, arguant que les gouvernements cherchaient à « supprimer la liberté d’expression ». Il a toutefois limité certaines fonctionnalités de génération d’images pour les abonnés payants de X (anciennement Twitter), mais ces restrictions ne s’appliquent pas à l’accès via le site web ou l’application autonome de Grok.
La secrétaire britannique à la Technologie, Liz Kendall, a appelé vendredi à une action rapide pour lutter contre la diffusion de ces fausses images, qualifiant la manipulation sexuelle des images de femmes et d’enfants de « méprisable et odieuse ». Elle a également indiqué qu’elle attendait du régulateur indépendant des communications du Royaume-Uni, Ofcom, qu’il utilise tous les pouvoirs légaux à sa disposition.
xAI n’a pas encore répondu aux demandes de commentaires de CNN. L’équipe de sécurité de l’entreprise, déjà réduite, a subi des départs importants dans les semaines précédant la polémique, selon une source interne.
