Publié le 10 janvier 2026 à 07h52. L’Indonésie est devenue le premier pays à bloquer l’accès au chatbot d’intelligence artificielle Grok, développé par la société xAI d’Elon Musk, en raison de préoccupations liées à la génération de contenu pornographique et à la création d’images sexualisées non consensuelles.
- L’Indonésie a bloqué Grok en raison du risque de contenu pornographique généré par l’IA.
- xAI a limité la création et l’édition d’images à ses abonnés payants pour tenter de résoudre le problème.
- Plusieurs dirigeants internationaux ont exprimé leur inquiétude face à l’utilisation de l’IA pour l’exploitation sexuelle.
La décision indonésienne intervient après une vague de critiques et d’enquêtes lancées en Europe et en Asie concernant la capacité de Grok à produire du contenu sexualisé, notamment des images à caractère violent et des représentations d’enfants légèrement vêtus. Le gouvernement indonésien considère la création de “deepfakes” sexuels non consensuels comme une grave violation des droits de l’homme et de la dignité des citoyens dans l’espace numérique.
La ministre des Communications et du Numérique, Meutya Hafid, a déclaré dans un communiqué :
« Le gouvernement considère la pratique des deepfakes sexuels non consensuels comme une grave violation des droits de l’homme, de la dignité et de la sécurité des citoyens dans l’espace numérique. »
Meutya Hafid, ministre des Communications et du Numérique
Le ministère a également convoqué des représentants de X pour discuter de la situation.
Elon Musk a réagi sur X, affirmant que toute personne utilisant Grok pour créer du contenu illégal subirait les mêmes conséquences que si elle avait téléchargé du contenu illégal. Cependant, la réponse de xAI à une demande de commentaire de Reuters a été une simple déclaration automatisée : « Legacy Media Lies » (Les médias traditionnels mentent).
L’Indonésie, pays comptant la plus grande population musulmane au monde, applique des règles strictes en matière de contenu en ligne, interdisant notamment le partage de matériel jugé obscène. Le blocage de Grok fait suite à la désactivation par xAI de sa fonction de création d’images pour la majorité des utilisateurs, après le tollé suscité par son utilisation pour générer des images violentes et sexuellement explicites.
Les inquiétudes ne se limitent pas à l’Indonésie. Le Premier ministre australien Anthony Albanese a également exprimé sa préoccupation quant à l’utilisation de l’IA pour l’exploitation sexuelle.
« L’utilisation de l’IA générative pour exploiter ou sexualiser des personnes sans leur consentement est odieuse. »
Anthony Albanese, Premier ministre australien
Il a critiqué le manque de responsabilité sociale des plateformes de médias sociaux. L’eSafety Office australien a indiqué qu’il utilisait ses pouvoirs, y compris des demandes de suppression de contenu, pour lutter contre ce type de matériel.
Au Royaume-Uni, Elon Musk et X sont menacés d’amendes, de mesures réglementaires et potentiellement d’une interdiction de la plateforme en raison de la prolifération d’images indécentes générées par l’IA. Le gouvernement britannique a ordonné à X de lutter contre cette vague d’images indécentes sous peine d’interdiction.
xAI a réagi en limitant la génération et l’édition d’images aux abonnés payants, dans l’espoir de corriger les failles de sécurité qui ont permis la création de contenu sexualisé. L’entreprise est soumise aux obligations de sécurité systémiques australiennes en matière de détection et de suppression de matériel d’exploitation sexuelle des enfants et d’autres contenus illégaux, conformément aux codes et normes de l’industrie.
Avec Reuters et AAP
À lire aussi
