Publié le 12 janvier 2026 à 07h15. La Malaisie et l’Indonésie ont bloqué l’accès à Grok, le chatbot d’intelligence artificielle développé par xAI d’Elon Musk, en raison de son utilisation pour générer des images sexuellement explicites et non consensuelles, soulevant des inquiétudes croissantes quant aux dérives potentielles de l’IA générative.
- La Malaisie et l’Indonésie sont les premiers pays à bloquer Grok.
- Les autorités estiment que le chatbot est utilisé pour créer des images pornographiques non consensuelles, notamment impliquant des femmes et des mineurs.
- Les régulateurs soulignent l’insuffisance des mesures de sécurité actuelles pour prévenir ces abus.
Les autorités malaisiennes et indonésiennes ont pris des mesures drastiques pour contrer la prolifération de contenus préjudiciables générés par l’intelligence artificielle. Ces décisions interviennent dans un contexte mondial de préoccupations croissantes concernant les outils d’IA générative capables de produire des images, des sons et des textes d’un réalisme troublant, tout en étant susceptibles d’être utilisés à des fins malveillantes.
Le gouvernement indonésien a temporairement bloqué l’accès à Grok samedi, tandis que la Malaisie a suivi avec une restriction similaire dimanche. Ces mesures font suite à des signalements concernant la création et la diffusion de faux contenus pornographiques, impliquant notamment des femmes et des mineurs.
« Le gouvernement considère les deepfakes sexuels non consensuels comme une grave violation des droits de l’homme, de la dignité et de la sécurité des citoyens dans l’espace numérique. »
Meutya Hafid, ministre indonésienne de la Communication et des Affaires numériques
Le ministère indonésien a précisé que cette action vise à protéger les femmes, les enfants et la communauté dans son ensemble contre les conséquences néfastes de ces contenus générés par l’IA. Des enquêtes préliminaires ont révélé que Grok ne disposait pas de garanties suffisantes pour empêcher les utilisateurs de créer et de diffuser du matériel pornographique basé sur des photos de résidents indonésiens. Une telle pratique est susceptible de porter atteinte à la vie privée et au droit à l’image, causant des préjudices psychologiques, sociaux et de réputation.
À Kuala Lumpur, la Commission malaisienne des communications et du multimédia a ordonné une restriction temporaire de Grok après avoir constaté une “utilisation abusive répétée” de l’outil pour générer des images obscènes, sexuellement explicites et non consensuelles, y compris des contenus impliquant des femmes et des mineurs. Le régulateur a souligné que les réponses de X Corp. et xAI à ses demandes de garanties plus strictes se limitaient principalement à des mécanismes de signalement par les utilisateurs, jugés insuffisants.
La restriction est imposée à titre préventif et proportionné, en attendant que des garanties efficaces soient mises en place, a précisé la commission dans un communiqué. L’accès à Grok restera bloqué jusqu’à ce que des mesures adéquates soient adoptées.
Lancé en 2023, Grok est accessible gratuitement sur X, la plateforme de médias sociaux d’Elon Musk. Les utilisateurs peuvent poser des questions au chatbot et marquer les publications qu’ils ont créées directement ou les réponses à d’autres publications. L’été dernier, la société a introduit une fonctionnalité de génération d’images, Grok Imagine, qui comprenait un “mode épicé” capable de produire du contenu pour adultes.
Ces restrictions en Asie du Sud-Est interviennent alors que Grok fait l’objet d’un examen minutieux dans d’autres régions du monde, notamment au sein de l’Union européenne, au Royaume-Uni, en Inde et en France. La semaine dernière, Grok a limité la génération et l’édition d’images aux utilisateurs payants, suite à une vive réaction mondiale face à la création de deepfakes sexualisés. Cependant, les critiques estiment que cette mesure ne résout pas entièrement le problème.
Pour aller plus loin
