Publié le 12 janvier 2024 14h02:00. La Malaisie et l’Indonésie ont été les premiers pays à bloquer Grok, le chatbot d’intelligence artificielle d’Elon Musk, face aux craintes grandissantes concernant la création d’images sexuellement explicites et non consensuelles.
- La Malaisie et l’Indonésie ont bloqué l’accès à Grok en raison de sa capacité à générer des deepfakes sexuels.
- Plusieurs pays, dont le Royaume-Uni, l’Union européenne, l’Inde et la France, examinent de près Grok et envisagent de criminaliser la création de contenus de nudité artificielle.
- xAI, la société d’Elon Musk, a limité la génération d’images sur Grok aux utilisateurs payants, mais les critiques estiment que cela ne suffit pas.
Les autorités malaisiennes et indonésiennes ont pris des mesures drastiques en bloquant l’accès au chatbot d’intelligence artificielle Grok, développé par xAI, la société d’Elon Musk. Cette décision intervient dans un contexte d’inquiétude croissante face à la prolifération de deepfakes sexuels et de contenus obscènes générés par l’IA.
En Indonésie, le gouvernement a temporairement bloqué l’accès à Grok samedi, après avoir constaté que le chatbot ne disposait pas de garanties suffisantes pour empêcher la création et la diffusion de fausses images pornographiques impliquant des citoyens indonésiens. Selon Alexander Sabar, directeur général de la supervision de l’espace numérique, ces pratiques constituent une atteinte à la vie privée et au droit à l’image lorsque des photos sont manipulées ou partagées sans consentement.
« Le gouvernement considère les deepfakes sexuels non consensuels comme une grave violation des droits de l’homme, de la dignité et de la sécurité des citoyens dans l’espace numérique. »
Meutya Hafid, ministre indonésienne de la Communication et des Affaires numériques
La Malaisie a suivi l’exemple indonésien dimanche, invoquant une « utilisation abusive répétée » de l’outil pour générer des images manipulées obscènes, sexuellement explicites et non consensuelles, y compris des contenus impliquant des femmes et des mineurs. La Commission malaisienne des communications et du multimédia a indiqué avoir émis des avis à X Corp. et à xAI exigeant des garanties plus strictes. La restriction est imposée à titre préventif et restera en vigueur jusqu’à ce que des mesures efficaces soient mises en place.
Cette affaire survient alors que plusieurs autres pays, dont le Royaume-Uni, l’Union européenne, l’Inde et la France, examinent de près les capacités de Grok et envisagent de criminaliser la création de contenus de nudité artificielle. Le régulateur britannique des médias, Ofcom, a même ouvert une enquête pour déterminer si Grok a enfreint la loi en autorisant le partage d’images sexualisées d’enfants. La secrétaire à la Technologie, Liz Kendall, a qualifié ces images générées par l’IA d’« armes d’abus » et a annoncé que le gouvernement britannique envisagerait de pénaliser les entreprises qui fournissent des outils permettant de créer des images de nus sans consentement.
La semaine dernière, xAI avait limité la génération et l’édition d’images sur Grok aux utilisateurs payants, suite à une vive réaction mondiale concernant les deepfakes sexualisés. Cependant, cette mesure est jugée insuffisante par de nombreux observateurs. Lorsqu’on lui a demandé un commentaire, xAI a répondu par un message automatisé : « Legacy Media Lies » (Les médias traditionnels mentent).
Lancé en 2023, Grok est accessible gratuitement sur X, la plateforme de médias sociaux d’Elon Musk. Une fonctionnalité de génération d’images, Grok Imagine, a été ajoutée l’année dernière, incluant un mode dit « épicé » capable de générer du contenu pour adultes.
Elon Musk a réagi aux critiques en qualifiant le gouvernement britannique de « fasciste » et en accusant ce dernier de tenter d’étouffer la liberté d’expression.
Tarigan a rapporté de Jakarta, en Indonésie. Les rédacteurs d’Associated Press Sylvia Hui et Brian Melley à Londres ont contribué.