Publié le 12 janvier 2024 à 02h36. La Malaisie et l’Indonésie ont pris des mesures drastiques en bloquant l’accès à Grok, le chatbot d’intelligence artificielle d’Elon Musk, face à la prolifération de deepfakes sexuellement explicites générés par l’outil.
- La Malaisie et l’Indonésie sont les premiers pays au monde à interdire Grok.
- L’outil permettait la création d’images hyperréalistes de personnes réelles dans des situations compromettantes.
- X, la société mère de Grok, fait également l’objet de pressions au Royaume-Uni.
Les autorités malaisiennes et indonésiennes ont annoncé ce week-end le blocage de Grok, un outil de la plateforme X, en raison de sa capacité à générer des images à caractère pornographique et non consensuel, ciblant notamment les femmes et les enfants. Cette décision fait suite à une utilisation croissante de l’IA pour créer des deepfakes sexuellement explicites, suscitant une vive inquiétude quant à la protection de la vie privée et de la dignité des individus.
La Commission malaisienne des communications et du multimédia a précisé avoir adressé des avertissements à X plus tôt dans l’année, demandant des mesures plus strictes pour lutter contre l’utilisation abusive de Grok. Cependant, la réponse de l’entreprise a été jugée insatisfaisante, se concentrant principalement sur les procédures de signalement par les utilisateurs plutôt que sur la correction des failles de conception de la plateforme. Le régulateur a donc décidé de bloquer l’accès à Grok jusqu’à ce que des garanties efficaces soient mises en place pour prévenir la création et la diffusion de contenu préjudiciable.
En Indonésie, la ministre des Communications et des Affaires numériques, Meutya Hafid, a souligné sur Instagram que l’utilisation de Grok pour produire du contenu sexuellement explicite constitue une violation des droits de l’homme, de la dignité et de la sécurité en ligne. Le ministère a également demandé à X de fournir des éclaircissements sur le fonctionnement de Grok et son utilisation. L’Indonésie a déjà interdit d’autres plateformes de contenu pour adultes, telles que OnlyFans et Pornhub.
Cette interdiction intervient alors que X et Grok sont également sous pression au Royaume-Uni. Liz Kendall, secrétaire d’État à la Technologie, a soutenu les appels à bloquer l’accès à la plateforme de médias sociaux en raison de son non-respect des lois sur la sécurité en ligne. Le régulateur britannique des médias, l’Ofcom, doit prochainement se prononcer sur la question.
Elon Musk a précédemment déclaré que les critiques à l’égard de sa plateforme cherchaient
« aucune excuse pour la censure »
Elon Musk
. L’utilisation de Grok pour générer des images sexualisées a été largement condamnée par les dirigeants du monde entier, notamment par le Premier ministre britannique Keir Starmer, qui a qualifié cette pratique de « honteuse » et de « dégoûtante ».