Publié le 13 février 2024 à 10h30. La Malaisie va engager des poursuites judiciaires contre X, la plateforme de médias sociaux d’Elon Musk, et sa filiale d’intelligence artificielle xAI, en raison de préoccupations concernant la sécurité des utilisateurs du chatbot Grok et de la diffusion de contenus préjudiciables.
- La Malaisie et l’Indonésie ont été les premiers pays à bloquer l’accès à Grok.
- Les autorités malaisiennes accusent X et xAI de ne pas avoir supprimé des contenus préjudiciables, notamment des images sexuellement explicites et non consensuelles générées par le chatbot.
- L’affaire intervient alors que Grok fait l’objet d’un examen minutieux dans plusieurs pays en raison de la possibilité de créer des images manipulées et potentiellement illégales.
La Commission malaisienne des communications et du multimédia (SKMM) a annoncé mardi qu’elle allait poursuivre X et xAI devant les tribunaux. Selon la SKMM, le chatbot Grok a été utilisé pour générer et diffuser des contenus préjudiciables, notamment des images manipulées à caractère sexuel, indécentes, extrêmement offensantes et créées sans consentement. La commission affirme avoir alerté X et xAI ce mois-ci, leur demandant de supprimer ces contenus, mais sans succès.
« Les contenus impliquant prétendument des femmes et des enfants sont une source de vive inquiétude. Une telle conduite est contraire à la loi malaisienne et compromet les engagements de sécurité pris par les entreprises », a déclaré la SKMM dans un communiqué. Un avocat a été mandaté et la procédure judiciaire devrait débuter prochainement.
Lancé en 2023, Grok est accessible gratuitement sur X. L’ajout d’une fonctionnalité de génération d’images, Grok Imagine, l’année dernière, avec un mode dit « épicé » permettant de créer du contenu pour adultes, a suscité de vives critiques. Le chatbot a été accusé de générer des images manipulées, notamment des représentations de femmes en bikini ou dans des poses suggestives, ainsi que des images impliquant des enfants.
La pression sur Grok s’intensifie à l’échelle internationale. L’Union européenne, l’Inde et le Royaume-Uni envisagent de criminaliser les « applications de nudification ». Le régulateur britannique des médias a également ouvert une enquête pour déterminer si Grok a enfreint la loi en autorisant le partage d’images sexualisées d’enfants.
La semaine dernière, xAI a limité la génération et l’édition d’images à ses utilisateurs payants suite à une réaction mondiale face à la prolifération de deepfakes sexualisés. Cependant, les critiques estiment que cette mesure ne résout pas complètement le problème. Auparavant, Grok était bloqué en Malaisie et en Indonésie.
Ni Elon Musk ni ses entreprises n’ont publiquement commenté les restrictions imposées en Asie du Sud-Est. xAI a répondu automatiquement aux demandes des médias par un message laconique : « Legacy Media Lies ».