Publié le 13 janvier 2024 07:53:00. L’Ofcom, le régulateur britannique des communications, a ouvert une enquête sur le réseau social X, propriété d’Elon Musk, suite à des signalements concernant l’utilisation de son intelligence artificielle, Grok, pour générer des images sexualisées, y compris des images à caractère pédopornographique.
- L’Ofcom craint que Grok soit utilisé pour créer et diffuser des images intimes non consensuelles.
- X pourrait être passible d’une amende pouvant atteindre 10 % de son chiffre d’affaires mondial (soit jusqu’à 18 millions de livres sterling).
- Plusieurs pays, dont la Malaisie et l’Indonésie, ont temporairement bloqué l’accès à Grok.
L’enquête de l’Ofcom intervient après une vague de préoccupations concernant la capacité de Grok à générer des images à la demande, et plus particulièrement des images à caractère sexuel. Des témoignages, comme celui du Dr Daisy Dixon, ont mis en lumière l’utilisation de l’IA pour créer des images dénudées de personnes sans leur consentement. Le Dr Dixon a déclaré s’être sentie « humiliée » après avoir découvert que Grok avait été utilisé à son encontre.
Dans un communiqué, l’Ofcom a précisé qu’il examinerait si X avait suffisamment rapidement supprimé les contenus illégaux signalés et pris des mesures adéquates pour empêcher les citoyens britanniques d’y accéder. L’organisme de surveillance se concentrera sur les « images intimes non consensuelles » et les images à caractère pédopornographique.
X a renvoyé la BBC à une déclaration publiée sur son compte Sécurité début janvier : « Quiconque utilise ou incite Grok à créer du contenu illégal subira les mêmes conséquences que s’il téléchargeait du contenu illégal. »
Elon Musk a réagi en accusant le gouvernement britannique de chercher « n’importe quelle excuse pour la censure » en réponse à un article soulignant l’absence d’examen similaire pour d’autres plateformes d’IA.
Si X ne se conformait pas aux exigences de l’Ofcom, le régulateur pourrait demander un ordre de justice pour obliger les fournisseurs d’accès à Internet à bloquer complètement l’accès au site au Royaume-Uni. Lorna Woods, professeure de droit de l’Internet à l’Université d’Essex, a souligné qu’il était « difficile de prédire » la rapidité avec laquelle l’enquête progresserait, mais que l’Ofcom pourrait demander une ordonnance de perturbation des activités plus rapidement que prévu dans des circonstances exceptionnelles.
Clare McGlynn, professeure de droit à l’Université de Durham, a estimé que le débat sur un éventuel blocage de X au Royaume-Uni était une « distraction ». Elle a insisté sur la nécessité d’une action concrète pour empêcher Grok de générer des images intimes illégales et pour permettre aux victimes de faire supprimer les images non consensuelles les concernant.
« Le fait que Musk et d’autres appellent cela une excuse pour la censure ne fait que détourner l’attention du problème en question : la violence systématique contre les femmes et les filles. »
Dr Daisy Dixon