Publié le 12 janvier 2026 à 12h56. L’Ofcom, le régulateur britannique des médias, a ouvert une enquête formelle contre la plateforme X suite à la création de fausses images sexuelles par son chatbot d’intelligence artificielle, Grok. Cette affaire soulève de vives inquiétudes quant à la protection des utilisateurs, notamment des enfants, et pourrait entraîner de lourdes sanctions pour l’entreprise d’Elon Musk.
- L’Ofcom a donné à X jusqu’au 9 janvier pour expliquer les mesures prises pour se conformer à ses obligations en matière de sécurité en ligne.
- xAI, la société derrière Grok, a limité la génération d’images à ses abonnés payants, mais cette mesure est jugée insuffisante par certains.
- Plusieurs pays, dont la Malaisie et l’Indonésie, ont temporairement bloqué l’accès à Grok.
L’enquête de l’Ofcom porte sur des signalements alarmants concernant l’utilisation du chatbot Grok AI sur X pour générer et diffuser des images dénudées de personnes, potentiellement constitutives d’abus d’images intimes ou de pornographie, ainsi que des images sexualisées d’enfants, ce qui pourrait relever du matériel pédopornographique. L’organisme de régulation a indiqué avoir reçu une réponse de X dans les délais impartis et avoir procédé à une évaluation rapide des preuves disponibles.
« En tant qu’organisme indépendant chargé de la sécurité en ligne au Royaume-Uni, nous avons contacté X en urgence le 5 janvier et lui avons fixé un délai ferme pour qu’il explique les mesures qu’il a prises pour se conformer à ses obligations de protection de ses utilisateurs au Royaume-Uni », a précisé l’Ofcom dans un communiqué.
Face à la polémique, xAI a annoncé qu’elle limiterait la génération et l’édition d’images à ses abonnés payants, expliquant qu’elle « corrige les failles qui permettaient aux utilisateurs de X de produire du contenu sexualisé d’autrui, souvent sans consentement ». Cependant, cette mesure a été accueillie avec scepticisme. Niamh Smyth, ministre d’État chargée de l’IA, a qualifié cette décision de « habillage de fenêtre ».
Le médiateur des enfants, le Dr Niall Muldoon, a également exprimé son désaccord, estimant que cette mise à jour « ne change pas fondamentalement la donne ».
« On dit en substance que la possibilité d’abus existe toujours, mais qu’il faut payer pour cela »
Dr Niall Muldoon, médiateur des enfants
Les conséquences pour X pourraient être importantes. Si l’Ofcom conclut à une infraction à la loi sur la sécurité en ligne, la plateforme pourrait être contrainte de prendre des mesures correctives, sous peine d’une amende pouvant atteindre 10 % de son chiffre d’affaires mondial éligible. Downing Street a même laissé entendre que le gouvernement britannique pourrait cesser d’utiliser X si la plateforme ne répondait pas aux préoccupations soulevées.
« Notre objectif aujourd’hui et au cours de la semaine dernière a été entièrement mis sur la protection des enfants et sur la garantie que ce contenu ignoble soit supprimé immédiatement. C’est notre objectif principal »
Porte-parole du Premier ministre britannique Keir Starmer
La Malaisie a rejoint l’Indonésie en bloquant temporairement l’accès à Grok, suite à une utilisation abusive répétée de l’outil pour générer des images obscènes, sexuellement explicites et non consensuelles, impliquant parfois des mineurs. La Commission malaisienne des communications et du multimédia a précisé qu’elle restreignait l’accès à Grok en raison de la prolifération de contenus « indécents, grossièrement offensants et impliquant des femmes et des mineurs ».
Contactée par Reuters, xAI a répondu par un message automatisé laconique : « Legacy Media Lies » (Les médias traditionnels mentent). X n’a pas immédiatement répondu à une demande de commentaire.
La Comísiún na Meán, le régulateur irlandais des médias, a indiqué qu’elle discutait de ces préoccupations avec la Commission européenne.
Source : Reuters
À ne pas manquer
