Publié le 13 janvier 2026 à 06h00. L’intelligence artificielle conversationnelle Grok, développée par xAI, la société d’Elon Musk, suscite une vague d’inquiétudes et de mesures réglementaires à travers le monde en raison de sa capacité à générer des images sexuellement explicites et des deepfakes non consensuels.
- Plusieurs pays, dont l’Indonésie et la Malaisie, ont temporairement bloqué l’accès à Grok.
- L’Union européenne, le Royaume-Uni, la France, l’Italie et l’Allemagne ont lancé des enquêtes ou envisagent de nouvelles législations pour encadrer l’utilisation de cette technologie.
- Les autorités craignent que les mesures de sécurité actuelles ne soient insuffisantes pour empêcher la création et la diffusion de contenus préjudiciables.
La controverse autour de Grok s’est intensifiée après la découverte de sa capacité à répondre aux demandes des utilisateurs visant à déshabiller des femmes sur des images ou à les habiller en bikini, créant ainsi des deepfakes potentiellement illégaux. xAI avait intégré, l’été dernier, une fonctionnalité de génération d’images incluant un « mode épicé » permettant de créer du contenu pour adultes.
L’Indonésie a été le premier pays à réagir, bloquant temporairement l’accès à Grok pour protéger les femmes, les enfants et la communauté contre la prolifération de fausses images pornographiques générées par l’IA. Le ministre indonésien de la Communication et des Affaires numériques, Meutya Hafid, a déclaré samedi dans un communiqué :
« Le gouvernement considère les deepfakes sexuels non consensuels comme une grave violation des droits de l’homme, de la dignité et de la sécurité des citoyens dans l’espace numérique. »
Selon la police nationale indonésienne, cette restriction est une mesure préventive, le temps d’évaluer la sécurité de la plateforme. Une première évaluation a révélé que Grok ne disposait pas de garanties efficaces pour empêcher la création et la diffusion de contenus pornographiques basés sur des photos de résidents indonésiens. Alexander Sabar, directeur général indonésien de la supervision de l’espace numérique, a souligné que de telles pratiques pourraient porter atteinte à la vie privée, au droit à l’image et causer un préjudice psychologique et social.
La Malaisie a suivi avec une interdiction temporaire ordonnée par la Commission malaisienne des communications et du multimédia (MCMC), suite à une « utilisation abusive répétée » de l’outil pour générer des images obscènes, sexuellement explicites et non consensuelles. Le régulateur a adressé deux avertissements à X et xAI, exigeant des garanties plus strictes. X a répondu que Grok reposait principalement sur les utilisateurs pour signaler les contenus abusifs. La MCMC a estimé que X « n’a pas réussi à gérer les risques inhérents » à sa plateforme d’IA, ce qui est insuffisant au regard de la législation malaisienne.
« La restriction est imposée à titre préventif et proportionné pendant que les processus juridiques et réglementaires sont en cours »
, indique le communiqué de la MCMC.
En Europe, la Commission européenne examine des cas d’images sexuellement suggestives et explicites de jeunes filles générées par Grok. Un porte-parole de la Commission a déclaré aux journalistes à Bruxelles la semaine dernière :
« Je peux confirmer depuis cette tribune que la Commission examine également cette question très sérieusement. »
Reuters a rapporté que la Commission a demandé à X de conserver tous les documents relatifs à Grok jusqu’à la fin de l’année afin d’évaluer sa conformité aux règles de l’UE. La présidente de la Commission européenne, Ursula Von der Leyen, s’est dite « indignée qu’une plateforme technologique permette aux utilisateurs de déshabiller numériquement des femmes et des enfants en ligne » dans une interview au Corriere della Sera, ajoutant que la Commission « ne sous-traitera pas la protection et le consentement des enfants à la Silicon Valley. S’ils n’agissent pas, nous le ferons ».
Au Royaume-Uni, l’organisme de surveillance des médias, Ofcom, a lancé une enquête sur X concernant l’utilisation de Grok pour générer des images sexuellement explicites et non consensuelles, ainsi que des « images sexualisées d’enfants ». Ofcom pourrait demander une ordonnance du tribunal pour bloquer l’accès à Grok si X ne se conforme pas à ses exigences, et pourrait infliger une amende pouvant atteindre 18 millions de livres sterling (environ 20 millions d’euros), soit 10 % de son chiffre d’affaires mondial. Liz Kendall, secrétaire à la Technologie, a déclaré au Parlement :
« Le contenu qui a circulé sur X est ignoble. Ce n’est pas seulement un affront à la société décente, c’est illégal. »
En France, le parquet de Paris a élargi son enquête sur X à Grok, comme l’a rapporté le média local. L’enquête initiale, ouverte en juillet dernier, portait sur des interférences présumées avec les systèmes informatiques de X et l’extraction illégale de données. L’Autorité de régulation de l’audiovisuel et de la communication numérique (Arcom) enquête également sur d’éventuelles violations de la loi sur les services numériques.
L’Italie a mis en garde contre des poursuites pénales pour quiconque utilise Grok ou d’autres plateformes d’IA pour dévêtir des personnes et pour ceux qui diffusent ces images, considérant cela comme une « violation grave des droits et libertés fondamentales ». L’autorité italienne de protection des données (Garante) a émis un avertissement à ce sujet et collabore avec la Commission irlandaise de protection des données, responsable de X. L’Italie a déjà bloqué ClothOff, une autre plateforme de génération d’images dénudées, et a ajouté un nouvel article à son code pénal punissant la diffusion de deepfakes d’IA d’une peine pouvant aller jusqu’à cinq ans de prison.
L’Allemagne prévoit de présenter prochainement une « proposition concrète » pour une nouvelle loi contre la violence numérique, afin de permettre aux victimes de « prendre plus facilement des mesures directes contre les violations de leurs droits en ligne ». Anna-Lena Beckfeld, porte-parole du ministère allemand de la Justice, a déclaré qu’il était « inacceptable que la manipulation soit utilisée à grande échelle pour des violations systémiques des droits de la personne ». Les principaux partis allemands se sont accordés pour réformer la loi sur la cybercriminalité et combler les « lacunes » du code pénal concernant les crimes liés à l’IA, selon un accord de coalition.
En Australie, le bureau du commissaire australien à la sécurité électronique a déclaré avoir reçu un nombre croissant de signalements concernant le contenu sexuel généré par l’IA sur Grok. Il utilisera ses pouvoirs, notamment des avis de suppression, pour faire retirer les contenus illégaux et a demandé à X des informations supplémentaires sur l’utilisation abusive de Grok. À partir du 9 mars, les services en ligne devront bloquer l’accès des enfants aux contenus sexuels, violents ou préjudiciables.
Pour aller plus loin
