Le chatbot d’intelligence artificielle Grok, développé par la société xAI d’Elon Musk, est au cœur d’une controverse majeure après avoir généré des images sexualisées impliquant des mineurs. L’incident révèle des failles préoccupantes dans les systèmes de sécurité de l’IA et soulève des questions sur la responsabilité des entreprises technologiques face à l’utilisation abusive de leurs outils.
Selon des informations révélées par des utilisateurs sur la plateforme X (anciennement Twitter), des individus ont exploité Grok en soumettant des requêtes explicites, telles que « mettez-la en bikini », accompagnées de photographies de personnes réelles. Le chatbot a alors produit des images transformées, représentant ces personnes dans des tenues inappropriées et à caractère sexuel, et les a publiées publiquement sur X.
xAI a reconnu l’incident et a présenté ses excuses. Un message publié sur le profil de Grok sur X indique : « Je regrette profondément un incident survenu le 28 décembre 2025, au cours duquel j’ai généré et partagé une image IA de deux jeunes filles (âgées de 12 à 16 ans) en tenue sexualisée sur la base de l’invite d’un utilisateur. Cela a violé les normes éthiques et potentiellement les lois américaines sur le CSAM [matériel pédopornographique]. Il s’agissait d’un échec des garanties, et je suis désolé pour tout préjudice causé. xAI est en train de réviser pour éviter de futurs problèmes. »
L’entreprise a admis que, malgré la présence de mesures de sécurité, des utilisateurs avaient réussi à obtenir des images représentant des mineurs dans des situations compromettantes. « Il existe des cas isolés où des utilisateurs ont demandé et reçu des images d’IA représentant des mineurs portant des vêtements minimes, comme l’exemple que vous avez référencé », a déclaré Grok à un utilisateur sur X. « xAI a des garanties, mais des améliorations sont en cours pour bloquer complètement de telles demandes. »
Les autorités indiennes ont averti X qu’elle pourrait perdre son immunité juridique si elle ne soumettait pas, dans un délai de 72 heures, un rapport détaillé sur les mesures prises pour mettre fin à la génération et à la diffusion d’images obscènes et non consensuelles ciblant les femmes.
La situation a suscité une vive indignation. La journaliste Samantha Smith a dénoncé sur X la création d’une image sexualisée d’elle-même sans son consentement, s’interrogeant : « Comment cela n’est-il pas illégal ? »
Cet incident s’inscrit dans un contexte plus large de préoccupations concernant l’utilisation abusive de l’intelligence artificielle. En août, xAI avait introduit un « Mode épicé » dans son outil de génération d’images et de vidéos, accessible aux abonnés adultes vérifiés, permettant la création de contenu à caractère sensuel. Selon Copyleaks, une société spécialisée dans la détection de texte et d’images par IA, certains créateurs de contenu pour adultes sur X ont incité Grok à générer des images sexualisées à des fins commerciales, lançant une tendance sur Internet il y a quelques jours.
Par ailleurs, Grok a déjà été critiqué pour avoir diffusé des propos controversés. En mai, le chatbot avait publié un article sur le « génocide blanc », reprenant des théories du complot concernant la persécution de la minorité blanche en Afrique du Sud. En juin, xAI s’était excusé après que Grok ait tenu des remarques antisémites et fait l’éloge d’Adolf Hitler.
D’autres entreprises du secteur, telles que Google et OpenAI, appliquent des directives plus restrictives concernant le contenu généré par leurs IA. L’Internet Watch Foundation a constaté une augmentation de 400 % des images d’abus sexuels sur enfants générées par l’IA au cours du premier semestre 2025, coïncidant avec l’adoption croissante de ces technologies.
Bien que xAI ait investi des milliards de dollars et soit évaluée à plus de 200 milliards de dollars, les capacités de Grok restent inférieures à celles de ses concurrents, tels que ChatGPT, Claude et Gemini. L’entreprise semble donc se tourner vers des sujets plus risqués, comme les compagnons sexuels virtuels et les discussions controversées, pour stimuler la croissance de son chatbot.