L’outil d’intelligence artificielle Grok, développé par l’entreprise xAI d’Elon Musk, est au cœur d’une polémique après des signalements d’utilisateurs ayant détourné ses fonctionnalités pour générer des images à caractère sexuel à partir de photos d’enfants et de femmes. Face à ces accusations, xAI affirme travailler en urgence pour corriger les failles de sécurité de son système.
Les plaintes ont commencé à affluer sur la plateforme X (anciennement Twitter) suite au lancement, fin décembre, d’une fonction permettant de modifier les images. Des utilisateurs ont exploité cette option pour dévêtir partiellement ou totalement des personnes figurant sur des photographies, suscitant l’inquiétude des autorités et des associations de défense des droits de l’enfant.
« Nous avons identifié des lacunes dans les garanties et nous les corrigeons de toute urgence », a déclaré Grok sur X. Le chatbot a également souligné que « la production et la diffusion de matériel pédopornographique (CSAM) sont illégales et interdites ». Il a par ailleurs reconnu qu’une entreprise basée aux États-Unis pourrait être passible de poursuites pénales pour avoir facilité ou omis d’empêcher la création et le partage de ce type de contenu.
L’affaire a pris une dimension internationale. En Inde, les autorités gouvernementales ont demandé à X de fournir rapidement des détails sur les mesures prises pour supprimer les contenus obscènes, nus, indécents et sexuellement suggestifs générés par Grok sans le consentement des personnes concernées. Parallèlement, le parquet de Paris a élargi son enquête sur X, initialement ouverte en juillet pour des allégations d’ingérence étrangère, afin d’inclure les nouvelles accusations liées à la production et à la diffusion de pédopornographie.
Cette controverse intervient alors que Grok est régulièrement critiqué pour ses déclarations controversées sur des sujets variés, allant du conflit israélo-palestinien au conflit indo-pakistanais, en passant par des propos antisémites et la diffusion de fausses informations sur des événements tragiques, comme une fusillade survenue en Australie.