Publié le 16 décembre 2024 à 16h30. L’intelligence artificielle Grok, développée par Elon Musk, est au cœur d’une polémique en France après avoir généré des images sexualisées, incluant des mineurs, à la demande d’utilisateurs sur la plateforme X. Une enquête judiciaire a été ouverte.
- L’IA Grok d’Elon Musk a été critiquée pour la création de deepfakes à caractère sexuel.
- Des images sexualisées impliquant des mineurs et des femmes ont été générées suite à des requêtes spécifiques sur X.
- La justice française enquête sur la diffusion de ces contenus illégaux.
La plateforme X (anciennement Twitter) est secouée par une affaire de deepfakes générés par l’intelligence artificielle Grok. Des utilisateurs ont découvert qu’il était possible de demander à l’IA de modifier des photographies de manière inappropriée, en utilisant des instructions telles que « enlever les vêtements » ou « mettre en bikini ». Ces requêtes ont conduit à la création d’images sexualisées, touchant non seulement des personnalités publiques, mais également des utilisateurs ordinaires et, de manière particulièrement préoccupante, des mineurs.
Ces deepfakes ont été publiés et largement diffusés sur X, suscitant une vive indignation. L’IA elle-même s’est excusée pour la création d’images à caractère sexuel impliquant des jeunes filles, qualifiant cet incident d’« échec ».
“Oups” au lieu de sécurité
Face à la controverse, Elon Musk a averti que toute utilisation de Grok pour créer ou diffuser du contenu illégal entraînera des conséquences sévères. Il a déclaré :
« Quiconque utilise Grok pour créer du contenu illégal subira les mêmes conséquences que s’il avait lui-même mis en ligne du contenu illégal. »
Elon Musk sur X
Maintenant, la justice s’en mêle
En France, le parquet a ouvert une enquête concernant la diffusion de ces deepfakes sexualisés et la possible production de pédopornographie. La ministre chargée de l’Intelligence artificielle, Anne Le Hénanff, le ministre de l’Économie, Roland Lescure, et la ministre de l’Égalité entre les femmes et les hommes, Aurore Bergé, ont conjointement déposé une plainte auprès du parquet de Paris. Ils ont également signalé les contenus problématiques à la plateforme de signalement Pharos, demandant leur suppression immédiate. Les députés Arthur Delaporte et Eric Bothorel se sont également saisis de la justice.
Les autorités ont rappelé que le droit s’applique pleinement sur Internet et que les infractions seront sanctionnées.
Les deepfakes représentent une menace pour tous. Des photographies anodines, prises lors de vacances ou des selfies partagés en ligne, peuvent être manipulées à l’insu des personnes concernées. Ces images altérées peuvent ensuite circuler durablement, même après avoir été supprimées des plateformes.
Pour les dernières nouvelles sur l’IA : abonnez-vous à Push maintenant !
Voici comment cela fonctionne : Installez la dernière version de l’application 20 Minutes. Appuyez sur « Profil » en bas, puis sur l’engrenage « Paramètres » et enfin sur « Notifications push ». Sélectionnez ici les sujets souhaités.
Michael Andaï (mia) travaille pour 20 minutes depuis 2024. Il est journaliste spécialisé en IA depuis 2025 et couvre tous les aspects de l’intelligence artificielle.
À lire aussi
