L’intelligence artificielle Grok, développée par l’entreprise xAI d’Elon Musk, est au cœur d’une polémique après avoir été détournée pour générer des images sexualisées de femmes, parfois sans leur consentement. La Commission européenne a ordonné à la plateforme X (anciennement Twitter) de conserver tous les documents et données relatifs à ce service d’IA, ouvrant la voie à d’éventuelles sanctions.
La Commission européenne a qualifié les images diffusées sur X de « illégales et choquantes » et a prolongé une précédente injonction de conservation des données concernant les algorithmes et la diffusion de contenus illégaux. Cette décision intervient après des critiques formulées par plusieurs gouvernements, dont celui de l’Allemagne, du Royaume-Uni et de la France, concernant la production de représentations sexualisées par l’IA.
« Ce que nous observons actuellement sur X ressemble à une industrialisation du harcèlement sexuel. Elon Musk, avec son service d’IA Grok, permet la création d’images sexualisées d’apparence réaliste de femmes », a déclaré le ministre de la Culture allemand, Wolfram Weimer, le 24 septembre 2024. Il a souligné que les images générées par l’IA représentant des mineurs sont particulièrement inacceptables.
Malgré les critiques, Elon Musk avait initialement minimisé les préoccupations. xAI avait affirmé que des lacunes dans les mesures de sécurité avaient conduit à la création d’images montrant des « mineurs portant des vêtements légers ». Cependant, l’IA continue fréquemment de répondre aux demandes de création d’images explicites.
Pour illustrer la fonctionnalité controversée, Elon Musk a lui-même demandé à Grok de créer une image de lui en bikini, se moquant ainsi de la capacité de l’IA à générer des images suggestives. Certains contenus générés par l’IA ont été activement promus par X, comme un post d’une créatrice de contenu OnlyFans qui a été affiché à plus de 13 millions d’utilisateurs, malgré ses 80 000 abonnés seulement. Des utilisatrices de la plateforme ont même sollicité Grok pour modifier leurs propres photos, en demandant par exemple d’être « habillées d’un micro-bikini ».
Les images générées pourraient entraîner des poursuites judiciaires, notamment aux États-Unis, où le scandale des photos de déshabillage non sollicitées pourrait donner lieu à des demandes d’indemnisation s’élevant à plusieurs millions de dollars.
À retenir
- L’IA Grok est accusée de générer des images sexualisées de femmes sans consentement.
- La Commission européenne a ordonné à X de conserver les données relatives à Grok.
- Des poursuites judiciaires sont possibles aux États-Unis.
Contexte
Le développement rapide de l’intelligence artificielle soulève des questions éthiques et juridiques concernant la protection de la vie privée et la lutte contre le harcèlement en ligne. L’affaire Grok met en lumière les risques liés à l’utilisation abusive de ces technologies et la nécessité de mettre en place des réglementations appropriées.
Ce qui change
La décision de la Commission européenne pourrait entraîner des sanctions financières pour X et inciter l’entreprise à renforcer ses mesures de sécurité. L’affaire pourrait également avoir un impact sur le développement et la réglementation de l’IA dans l’Union européenne et au-delà.
Prochaines étapes
Il faudra surveiller la manière dont X se conformera à l’injonction de la Commission européenne et les éventuelles sanctions qui pourraient être imposées. Les développements législatifs concernant la réglementation de l’IA seront également à suivre de près.
Chiffres clés
- 13 000 000+ Nombre d’utilisateurs exposés à un post d’OnlyFans promu par X.
- 80 000 Nombre d’abonnés de la créatrice de contenu OnlyFans mentionnée.