Le procureur général de Californie a lancé une enquête sur xAI, la société d’intelligence artificielle fondée par Elon Musk, suite à une vague de signalements concernant la création d’images sexuellement explicites et non consensuelles à l’aide de son modèle d’IA, Grok. Cette initiative intervient alors que des inquiétudes grandissent quant à l’utilisation abusive de l’IA pour harceler et sexualiser des individus, notamment des femmes et des enfants.
Rob Bonta, procureur général de Californie, a exprimé son indignation face à la prolifération de ces contenus préjudiciables. « L’avalanche de signalements concernant le matériel non consensuel et sexuellement explicite que xAI a produit et publié en ligne ces dernières semaines est choquante, » a-t-il déclaré. « Ce matériel, représentant des femmes et des enfants dans des situations nues et sexuellement explicites, a été utilisé pour harceler des personnes sur Internet. »
L’enquête se concentrera sur la manière dont xAI a pu violer la loi californienne. Le procureur général a souligné sa détermination à protéger les résidents de l’État face aux risques liés à l’IA, en particulier en ce qui concerne la protection des enfants. « Nous avons une tolérance zéro pour la création et la diffusion basées sur l’IA d’images intimes non consensuelles ou de matériel d’abus sexuel sur des enfants, » a-t-il affirmé.
Selon des témoignages, des utilisateurs de Grok exploitent des images publiques de femmes et d’enfants pour les représenter dans des scénarios suggestifs et sexuellement explicites, souvent en les « déshabillant » sans leur consentement. xAI a intégré à Grok un « mode épicé » capable de générer du contenu explicite, qu’elle a même promu à des fins marketing, contribuant ainsi à l’augmentation de ces abus.
Les images générées par Grok sont utilisées pour harceler des personnalités publiques et des particuliers sur les réseaux sociaux. Des signalements font état de modifications d’images d’enfants, les montrant dans des tenues minimales ou dans des situations à caractère sexuel. Des images photoréalistes d’enfants impliqués dans des activités sexuelles auraient également été produites. Une analyse a révélé que plus de la moitié des 20 000 images générées par xAI entre Noël et le Nouvel An représentaient des personnes portant des vêtements minimes, dont certaines semblaient être des enfants.
Cette enquête s’inscrit dans une démarche plus large du procureur général Bonta pour encadrer l’utilisation de l’IA et protéger les populations vulnérables. En septembre dernier, il avait rencontré des représentants d’OpenAI pour exprimer ses préoccupations concernant les interactions inappropriées de leurs produits avec les jeunes. En août, il avait adressé une lettre à 12 grandes entreprises d’IA, les alertant sur leurs obligations légales en matière de sécurité des enfants.
Les victimes potentielles de ces abus peuvent signaler les faits sur le site oag.ca.gov/report.
Pour aller plus loin
