Publié le 14 janvier 2024 20:19:00. La Californie a ouvert une enquête sur le modèle d’intelligence artificielle Grok, développé par xAI d’Elon Musk, suite à la prolifération de fausses images sexuellement explicites et non consensuelles générées par cet outil. Cette affaire relance le débat sur la responsabilité des entreprises technologiques face aux contenus créés par leurs systèmes d’IA.
- Le procureur général de Californie enquête sur la création et la diffusion de deepfakes sexualisés par Grok.
- Elon Musk affirme ne pas être au courant de la génération d’images de mineurs par son IA et accuse ses détracteurs de motivations politiques.
- Le Royaume-Uni envisage une législation pour interdire la création d’images intimes non consensuelles et pourrait retirer à X le statut d’autorégulation.
Le procureur général de Californie, Rob Bonta, a annoncé l’ouverture d’une enquête formelle concernant la propagation de deepfakes à caractère sexuel générés par Grok. Dans un communiqué, il a dénoncé l’« avalanche de signalements » concernant des « contenus non consensuels et sexuellement explicites » produits et mis en ligne par l’IA de xAI au cours des dernières semaines.
xAI, la société derrière Grok, a réagi en affirmant que toute utilisation de son modèle pour créer du contenu illégal entraînera des sanctions similaires à celles encourues pour la simple diffusion de tels contenus. Cependant, cette position ne semble pas suffire à apaiser les inquiétudes croissantes.
L’enquête californienne intervient dans un contexte de pression internationale croissante sur X, la plateforme de médias sociaux également détenue par Elon Musk. Le Premier ministre britannique, Sir Keir Starmer, a même évoqué la possibilité de mesures contre l’entreprise si elle ne parvient pas à contrôler les dérives de Grok.
Selon le procureur Bonta, ces images, représentant des femmes et des enfants dans des situations sexuellement explicites, ont été utilisées pour harceler des individus en ligne. Il a appelé xAI à prendre des mesures immédiates pour endiguer ce phénomène. Le gouverneur de Californie, Gavin Newsom, a également exprimé son indignation, qualifiant la décision de xAI de « répugnante » et dénonçant la création d’un « terrain fertile pour les prédateurs ».
Elon Musk a défendu son entreprise sur X, affirmant ne pas avoir connaissance de la génération d’images de mineurs nus par Grok.
« Je ne suis au courant d’aucune image de mineurs nus générée par Grok. Littéralement zéro. »
Elon Musk
Il a également souligné que Grok ne génère des images que sur demande des utilisateurs.
« De toute évidence, Grok ne génère pas spontanément d’images. Il le fait uniquement en fonction des demandes des utilisateurs. »
Elon Musk
Il a par ailleurs accusé les critiques de X d’être motivées par des considérations politiques et de profiter de la controverse autour de Grok comme prétexte à la censure.
Cette affaire relance un débat plus large sur la responsabilité des entreprises technologiques face aux contenus générés par l’intelligence artificielle. Le magazine Wired a rapporté en novembre que d’autres outils d’IA, comme ceux d’OpenAI et de Google, avaient également été utilisés pour déshabiller numériquement des personnes.
Trois sénateurs démocrates américains ont récemment demandé à Apple et Google de retirer X et Grok de leurs magasins d’applications. Suite à cette demande, X a restreint l’accès à son outil de génération d’images aux seuls abonnés payants. Cependant, X et Grok restent disponibles sur l’App Store d’Apple et Google Play.
Au cœur de ce débat se trouve l’article 230 de la loi sur la décence en matière de communications de 1996, qui accorde une immunité juridique aux plateformes en ligne pour le contenu généré par les utilisateurs. Cependant, le professeur James Grimmelmann de l’Université Cornell estime que cette loi ne protège pas les sites web contre la responsabilité concernant le contenu produit par eux-mêmes.
« Il ne s’agit pas d’un cas où les utilisateurs créent eux-mêmes les images et les partagent ensuite sur X. Dans ce cas, xAI crée lui-même les images. Cela ne relève pas de ce à quoi s’applique l’article 230. »
James Grimmelmann, professeur à l’Université Cornell
Le sénateur Ron Wyden, co-auteur de l’article 230, a également affirmé que cette loi ne s’applique pas aux images générées par l’IA, insistant sur la nécessité de tenir les entreprises pleinement responsables de ce type de contenu.
« Je suis heureux de voir des États comme la Californie intensifier leur enquête sur l’horrible générateur de matériel pédopornographique d’Elon Musk. »
Ron Wyden, sénateur de l’Oregon
Parallèlement, le Royaume-Uni prépare une législation visant à interdire la création d’images intimes non consensuelles. L’organisme de surveillance britannique Ofcom a également lancé une enquête sur Grok, qui pourrait entraîner des amendes allant jusqu’à 10 % de son chiffre d’affaires mondial (soit jusqu’à 18 millions de livres sterling) si des infractions sont constatées. Sir Keir Starmer a averti que X pourrait perdre son droit à l’autorégulation si elle ne parvient pas à maîtriser les dérives de Grok.
À lire aussi
