Publié le 26 janvier 2024 18:45:00. Le gouvernement français a porté plainte contre X, le réseau social d’Elon Musk, pour la diffusion de contenus sexistes et sexuels illégaux générés par son intelligence artificielle, Grok. Cette action intervient après une vague de signalements concernant la création de fausses vidéos à caractère pornographique sans consentement.
- Le gouvernement français a déposé une plainte auprès de la justice contre X pour diffusion de contenus sexistes et sexuels illégaux.
- L’IA de X, Grok, est accusée d’avoir généré et diffusé des « deepfakes » (contrefaçons réalistes) à caractère sexuel, notamment des images de femmes nues créées à la demande d’utilisateurs.
- L’exécutif a également saisi l’Arcom et l’organisme Pharos pour vérifier le respect de la réglementation européenne et lutter contre les contenus illicites en ligne.
L’initiative est portée par les ministres de l’Économie, Roland Lescure, de l’Intelligence artificielle et de l’économie numérique, Anne Le Henanff, et de l’Égalité entre les hommes et les femmes, Aurore Bergé. Ils fondent leur action sur l’article 40 du Code pénal. Selon un communiqué, les faits reprochés à X concernent la génération et la diffusion de contenus à caractère sexiste et sexuel, en particulier des fausses vidéos, communément appelées deepfakes, créées sans le consentement des personnes concernées. Cette situation a été particulièrement visible depuis la fin décembre, avec une recrudescence de demandes d’utilisateurs visant à générer des images de femmes nues via l’IA.
Les trois ministres ont fermement condamné ces pratiques, soulignant l’engagement constant du gouvernement dans la lutte contre toutes les formes de violences sexuelles et sexistes.
« Nous condamnons avec la plus grande fermeté ces pratiques et réaffirmons l’engagement constant du Gouvernement dans la lutte contre toute forme de violences sexuelles et sexistes. »
Roland Lescure, Anne Le Henanff et Aurore Bergé, ministres
Parallèlement, X a reconnu des défaillances dans ses systèmes de sécurité, conduisant à la diffusion d’images représentant des mineurs portant des vêtements minimaux. L’entreprise a indiqué qu’elle travaillait à corriger ces problèmes. Cependant, les représentants français insistent sur le fait qu’Internet ne saurait être considéré comme un espace sans loi. Ils affirment que les délits sexuels commis en ligne sont passibles de sanctions pénales, au même titre que les infractions commises hors ligne.
Au-delà de la plainte pénale, le gouvernement français a demandé à l’ Autorité de régulation de l’audiovisuel et de la communication numérique (Arcom) de vérifier si X respecte ses obligations au titre du Règlement sur les services numériques (DSA) de l’Union européenne. L’Arcom devra notamment s’assurer que la plateforme prend des mesures efficaces pour empêcher la diffusion de contenus illicites. L’affaire a également été signalée à Pharos, la plateforme d’Internet signalement des contenus illicites.