Points clés:
- Des images sexuellement explicites de Taylor Swift générées par l’IA sont devenues virales sur la plateforme de médias sociaux X, provoquant l’indignation.
- Les fans du chanteur se sont regroupés pour dénoncer en masse les comptes partageant les images et spammer les hashtags qui les faisaient circuler.
- L’incident met en lumière les problèmes liés à l’utilisation de l’intelligence artificielle pour créer du porno « deepfake » ou « vengeance ».
Les images sexuellement explicites de Taylor Swift générées par l’IA sont devenues virales sur X (anciennement Twitter), provoquant l’indignation de ses fans.
Avec les progrès récents de la technologie de l’intelligence artificielle, le problème des utilisateurs créant ce que l’on appelle la « pornographie deepfake » est devenu de plus en plus fréquent, dans lequel les visages ou ressemblances de célébrités et d’autres personnalités publiques sont transformés en photos de nus sexuellement explicites ou générés en vidéos pornographiques.
L’IA a également été utilisée pour créer du « porno vengeance » dans lequel les utilisateurs manipulent des images de partenaires ou génèrent des images ou des vidéos explicites de manière non consensuelle.
Dans ce cas précis, de fausses images de Taylor Swift nue dans un stade de football ont été partagées et sont rapidement devenues virales.
L’une des publications les plus importantes sur X a été vue plus de 45 millions de fois, plus de 20 000 republications et des centaines de milliers de likes et de favoris avant que l’utilisateur qui a partagé les images ne voit son compte suspendu.
Le message est resté actif pendant 17 heures, selon le Verge.
“Taylor Swift AI” est rapidement devenu une tendance qui a fait la promotion des images auprès d’un public plus large, dont plusieurs sont encore visibles sur la plateforme, malgré les X. .
X a été largement critiqué pour avoir vidé son équipe de modération sous la direction d’Elon Musk, son propriétaire depuis fin 2022, en s’appuyant fortement sur des systèmes automatisés et des rapports d’utilisateurs.
Sortie les images renvoient à une communauté spécifique sur Telegram “dédiée aux images abusives de femmes”.
Comment les fans de Taylor Swift ont-ils réagi ?
En réponse, les fans de Swift ont commencé à spammer les hashtags tendance sur X avec des photos et des vidéos légitimes de l’artiste afin d’étouffer la tendance des fausses images explicites non consensuelles.
“Protégez Taylor Swift” a commencé à être tendance sur X jeudi alors que les fans ont lancé un appel pour signaler en masse les comptes partageant les fausses photos.
Aux États-Unis, où réside Swift, il n’existe pas de lois fédérales régissant la création et la diffusion de fausses pornographies ou d’autres contenus explicites non consensuels générés par l’IA, et les victimes doivent s’appuyer sur les lois en vigueur dans leur État individuel.
L’Australie a lancé une campagne de répression contre la pornographie deepfake avec la loi sur la sécurité en ligne de 2021, dévoilant des réglementations exigeant que les moteurs de recherche et les plateformes Internet fassent davantage pour empêcher la propagation de la pornographie générée par l’IA et du matériel pédopornographique.
