Publié le 2024-02-29 10:35:00. L’utilisation croissante de l’intelligence artificielle pour créer des images à caractère sexuel non consenti suscite l’inquiétude et pousse les autorités britanniques à envisager une nouvelle législation pour encadrer ces technologies. Des outils permettant de « dévêtir » numériquement des personnes sont particulièrement visés.
- Le gouvernement britannique prévoit d’interdire les outils de « nudification » artificielle, passibles de peines de prison et d’amendes importantes.
- Le régulateur des médias, Ofcom, demande aux plateformes numériques d’évaluer et de réduire les risques liés à la diffusion de contenu illégal généré par l’IA.
- La plateforme X et son assistant d’IA, Grok, sont pointés du doigt pour leur rôle potentiel dans la création et la diffusion de ces images abusives.
L’onde de choc est palpable. Une utilisatrice, dont le nom n’a pas été divulgué, a exprimé son indignation face à la possibilité de voir son image manipulée par ces technologies.
« Les femmes n’acceptent pas cela. Même si ce n’était pas moi qui étais déshabillée, cela me ressemblait et c’était aussi violent que si quelqu’un avait réellement posté une photo de moi nue ou en bikini. »
Utilisatrice concernée
Face à cette menace grandissante, le ministère de l’Intérieur britannique entend agir. Un porte-parole a annoncé la préparation d’une nouvelle loi visant à criminaliser la fourniture de ces outils de « deepfake » sexuels. Quiconque développerait ou distribuerait une telle technologie s’exposerait à de lourdes sanctions pénales, incluant des peines de prison et des amendes substantielles.
Ofcom, l’organisme de régulation des communications au Royaume-Uni, a également pris position. Il exige désormais des entreprises technologiques qu’elles évaluent les risques liés à l’accès de leurs utilisateurs à du contenu illégal, notamment celui généré par l’IA. Bien qu’Ofcom n’ait pas confirmé l’ouverture d’une enquête spécifique concernant X ou Grok, il insiste sur la nécessité pour ces plateformes de prendre des « mesures appropriées » pour limiter l’exposition des utilisateurs britanniques à de tels contenus et de les supprimer rapidement dès qu’ils sont signalés.
Grok, l’assistant d’IA gratuit proposé par X (avec des options payantes), permet aux utilisateurs de modifier des images téléchargées grâce à ses fonctionnalités d’édition basées sur l’intelligence artificielle. Cette capacité a été critiquée pour avoir facilité la création de photos et de vidéos à caractère pornographique ou sexualisé. La plateforme a déjà été accusée d’avoir permis la création d’une vidéo à caractère sexuel impliquant la chanteuse Taylor Swift. Voir l’article de la BBC à ce sujet.
Clare McGlynn, professeure de droit à l’université de Durham, estime que X et Grok disposent des moyens de lutter contre ces abus, mais semblent choisir de ne pas le faire.
« La plateforme permet la création et la distribution de ces images depuis des mois sans prendre aucune mesure et nous n’avons encore vu aucune contestation de la part des régulateurs. »
Clare McGlynn, professeure de droit à l’université de Durham
Elle souligne que ces entreprises « semblent jouir de l’impunité ».
Il est important de noter que la politique d’utilisation acceptable de XAI interdit explicitement de « représenter des personnes de manière pornographique ». Ofcom rappelle également que la création et le partage d’images intimes non consensuelles, ainsi que de matériel pédopornographique, sont illégaux, y compris lorsqu’ils sont générés par l’IA.