Des lignes directrices sur la façon de gérer le matériel d’abus sexuel des enfants générées par l’IA (CSAM) ont été publiées à 38 000 enseignants et personnel à travers le Royaume-Uni.
Les lignes directrices sont une tentative d’aide aux personnes travaillant avec des enfants à s’attaquer à l’augmentation “très troublante” du CSAM généré par l’AI.
Ils ont été publiés par la National Crime Agency (NCA) et la Fondation Internet Watch (IWF).
Le contenu généré par l’AI est illégale au Royaume-Uni et est traité de la même manière que toute autre imagerie d’abus sexuelle des enfants, même si l’imagerie n’est pas photoréaliste.
“L’augmentation de l’imagerie des abus sexuels sur les enfants générées par l’AI-AI est très troublante et il est essentiel que chaque bras de la société se lève avec les dernières menaces en ligne”, a déclaré le ministre de la sauvegarde Jess Phillips.
«Les abus sexuels sur les enfants générés par l’AI sont illégaux et nous savons que les activités des prédateurs malades en ligne les conduisent souvent à effectuer les abus les plus horribles en personne.
“Nous ne permettrons pas à l’armement de la technologie contre les enfants et nous n’hésiterons pas à aller plus loin pour protéger nos enfants en ligne”, a-t-elle déclaré.
Les lignes directrices suggèrent que si les jeunes utilisent l’IA pour créer des images nues à partir des images des autres – appelées nudification – ou créant du CSAM générateur de l’AI, ils ne savent peut-être pas que ce qu’ils font est illégal.
La nudification, c’est quand une image non explicite de quelqu’un est modifiée pour les faire paraître nue et est de plus en plus courante dans les cas de “sextorsion” – lorsque quelqu’un est chanté avec des images explicites.
“Lorsqu’un moins de 18 ans crée un AI-CSAM, il peut penser que c’est” juste une blague “ou” plaisanterie “ou le faire avec l’intention de faire chanter ou de nuire à un autre enfant”, suggère les conseils.
“Ils peuvent ou non reconnaître l’illégalité ou l’impact grave et durable que leurs actions peuvent avoir sur la victime.”
L’année dernière, la NCA a interrogé les enseignants et a constaté que plus d’un quart n’était pas conscient du CSAM généré par l’AI était illégal, et la plupart n’étaient pas sûrs que leurs élèves le savaient non plus.
Plus de la moitié des répondants ont déclaré que les directives étaient leurs ressources les plus urgentes.
Image: un analyste IWF au travail. Pic: IWF
L’IWF a connu une quantité croissante de CSAM généré par l’AI-AI alors qu’elle parcourt Internet, traitant 380% de rapports en plus de la violence en 2024 qu’en 2023.
“La création et la distribution de l’imagerie sexuelle gérée par AI-AI et fausses d’un enfant peuvent avoir un impact dévastateur sur la victime”, a déclaré Derek Ray-Hill, directeur général par intérim de l’IWF.
En savoir plus de Sky News:
Sites de pornographie majeurs pour introduire une vérification de l’âge «robuste» pour les utilisateurs britanniques
Les médecins utilisant l’IA non approuvée pour enregistrer les réunions des patients
Les utilisateurs de Minecraft ciblés par les cybercriminels
“Il peut être utilisé pour faire chanter et extorquer les jeunes. Il ne fait aucun doute que des préjudices réels sont infligés et la capacité de créer ce type d’imagerie rapidement et facilement, même via une application sur un téléphone, est une véritable préoccupation.”
Plusieurs pédophiles ont été envoyés en prison pour avoir utilisé l’intelligence artificielle pour créer des images d’abus sexuels pour enfants ces dernières années.
L’année dernière, Hugh Nelson a été condamné à 18 ans de prison Pour avoir créé un CSAM généré par l’IA, des policiers ont pu relier à de vrais enfants.
“La lutte contre les abus sexuels sur les enfants est une priorité pour la NCA et nos partenaires policiers, et nous continuerons à enquêter et à poursuivre les personnes qui produisent, possèdent, partagent ou recherchent le CSAM, y compris le CSAM généré par l’AI”, a déclaré Alex Murray, directeur du leadership des menaces et de la police de la NCA pour l’intelligence artificielle.
En février, le gouvernement a annoncé que des outils d’IA conçus pour générer des matériaux d’abus sexuels sur des enfants rendu illégal dans le cadre de la législation “de pointe”.
Entre-temps, cependant, les militants ont demandé que des conseils soient émis aux enseignants.
Laura Bates, l’auteur d’un livre sur la propagation de la misogynie en ligne, a dit MPS plus tôt ce mois-ci Cette pornographie profonde “serait la prochaine grande épidémie de violence sexuelle confrontée à des écoles, et les gens ne savent même pas que cela se passe”.
“Il ne devrait pas être possible qu’un garçon de 12 ans puisse accéder facilement et librement à créer ces formes de contenu en premier lieu”, a-t-elle déclaré.
À ne pas manquer
