Sept chercheurs de Google ont présenté SAFE, un outil interne d’agents IA conçu pour enquêter sur les réseaux de chaînes qui inondent YouTube et d’autres plateformes de vidéos de faible qualité produites en masse, un phénomène connu sous le nom d’« AI slop ».
Face à la prolifération de contenus inauthentiques sur les plateformes vidéo, les méthodes traditionnelles de détection montrent leurs limites. Sept chercheurs de Google ont mis en ligne un document de recherche décrivant SAFE, un système d’agents intelligents destiné à traquer les réseaux de comptes automatisés.
L’ampleur du phénomène de l’AI slop sur YouTube
La production automatisée de vidéos de piètre qualité génère un trafic massif sur les plateformes. Selon un rapport publié par Kapwing à l’automne 2025 après l’examen de 15 000 chaînes en tendance à travers le monde, 278 chaînes se consacraient exclusivement à ce type de contenu. Bien qu’elles représentent moins de 2 % de l’échantillon, ces chaînes cumulaient plus de 63 milliards de vues et environ 117 millions de dollars de revenus annuels estimés.
YouTube tente de freiner cette monétisation depuis le 15 juillet 2025 en excluant de son programme partenaire les contenus jugés inauthentiques, répétitifs ou produits en masse. Pourtant, ces vidéos continuent d’occuper une place importante dans les recommandations, comme le démontre l’observation de comptes neufs sur la plateforme.
Le fonctionnement des agents IA de Google SAFE
Le système SAFE, acronyme de Scaled Abuse Forensics Examiner, s’inspire du vocabulaire de la police scientifique pour structurer ses enquêtes. Les outils classiques qui ciblent les doublons échouent face aux réseaux de fausses chaînes, car chaque vidéo publiée diffère légèrement de la précédente.
- Un deuxième agent qui analyse le comportement des comptes en étudiant l’infrastructure réseau, les empreintes techniques des appareils et les fenêtres horaires de publication pour repérer les diffusions synchronisées.
- Un troisième agent qui cartographie les liens entre les comptes pour permettre le démantèlement global d’une opération coordonnée plutôt que la fermeture isolée de chaînes individuelles.
Le rôle de la supervision humaine et les performances mesurées
Le projet est conçu pour épauler les analystes humains et réduire leur charge de travail. Le document initial ne précise pas explicitement qui prend la décision finale de radier les comptes, mais il indique que l’humain conserve le contrôle. De son côté, Neal Mohan, CEO de YouTube, a rappelé dans sa lettre annuelle publiée le 21 janvier 2026 que la lutte contre ces pratiques s’appuie sur les infrastructures de sécurité existantes de la plateforme.
Si la publication consacrée à SAFE ne fournit pas de chiffres précis sur ses performances actuelles, un autre document de recherche publié par Google en 2026 apporte des indications chiffrées sur un système similaire déployé sur une grande plateforme vidéo. En l’espace de six mois, cette architecture a permis de fermer 50 000 groupes de comptes coordonnés, soit 130 000 chaînes, tout en divisant par deux le volume des vérifications humaines nécessaires.