Tiktok note qu’il utilise à la fois la technologie et les modérateurs humains pour identifier le contenu qui brise les règles. Cependant, le volume de téléchargements rend difficile la modération opportune. Alors que les vidéos racistes ont accumulé de nombreuses vues, un porte-parole de Tiktok a déclaré à ARS que plus de la moitié des comptes cités dans le rapport MediaMatters ont été interdits pour les violations des politiques avant la publication du rapport, et le reste a maintenant été supprimé.
Quant à Google, il a un complet Politique d’utilisation interdite Cela interdit l’utilisation de ses services pour promouvoir les discours de haine, le harcèlement, l’intimidation, l’intimidation et les abus. Les vidéos découvertes par MediaMatters semblent toutes relever d’une ou plusieurs de ces catégories. Dans un monde parfait, Veo 3 refuserait de créer ces vidéos, mais l’imprécision dans l’invite et l’incapacité de l’IA à comprendre les subtilités des tropes racistes (c’est-à-dire l’utilisation de singes au lieu des humains dans certaines vidéos) facilitent la jupe des règles.
Tiktok, étant le premier géant de vidéo sociale du monde, est un endroit naturel pour ces vidéos. Ce n’est pas exclusif à Tiktok, cependant. X (anciennement Twitter) a acquis une réputation pour modération très limitéeconduisant à une explosion de contenu d’IA haineux. Ce problème pourrait également empirer très bientôt. Google prévoit de Intégrer VEO 3 dans les shorts YouTubece qui pourrait faciliter la diffusion de contenu similaire sur YouTube.
Tiktok et Google ont des interdictions claires sur ce contenu, ce qui aurait dû l’empêcher d’être vu des millions de fois sur les réseaux sociaux. L’application de ces politiques fait cependant défaut. Tiktok est apparemment incapable de suivre le flot de téléchargements vidéo, et les garde-corps de Google semblent insuffisants pour bloquer la création de ce contenu. Nous avons contacté Google pour nous renseigner sur les caractéristiques de sécurité de Veo 3, mais nous n’avons pas encore entendu parler.
Aussi longtemps que l’IA génératrice a existé, les gens l’ont utilisé pour Créer un contenu inflammatoire et raciste. Google et d’autres parlent toujours des garde-corps pour éviter une mauvaise utilisation, mais ils ne peuvent pas tout attraper. Le réalisme de Veo 3 Le rend particulièrement attrayant pour ceux qui veulent diffuser des stéréotypes haineux. Peut-être que tous les garde-corps du monde n’arrêteront pas cela.
Sur le même sujet
