Les technologies avancées finissent souvent par être utilisées de manière inattendue et parfois nocive. Un exemple récent est le cas de Google je vois 3Un générateur vidéo basé surIntelligence artificiellequi, malgré son objectif initial de promotion de la créativité, a été associé à la prolifération de vidéos racistes et anti-Semites sur Tiktok.
Lancé en mai, VEO 3 a produit de courts films de haute qualité qui perpétuent les stéréotypes offensants, représentant des couleurs de personnes dans des rôles criminels ou négatifs et ciblant les personnes de religion juive. Une relation détaillée de MediaMatter a documenté la large diffusion de ces contenus, mettant en évidence les lacunes dans les politiques de modération du contenu À Tiktok.
Bien que les directives de la plate-forme interdisent explicitement les discours de haine, l’inefficacité dans l’application des règles a permis la circulation incontrôlée de ce contenu. La présence de filigrane de Veo 3 sur bon nombre de ces contenus a soulevé des questions sur la responsabilité de Google dans la gestion de ses technologies.
Veo 3: garde-corps et sécurité insuffisants
Les politiques de sécurité intégrées dans VEO 3 semblent moins rigoureuses que les modèles précédents. Des tests indépendants ont montré qu’il est possible de générer un contenu problématique avec des invites simples, ce qui augmente les doutes sur l’efficacité des protections du système.
La réaction de la communauté en ligne a été mitigée. Alors que certains condamnent fermement le contenu, d’autres les amplifient par des commentaires et des actions, créant un cercle vicieux. Tiktok, en tant que plate-forme, est désormais sous pression pour affronter sérieusement le problème et démontrer un véritable engagement dans la lutte contre la propagation du contenu nocif. Pour la plate-forme, récemment au centre d’autres controverses telles qu’elle est utilisée pour se propager malwareC’est un problème nouveau et lourd qui devra faire face.
Avec l’évolution continue des modèles d’IA, les risques d’utilisation inappropriés deviennent de plus en plus concrets. La collaboration entre développeurs, plates-formes Et régulateurs Il est essentiel de définir un cadre réglementaire qui garantit l’utilisation éthique et responsable de ces technologies.
Sur le même sujet
