“Ils peaufinent ma voix ou quoi qu’ils fassent, peaufinant leur propre voix pour que cela ressemble à moi, et les gens le commentent comme si c’était moi, et ce n’est pas moi”, a récemment déclaré Washington à Wired lorsqu’il a été interrogé sur l’IA. “Je n’ai pas de compte Instagram. Je n’ai pas de tiktok. Je n’ai rien de tout cela. Donc tout ce que vous entendez de ça – ce n’est même pas moi, et malheureusement, les gens suivent, et c’est le monde dans lequel vous vivez.”
Pour Clark, les vidéos de talk-show sont un appel clair pour inciter à l’indignation morale – allant au public pour s’engager plus facilement et se propager avec une désinformation. «C’est une grande émotion à déclencher si vous voulez de l’engagement. Si vous rendez quelqu’un à quelqu’un de triste ou de blesser, ils garderont probablement cela pour eux-mêmes. Alors que si vous les faites se sentir indignés, ils partageront probablement la vidéo avec des amis partageant les mêmes idées et écrivent une longue diatribe dans les commentaires», dit-il. Cela n’a pas d’importance non plus, explique-t-il, si les événements représentés ne sont pas réels ou sont même clairement indiqués comme «générés par l’AI» si les personnages impliqués pourraient agir de cette façon (dans l’esprit de leurs téléspectateurs, au moins). Dans un autre scénario. L’écosystème de YouTube joue également inévitablement un rôle. Avec autant de téléspectateurs consommant du contenu passivement en conduisant, en nettoyant, même en vous endormant, le contenu généré par l’IA n’a plus besoin de paraître poli lorsqu’il se mélange dans un flux d’informations absorbées passivement.
Reality Defender, une entreprise spécialisée dans l’identification de DeepFakes, a passé en revue certaines vidéos. “Nous pouvons partager que certains des membres de notre famille et de nos amis (en particulier du côté âgé) ont rencontré des vidéos comme celles-ci et, bien qu’ils n’étaient pas complètement persuadés, ils ont vérifié avec nous (sachant que nous sommes des experts) pour la validité, comme ils le faisaient sur la clôture”, a déclaré Ben Colman, cofondateur et PDG de Reality Defender, Wireds.
Wired a également contacté plusieurs canaux pour commenter. Un seul créateur, propriétaire d’un canal avec 43 000 abonnés, a répondu.
«Je crée simplement des interviews sur les histoires de fiction, et je mentionne clairement dans la description de chaque vidéo», disent-ils, parlant de manière anonyme. «J’ai choisi le format d’interview fictif parce qu’il me permet de combiner la narration, la créativité et une touche de réalisme d’une manière unique. Ces vidéos se sentent immersives – comme vous regardez un réel moment se dérouler – et ce réalisme émotionnel attire vraiment les gens. C’est comme donner au public un« et si? Scénario qui semble dramatique, intense ou même surprenant, tout en étant complètement fictif. »
Mais en ce qui concerne le motif probable derrière les canaux, dont la plupart sont basés en dehors des États-Unis, ni un programme politique strict ni un pivot de carrière soudain à la narration immersive ne sert d’explicateur adéquat. Un canal avec un e-mail qui utilise le terme «Geningmafia», cependant, fait allusion à des intentions financières plus évidentes, tout comme la nature répétitive des canaux – avec des preuves de vidéos en dupliquées et plusieurs canaux exploités par les mêmes créateurs, dont certains qui avaient des canaux sœurs suspendus.
Ce n’est pas surprenant, avec plus de fermes de contenu que jamais, en particulier celles ciblant les vulnérables, se cimentant actuellement sur YouTube aux côtés de la montée de l’IA générative. Dans l’ensemble, les créateurs choisissent des sujets controversés comme les personnages de télévision pour enfants dans des situations compromettantes, même l’essai de trafic de sexe de Sean Combs, pour générer autant d’engagement – et de revenus – comme possible.
Sur le même sujet
