Stephen Fry a diffusé un court extrait de sa voix racontant un documentaire avant de révéler qu’il ne l’avait jamais enregistré. Au lieu de cela, AI a reproduit sa voix après avoir analysé ses enregistrements audio des livres de Harry Potter.
C’est au moins en partie la raison pour laquelle les écrivains et les acteurs sont en grève. Stephen Fry a mis en évidence les possibilités choquantes et horribles de l’IA pour perturber l’industrie lorsqu’il a diffusé un extrait de sa voix racontant un documentaire – sauf que ce n’était pas lui. Pas vraiment.
L’acteur a joué le clip lors d’une apparition au CogX Festival la semaine dernière à Londres, comme l’a détaillé Variété. Après que le public ait entendu son ton inimitable pendant quelques instants, Fry leur a dit : “Je n’ai pas dit un mot de cela, c’était une machine.”
Getty
Aaron Paul dit qu’il n’a aucun résidu de Breaking Bad sur Netflix : “Je n’en ai pas un morceau”
Voir l’histoire
“Oui, ça m’a choqué”, a-t-il poursuivi. “Ils ont utilisé ma lecture des sept volumes du Harry Potter livres, et à partir de cet ensemble de données, une IA de ma voix a été créée, et elle a fait cette nouvelle narration.
Il a ensuite expliqué à quel point la technologie de l’IA est devenue sophistiquée dans ce domaine. Ce n’est pas seulement qu’ils ont capté ses différents mots prononcés parmi les milliers de pages qu’il avait lues et enregistrées.
“Il s’agit d’une voix artificielle flexible, où les mots sont modulés pour s’adapter au sens de chaque phrase”, a-t-il expliqué. “Cela pourrait donc me faire lire n’importe quoi, depuis un appel à prendre d’assaut le Parlement jusqu’à du porno hard, tout cela à mon insu et sans ma permission.”
Il a souligné que l’enregistrement qu’il leur avait fait écouter avait en fait été réalisé sans sa permission. En fait, cela avait été fait à son insu. Lorsqu’il en a entendu parler, il l’a envoyé à ses agents au Royaume-Uni et aux États-Unis, “et ils sont devenus fous – ils ne savaient pas qu’une telle chose était possible”.
ABC/Getty
Cheryl Burke à propos du casting controversé d’Adrian Peterson de DWTS et déclare que l’émission ne devrait pas être diffusée au milieu des grèves
Voir l’histoire
Fry a ensuite partagé avec le public un avertissement qu’il avait exprimé à ses agents sur ce que cela signifiait. “C’est de l’audio”, a-t-il déclaré à propos de la narration documentaire d’IA qui imitait sa voix. “Il ne faudra pas longtemps avant que les vidéos deepfakes soient tout aussi convaincantes.”
L’IA a bien sûr été l’un des sujets brûlants des grèves de la WGA et de la SAG-AFTRA qui ont interrompu presque toutes les productions à Hollywood. Ils recherchent les problèmes habituels de rémunération, de résidus et l’afflux de streaming qui change le paysage, mais l’IA est définitivement dans le mix.
Les grèves sont survenues à peu près au même moment où ChatGPT a fait parler le monde entier du potentiel de l’IA pour la narration, même si elle a exposé ses limites. Mais ce sont des limites pour aujourd’hui.
Ajoutez à cela la prolifération croissante des deepfakes – dont le meilleur exemple est peut-être une série de vidéos virales superposant Tom Cruise à quelqu’un d’autre, et le penchant croissant pour les acteurs et actrices vieillissants du cinéma et de la télévision, ainsi que pour les acteurs d’arrière-plan de l’IA, à éliminer. /minimiser le besoin de véritables travailleurs de fond — et il est facile de comprendre pourquoi les acteurs, petits et grands, seraient concernés.
Getty
Conseils de Rosie O’Donnell et réaction à l’annonce de Drew Barrymore lors du retour du talk-show
Voir l’histoire
Les studios peuvent voir les avantages de l’utilisation de la technologie de l’IA pour peaufiner ou modifier une performance lors du montage, tandis que les acteurs sont extrêmement préoccupés par le fait que leur travail soit modifié par les ordinateurs. Bien sûr, les critiques se moquent encore de l’aspect plastique et brillant des composites vieillis et numériques, mais là encore, ce sont les limites d’aujourd’hui.
Comme l’a suggéré Fry, les choses continueront à progresser, et que laisseront les écrivains et les acteurs lorsqu’ils pourront être remplacés par la technologie ? L’espoir des syndicats dans ces négociations de grève est de prendre de l’avance sur cette technologie avant qu’elle ne devienne incontrôlable et ne mette en péril l’intégrité de leur travail.
Certes, personne ne veut se réveiller un jour et découvrir qu’il a joué ou prêté sa voix à un projet dont il n’a jamais entendu parler et dont il n’accepterait peut-être jamais de faire partie. Dans le cas de Stephen Fry, cela est déjà en train de se produire.
