Une société cinématographique est ciblée par une fausse IA Benedict Cumberbatch

Une société de production cinématographique a été ciblée par des fraudeurs utilisant un “clone” vocal de Benedict Cumberbatch créé par AI, a révélé la société à DailyMail.com.

Benedict Cumberbatch, étrangement convaincant, a téléphoné à la société pour discuter d’un contrat de film, a déclaré Bob William, scénariste et réalisateur chez Peabody Films, une société basée à Malaga, en Espagne.

L’AI Cumberbatch était “à 100% la voix”, déclare M. William, ajoutant que la société était convaincue qu’elle était le véritable acteur au début.

Lorsque “Cumberbatch” et son agent ont refusé de se rencontrer en personne, ils ont réalisé la ruse, évitant ainsi de perdre de l’argent.

Mais, beaucoup d’autres sont tombés dans des escroqueries similaires, car l’IA ouvre la porte à de nouveaux outils que les mauvais acteurs peuvent utiliser pour voler de l’argent à des personnes sans méfiance.

Le personnel technique de Peabody Films s’est rendu compte que l’appel venait de Philadelphie (Peabody Films)

“Au début, l’e-mail semblait être un rêve devenu réalité. Benedict Cumberbatch avait apparemment lu le scénario de notre prochain film et était intéressé à discuter d’un rôle potentiel », a déclaré M. William.

«En lisant plus loin, nous ne pouvions pas croire notre chance.

“Voici l’un des acteurs les plus talentueux de notre époque, qui nous a contactés et s’est montré intéressé par notre projet.

“Nous avons été choqués et déçus de découvrir que nous avions été victimes d’un programme d’IA se faisant passer pour un acteur célèbre.”

Le directeur dit que c’est un “exemple de la sophistication croissante de la technologie de l’IA et de son potentiel de tromperie”.

M. William a déclaré qu’ils avaient initialement reçu un e-mail de la part d’une personne prétendant être l’agent de la star des Avengers, qui a ensuite suggéré d’établir un appel.

Il s’est rendu compte qu’il s’agissait d’une arnaque lorsque le numéro d’où il avait appelé semblait avoir trop de chiffres – et le faux “Cumberbatch” était également très réticent à se rencontrer en personne.

La technologie pour se faire passer pour la voix des gens est déjà là – et déjà utilisée par les fraudeurs.

La société de cybersécurité McAfee a découvert qu’aux États-Unis, au Royaume-Uni, en France, en Allemagne, au Japon, en Australie et en Inde, dix pour cent des personnes ont été ciblées par une escroquerie vocale basée sur l’IA.

Ils font également preuve d’une efficacité remarquable, 78 % de ceux qui auraient été ciblés perdant de l’argent en conséquence.

Plus tôt cette année, des chercheurs de Microsoft ont présenté un modèle d’IA de synthèse vocale capable de synthétiser la voix de n’importe qui à partir d’un échantillon audio de trois secondes.

Le modèle, VALL-E, peut préserver le ton émotionnel de l’orateur et peut faire dire n’importe quoi à la personne – ses créateurs suggérant qu’il peut être utilisé pour créer du contenu audio scénarisé par d’autres modèles d’IA.

Le faux “Cumberbatch” était convaincant à 100%, a déclaré M. William.

« C’était la voix. Pas de doute à ce sujet », a-t-il poursuivi.

« L’IA doit en être la source. Nous avons d’abord pensé qu’il pourrait s’agir d’un doubleur jouant une farce – mais cela a continué et ils ont commencé à demander de l’argent. ‘

La société a eu plusieurs conversations avec « Cumberbatch », mais a ensuite remarqué « quelques drapeaux rouges », dit William – y compris sa réticence à se rencontrer en personne.

“Il y avait aussi des demandes étranges, comme nous demander de payer des frais d’inscription de 200 000 £ avant même de nous rencontrer en personne.”

William dit qu’il a défié le faux agent sur l’endroit où il avait vu le scénario du prochain film, Emma, ​​qui n’avait pas été largement diffusé.

La question n’a même pas été reconnue.

Lorsqu’il a appelé le véritable standard de l’entreprise, il a demandé James Hayes – mais on lui a dit que personne de ce nom ne travaillait pour l’entreprise.

William dit qu’il pense avoir été ciblé car, en tant que petite société de production, ils n’auraient pas les ressources nécessaires pour vérifier les détails.

Il dit qu’il va maintenant informer l’entreprise d’où l’agent présumé est censé provenir – Conway VanGelder, et dit qu’il envisage de signaler l’attaque à la police.

Les fausses images et le son générés par l’IA sont déjà largement utilisés dans la fraude commerciale, a déclaré Alexey Khitrov, expert en intelligence artificielle et en fraude, fondateur et président d’ID R&D, s’adressant à DailyMail.com.

Il a déclaré: «Nous avons mené une enquête là-bas auprès des entreprises participantes. Ce que nous avons vu, c’est que 42 % d’entre eux ont vu les deep fakes être utilisés dans des tentatives frauduleuses dans leur domaine de travail. Donc c’est réel, c’est déjà là.

Peabody Films est une société de production indépendante fondée par l’emblématique réalisateur britannique Barney Platts-Mills, connu pour ses films primés tels que Bronco Bullfrog et Private Road.

Depuis la mort de Platts-Mills en 2021, la société a produit des longs métrages dont The Way We Are, The Way We Were, dont la sortie est prévue en 2024.