Même si elle a peut-être déjà exprimé un système d’exploitation fictif dans le film SonScarlett Johansson a déclaré qu’elle n’avait aucun intérêt à parler en faveur de l’intelligence artificielle (IA) réelle.
Lundi, Johansson a déclaré qu’une voix ChatGPT récemment publiée, nommée “Sky”, lui ressemblait “étrangement”. La voix de l’IA a “choqué” et “irrité” Johansson, 39 ans, qui a révélé qu’il y a neuf mois, elle avait décliné une offre du PDG d’OpenAI, Sam Altman, de travailler sur leur nouveau chatbot vocal.
La voix, aux côtés de quatre autres, a été créée pour le système ChatGPT 4.0 actuel et a été publiée la semaine dernière.
La société a annoncé lundi qu’elle suspendrait l’utilisation de Sky après qu’elle ait été largement comparée à Johansson. OpenAI n’a pas précisé pourquoi il avait choisi de faire taire Sky.
“En septembre dernier, j’ai reçu une offre de Sam Altman, qui souhaitait m’embaucher pour exprimer le système ChatGPT 4.0 actuel”, a écrit Johansson dans un communiqué partagé par NBC News.
L’histoire continue sous la publicité
“Il m’a dit qu’il pensait qu’en faisant entendre le système, je pourrais combler le fossé entre les entreprises technologiques et les créatifs et aider les consommateurs à se sentir à l’aise avec le changement sismique concernant les humains et l’IA”, a-t-elle poursuivi. “Il a dit qu’il pensait que ma voix réconforterait les gens.”
Après réflexion, Johansson a déclaré qu’elle avait refusé de travailler avec OpenAI pour des « raisons personnelles ».
« Neuf mois plus tard, mes amis, ma famille et le grand public ont tous remarqué à quel point le nouveau système nommé « Sky » me ressemblait », a-t-elle écrit. “Quand j’ai entendu la démo publiée, j’ai été choqué, en colère et incrédule que M. Altman poursuive une voix qui ressemblait si étrangement à la mienne que mes amis les plus proches et les médias ne pouvaient pas faire la différence.”
Dimanche, OpenAI a nié toute ressemblance intentionnelle entre Sky de ChatGPT et Johansson. La société a plutôt déclaré que Sky et les quatre autres voix (Breeze, Cove, Ember et Juniper) avaient été créées à l’aide d’acteurs vocaux bénéficiant de taux de rémunération « haut de gamme ».
“Nous pensons que les voix de l’IA ne doivent pas délibérément imiter la voix distinctive d’une célébrité : la voix de Sky n’est pas une imitation de Scarlett Johansson mais appartient à une actrice professionnelle différente utilisant sa propre voix naturelle”, a écrit OpenAI dans un communiqué. “Pour protéger leur vie privée, nous ne pouvons pas partager les noms de nos talents vocaux.”
Dans une déclaration à NBC, Altman a de nouveau nié toute similitude intentionnelle avec Johansson.
L’histoire continue sous la publicité
“La voix de Sky n’est pas celle de Scarlett Johansson, et elle n’a jamais été conçue pour ressembler à la sienne”, a-t-il déclaré. «Nous avons choisi le doubleur derrière la voix de Sky avant de contacter Mme Johansson. Par respect pour Mme Johansson, nous avons cessé d’utiliser la voix de Sky dans nos produits. Nous sommes désolés auprès de Mme Johansson de ne pas avoir mieux communiqué.
Dernières nouvelles du Canada et du monde entier envoyées à votre courrier électronique, au fur et à mesure.
Dans la déclaration de Johansson, elle a souligné un message du 13 mai sur X – le même jour où OpenAI a présenté ChatGPT 4.0 et sa fonction de chat vocal – d’Altman qui disait simplement « elle », apparemment une comparaison avec le rôle de Johansson dans le film du même nom. .
“M. Altman a même insinué que la similitude était intentionnelle, en tweetant un seul mot « elle » – une référence au film dans lequel j’ai exprimé un système de chat, Samantha, qui noue une relation intime avec un humain », a déclaré Johansson.
son
– Sam Altman (@sama) 13 mai 2024
L’histoire continue sous la publicité
Johansson a déclaré qu’Altman avait demandé à son agent de reconsidérer l’offre de travailler avec OpenAI seulement deux jours avant la démo du 13 mai.
Après le lancement, l’acteur a déclaré qu’elle avait été “forcée” d’embaucher des représentants légaux qui ont envoyé des lettres à Altman et OpenAI demandant “le processus exact par lequel ils ont créé la voix ‘Sky'”.
“Par conséquent, OpenAI a accepté à contrecœur de supprimer la voix ‘Sky'”, a écrit Johansson.
Elle a déclaré qu’elle et ses avocats attendaient avec impatience la « transparence » et qu’ils travailleraient pour que les droits individuels de Johansson soient protégés.
“À une époque où nous sommes tous aux prises avec les deepfakes et la protection de notre propre image, de notre propre travail, de notre propre identité, je pense que ce sont des questions qui méritent une clarté absolue”, a-t-elle conclu.
Le lancement de Sky et ses similitudes avec Johansson ont suscité une large attention et des moqueries en ligne. Même Elon Musk, qui était autrefois membre du conseil d’administration d’OpenAI mais qui a depuis développé des mésententes avec Altman, s’est moqué de la voix de Sky. Le milliardaire propriétaire de sa propre société d’IA, appelée xAI, a comparé l’incident à un épisode de la populaire émission de science-fiction. Miroir noir.
Black Mirror irl (encore)
– Elon Musk (@elonmusk) 21 mai 2024
À la mode maintenant
-
Les pirates de London Drugs réclament des millions de rançons suite à des allégations de vol de données sur des employés
-
Comment les pyramides d’Égypte ont-elles été construites ? Le mystère pourrait enfin être résolu
L’histoire continue sous la publicité
Johansson est loin d’être la seule célébrité à s’inquiéter de l’IA et des deepfakes, qui sont apparemment réalistes, bien que faux, des images, des vidéos ou des audios créés par des algorithmes d’IA.
Début 2024, des images sexuellement explicites de Taylor Swift générées par l’IA ont commencé à circuler sur X. Les fausses photos ont été largement partagées et ont accumulé des dizaines de millions de vues avant d’être supprimées.
Au-delà du monde du divertissement, les hommes politiques ont également été souvent la cible des manipulations de l’IA. En mars, un deepfake ressemblant au premier ministre Justin Trudeau a été publié sur YouTube faisant la promotion d’un « robot commerçant » financier. La vidéo a été supprimée de la plateforme, Google (le propriétaire de YouTube) la qualifiant d’arnaque.
En décembre 2023, l’organisme de surveillance de la cybersécurité du Canada a averti que les électeurs devraient être à l’affût des images et des vidéos générées par l’IA qui seraient « très probablement » utilisées pour tenter de saper la confiance des Canadiens dans la démocratie lors des prochaines élections.
À l’extérieur du Canada, la première ministre italienne Giorgia Meloni a lancé en mars une poursuite contre deux hommes qui auraient réalisé des deepfakes pornographiques d’elle.
Même les gens ordinaires ont été ciblés par des deepfakes, souvent créés comme du « porno de vengeance » ou comme une arnaque financière.
6:08 Arnaques numériques : démasquer les escroqueries vocales de l’IA et les faux iPhones
De nombreuses personnalités du développement et des avancées de l’IA, dont Yoshua Bengio, l’éminent informaticien canadien, ont signé en février une lettre ouverte appelant à davantage de réglementation autour de la création de deepfakes.
L’histoire continue sous la publicité
« Aujourd’hui, les deepfakes impliquent souvent des images sexuelles, de la fraude ou de la désinformation politique. Étant donné que l’IA progresse rapidement et rend la création de deepfakes beaucoup plus facile, des garanties sont nécessaires », a déclaré le groupe dans la lettre.
Jeudi, Jan Leik, chercheur clé en sécurité chez OpenAI, a quitté son emploi dans l’entreprise et a évoqué des désaccords de longue date avec la direction et des inquiétudes concernant les priorités de l’entreprise.
« Construire des machines plus intelligentes que l’humain est une entreprise intrinsèquement dangereuse. OpenAI assume une énorme responsabilité au nom de l’humanité toute entière », a écrit Leik dans un fil de discussion publié sur X. « Mais au cours des dernières années, la culture et les processus de sécurité sont passés au second plan face aux produits brillants. »
Mais au cours des dernières années, la culture et les processus de sécurité ont cédé le pas aux produits brillants.
– Jan Leike (@janleike) 17 mai 2024
