L’ancien Premier ministre pakistanais Imran Khan a utilisé l’IA pour publier aujourd’hui un discours de campagne derrière les barreaux.
Cet homme de 71 ans, qui restait en mars l’homme politique le plus populaire du Pakistan, a été renversé en avril 2022 par le puissant pouvoir militaire du pays.
Il a été arrêté en août et condamné à trois ans de prison pour avoir vendu illégalement des cadeaux d’autres chefs d’État. Bien qu’il ait été libéré sous caution, il a été détenu en prison pour avoir prétendument divulgué des documents classifiés.
Khan affirme que les allégations ont été fabriquées de toutes pièces pour l’empêcher de se présenter aux élections générales prévues en février.
L’ancien Premier ministre n’a pas laissé son emprisonnement l’empêcher de participer à la campagne de son parti pour les prochaines élections, prévues en février 2024.
Son parti politique, Pakistan Tehreek-e-Insaf (PTI), a diffusé un « powershow virtuel » de cinq heures – un rassemblement en ligne se terminant par un discours de quatre minutes écrit par Khan emprisonné mais prononcé par une voix d’IA reproduisant la sienne. En 12 heures, elle avait déjà cumulé plus de 1,5 million de vues sur YouTube.
“Mes compatriotes pakistanais, je voudrais d’abord féliciter l’équipe des médias sociaux pour cette tentative historique”, a déclaré la voix imitant Khan. “Peut-être que vous vous demandez tous comment je vais en prison”, ajoute la voix guindée. “Aujourd’hui, ma détermination pour une vraie liberté est très forte.”
Selon PTI, il était accompagné de véritables clips vidéo des anciens discours de l’ancienne star du cricket, mais une légende apparaissait à intervalles le signalant comme la “voix IA d’Imran Khan basée sur ses notes”.
PTI a déclaré que Khan avait envoyé un script sténographique par l’intermédiaire d’avocats qui était étoffé dans son style rhétorique. Le texte a ensuite été doublé en audio à l’aide d’un outil de la société d’intelligence artificielle ElevenLabs, qui offre la possibilité de créer un « clone vocal » à partir d’échantillons vocaux existants.
“C’était une évidence pour nous quand Imran Khan n’est plus là pour se rencontrer lors d’un rassemblement politique”, a déclaré Jibran Ilyas, responsable des médias sociaux du PTI basé aux États-Unis. “C’était pour surmonter la répression.”
Le PTI a été le premier parti politique au Pakistan à exploiter largement le potentiel des médias sociaux, en utilisant des applications pour cibler un public plus jeune qui l’a porté au pouvoir il y a cinq ans.
“Nous voulions passer en mode électoral”, a déclaré Ilyas à l’-. “Aucun rassemblement politique du PTI n’est complet sans Imran Khan.”
Cependant, l’événement s’est également heurté à des débits Internet réduits et à un accès limité aux plateformes de médias sociaux – des perturbations que les autorités pakistanaises auraient provoquées avant le rassemblement – qui ont encore alimenté les inquiétudes quant à l’équité des prochaines élections dans le pays.
La commission électorale a été accusée d’avoir modifié les frontières des circonscriptions pour favoriser l’opposant de Khan, l’ancien Premier ministre Nawaz Sharif. Entre-temps, la mention du nom ou de l’image de Khan a été mise sur liste noire dans les grands médias pakistanais, et des milliers d’alliés et de partisans de Khan ont vu leurs maisons perquisitionnées et arrêtés.
Les censeurs d’État ont interdit Khan des ondes plus tôt cette année après que sa brève arrestation en mai ait déclenché des émeutes.
NetBlocks a déclaré que les médias sociaux avaient été restreints pendant sept heures à partir de dimanche soir, dans le cadre d’un incident “conforme aux précédents cas de censure d’Internet” visant Khan.
Depuis que l’IA est entrée dans le discours dominant avec la sortie de ChatGPT en novembre 2022, la technologie s’est développée à un rythme effréné.
Cela a amené certains experts à exprimer préoccupation face à l’avancement non réglementé des modèles d’IA et a appelé à l’introduction de lois et de lignes directrices.
Au cours du seul mois dernier, les clones vocaux réalisés à l’aide de cette technologie sont devenus de plus en plus courants.
YouTube a testé un outil d’intelligence artificielle qui permet aux utilisateurs d’imiter des chanteurs célèbres, dans le cadre d’un essai limité.
La fonctionnalité expérimentale, nommée « Dream Track », permet aux utilisateurs de créer de courtes chansons à l’aide de l’IA en définissant des paramètres tels que l’ambiance et le contenu des paroles.
A la fin de son année conférence à Moscou la semaine dernière, le président russe Vladimir Poutine a été confronté à un clone de lui-même généré par l’IA, qui l’a interrogé sur l’utilisation des doubles corporels et de l’intelligence artificielle.
Après un moment de rare hésitation de la part de Poutine, il a répondu en disant qu’il préférait être le seul et unique président russe.
“Je vois que vous pouvez me ressembler et parler avec ma voix. Mais j’y ai réfléchi et j’ai décidé qu’une seule personne devait être comme moi et parler avec ma voix, et ce serait moi”, a-t-il déclaré.
