Avertissement de fraude par IA : les clones vocaux sont des escroqueries suralimentées, prévient le président de la FTC

Les outils d’intelligence artificielle, en particulier les clones vocaux, surchargent les escroqueries, a averti la présidente de la FTC, Lina Khan.

S’exprimant lors d’une IA et événement de capital-risque jeudi, Khan a averti que les responsables devront être proactifs pour arrêter la fraude alimentée par l’IA, Bloomberg a rapporté.(s’ouvre dans un nouvel onglet)

Elle a noté qu’ils assistaient déjà à des escroqueries “turbocharge” de l’IA, utilisant des clones vocaux qui peuvent copier des membres de la famille en détresse à titre d’exemple, selon Bloomberg.

“Nous devons être vigilants tôt”, a déclaré Khan, selon Bloomberg. “Si quoi que ce soit, vous devez être particulièrement vigilant au début, car il est beaucoup plus difficile de résoudre ces problèmes par la suite.”

Le tweet a peut-être été supprimé
(s’ouvre dans un nouvel onglet)

Les clones de voix se sont avérés capables de tromper les gens. UN Reportage Les actualites (s’ouvre dans un nouvel onglet)a noté que les faux appels d’enlèvement demandant des rançons à l’aide de la technologie devenaient plus courants. Jennifer DeStefano a raconté au point de vente son histoire d’avoir reçu un appel demandant 1 million de dollars pour leur fille avant de se rendre compte que l’appelant avait utilisé l’IA pour copier sa voix.

“La voix ressemblait à celle de Brie, l’inflexion, tout”, a-t-elle déclaré à Les actualites.

Les clones de voix AI ont même fait des chansons populaires mettant en vedette fausses versions de vrais artistes. Même une fausse image relativement facile à repérer du Pentagone attaqué a provoqué un véritable plongeon en bourse.

“Alors que ces choses deviennent plus intégrées dans la façon dont les décisions quotidiennes sont prises, je pense qu’elles invitent et méritent beaucoup d’examen”, a déclaré Khan, selon Bloomberg. “Ces problèmes et préoccupations sont assez urgents et je pense que les responsables de l’application, que ce soit au niveau de l’État ou au niveau national, vont agir.”