Accusations pénales et amendes de la FCC émises pour de faux appels automatisés de Biden : –

Le consultant politique démocrate à l’origine d’un appel automatisé utilisant l’intelligence artificielle pour se faire passer pour le président Joe Biden fait face à une lourde amende fédérale et à des accusations criminelles dans le New Hampshire.

La Commission fédérale des communications a proposé une amende de 6 millions de dollars à l’encontre de Steve Kramer, qui a admis avoir commandé le faux appel envoyé à des milliers de personnes dans le New Hampshire à la veille des primaires de janvier de l’État. À l’autre bout du fil, une voix générée par l’IA ressemblait à celle de Biden et décourageait les démocrates de voter.

Kramer a également été inculpé charges criminelles dans quatre comtés du New Hampshire, dont 13 chefs d’accusation de suppression d’électeurs, un crime, et 13 chefs d’accusation d’usurpation d’identité d’un candidat, un délit.

“J’espère que nos mesures coercitives respectives enverront un signal dissuasif fort à quiconque pourrait envisager d’interférer dans les élections, que ce soit par l’utilisation de l’intelligence artificielle ou autrement”, a-t-il ajouté. Le procureur général du New Hampshire, John Formella, a déclaré dans un communiqué annonçant les accusations.

Le deepfake de Biden est l’exemple le plus médiatisé de la manière dont la prolifération rapide de l’intelligence artificielle générative, capable de produire rapidement et facilement des fichiers audio, vidéo, images et textes réalistes, crée de nouvelles voies de fraude, d’escroquerie et de manipulation.

“C’est troublant”, a déclaré jeudi la présidente de la FCC, Jessica Rosenworcel, à propos de l’appel automatisé du New Hampshire. “Parce que lorsqu’un appelant ressemble à un homme politique que vous connaissez, à une célébrité que vous aimez ou à un membre de la famille que vous connaissez, chacun d’entre nous pourrait être amené à croire quelque chose qui n’est pas vrai avec les appels utilisant la technologie de l’IA.”

La FCC a statué en février que l’utilisation des voix générées par l’IA dans les appels automatisés était illégale.

Dans son annonce de l’amende proposée, la FCC a déclaré que Kramer avait violé la loi fédérale en usurpant le numéro d’une personnalité politique locale. Kramer aura la possibilité de répondre et de présenter des preuves avant que la FCC ne rende une décision finale. L’agence a également proposé une amende de 2 millions de dollars à Lingo Telecom, la société accusée d’avoir transmis l’appel automatisé.

Ni Kramer ni Lingo n’ont répondu aux demandes de commentaires. Kramer a déclaré qu’il avait créé le deepfake comme un avertissement sur les dangers de l’IA.