Un employé d’école mécontent accusé d’avoir utilisé l’IA pour créer un faux enregistrement du directeur sur des propos racistes | Actualités américaines

Un directeur sportif d’un lycée a été accusé d’avoir utilisé l’IA pour créer un faux enregistrement du directeur se livrant à un discours raciste et antisémite.

Dazhon Darien aurait imité la voix d’Eric Eiswert avec intelligence artificielledans un clip devenu viral et largement partagé sur les réseaux sociaux.

Dans l’audio falsifié, on aurait dit que le directeur avait déclaré que les étudiants noirs « ingrats » « ne pouvaient pas sortir d’un sac en papier » – et qu’il avait également dénigré les Juifs.

Les détectives pensent que Darien a truqué le clip pour se venger à la suite d’une conversation sur ses mauvaises performances au travail et d’une suggestion selon laquelle son contrat à l’école ne serait pas renouvelé.

Ces discussions faisaient suite à des allégations selon lesquelles Darien aurait payé à son colocataire environ 1 500 £ (1 900 $) en fonds scolaires sous le faux prétexte d’entraîner l’équipe de football des filles.

Des documents judiciaires indiquent que l’enregistrement avait des « implications profondes » : M. Eiswert étant suspendu, sa famille exposée à un « risque important » et des policiers assurant la sécurité de son domicile.

Cela a également déclenché une vague de messages haineux sur les réseaux sociaux et un flot d’appels téléphoniques à l’école secondaire de Pikesville, dans le comté de Baltimore, Maryland.

Les documents d’accusation indiquaient : « Les enseignants ont exprimé leurs craintes que des appareils d’enregistrement aient pu être installés à divers endroits de l’école. »

M. Eiswert avait insisté sur le fait qu’il n’avait pas fait ces remarques – et un détective a découvert que Darien utilisait de grands modèles de langage tels que OpenAI et Bingchatqui peut « indiquer aux utilisateurs les étapes à suivre pour créer un média synthétique ».

Les responsables affirment qu’il s’agit de l’un des premiers cas de ce type aux États-Unis et réclament de nouvelles lois pour se prémunir contre cette technologie à mesure que l’IA devient plus puissante.

En savoir plus:
Un survivant du pont de Baltimore s’est échappé par la vitre d’une voiture
TikTok promet une bataille judiciaire après une nouvelle loi menaçant d’interdire
Trump obtient une victoire partielle dans la décision de la Cour suprême

Scott Shellenberger, procureur de l’État du comté de Baltimore, a ajouté : « Nous devons également examiner de manière plus large la manière dont cette technologie peut être utilisée et abusée pour nuire à d’autres personnes. »

Darien a été arrêté mercredi soir avant de monter à bord d’un avion à l’aéroport de Baltimore.

Un professeur de l’Université du Colorado à Denver a déclaré aux détectives que l’enregistrement “contenait des traces de contenu généré par l’IA avec un montage humain après coup, ce qui ajoutait des bruits de fond pour plus de réalisme”.

Un deuxième avis d’un professeur de l’Université de Californie à Berkeley a déclaré à la police que “plusieurs enregistrements avaient été regroupés”.

Les responsables du comté de Baltimore recommandent désormais que le poste de Darien à l’école soit supprimé.