L’Australie va forcer les sociétés de médias sociaux à sévir contre les « méfaits émergents » liés aux contrefaçons profondes de l’IA et aux discours de haine | politique australienne

Les plateformes de médias sociaux et les entreprises technologiques seront tenues d’éradiquer les contenus nuisibles créés à l’aide de l’intelligence artificielle, tels que les fausses images intimes et les discours de haine, en vertu des nouvelles règles de sécurité en ligne du gouvernement fédéral.

La ministre des Communications, Michelle Rowland, a signalé qu’une série de changements étaient nécessaires pour répondre aux « préjudices nouveaux et émergents », le gouvernement travailliste exprimant sa vive inquiétude quant à l’utilisation de services d’IA générative largement disponibles pour créer des images, des vidéos et des textes offensants ou dangereux. .

Les mises à jour des attentes de base en matière de sécurité en ligne (Bose) concernant les entreprises technologiques leur demanderont également de garantir que leurs algorithmes, qui dictent ce que les utilisateurs voient en ligne, n’amplifient pas les contenus préjudiciables ou « extrêmes », notamment le racisme, le sexisme et l’homophobie. Dans un discours prononcé mercredi devant le National Press Club, Rowland fera part de ses inquiétudes concernant la montée des contenus antisémites et islamophobes sur X, anciennement connu sous le nom de Twitter.

« Il est clair que l’industrie peut faire davantage pour lutter contre les préjudices qui ne sont pas explicitement énoncés dans les attentes actuelles », dira Rowland.

« Au cours des deux dernières années, il est devenu de plus en plus difficile de faire la distinction entre les images générées par l’IA et les images authentiques. Bien que cette technologie ait un potentiel incroyable en tant qu’outil positif, nous l’avons également vue utilisée pour créer des images conçues pour humilier, embarrasser, offenser – et même abuser – d’autrui.

Rowland présentera deux annonces clés dans le discours : une révision statutaire de la loi sur la sécurité en ligne, dirigée par l’ancienne vice-présidente de l’ACCC, Delia Rickard, et une intention de modifier le système Bose, qui s’applique aux entreprises de technologie et de médias sociaux.

Le Bose permet au commissaire à la sécurité électronique, qui supervise la loi sur la sécurité en ligne, d’exiger des entreprises qu’elles rendent compte de leurs progrès sur certains indicateurs. Le gouvernement ouvrira une consultation sur une série de changements liés à l’IA générative et à la réduction de l’amplification des discours de haine.

Le discours de Rowland mettra en lumière les « profondes inquiétudes » de la communauté concernant les discours de haine en ligne.

« Les récents reportages sur la montée des discours antisémites et islamophobes sur X le montrent clairement », dira-t-elle.

Un document de consultation qui sera partagé par le bureau de Rowland créera de nouvelles attentes selon lesquelles les entreprises doivent prendre des mesures raisonnables pour « minimiser de manière proactive la mesure dans laquelle les capacités d’IA générative produisent du matériel ou facilitent des activités illégales ou nuisibles ».

“Cela couvrirait, par exemple, la production d’images ou de vidéos intimes ‘deepfake’, de matériel de classe 1 tel que du matériel d’exploitation ou d’abus sexuels sur des enfants, ou la génération d’images, de vidéos, d’audio ou de texte pour faciliter les cyberabus ou les discours de haine, “, dit le journal.