L’Australie pourrait s’attaquer à des contrefaçons profondes avec des étiquettes d’IA

Les responsables du gouvernement australien envisagent d’introduire une exigence d’étiquetage obligatoire pour le matériel généré par l’IA afin d’atténuer les impacts négatifs potentiels associés à l’évolution rapide de la technologie.

Cette décision intervient alors que les inquiétudes grandissent face à la montée de fausses images, de vidéos et d’enregistrements robotiques réalistes qui ont le potentiel de tromper et d’induire le public en erreur. Le ministre de l’Industrie, Ed Husic, qui dirige les efforts du gouvernement pour réglementer l’intelligence artificielle (IA), a récemment rencontré Sam Altman, PDG d’OpenAI, la société mère de ChatGPT, pour discuter du besoin urgent de mesures pour relever ces défis.

Le système d’étiquetage proposé vise à assurer la transparence et à permettre aux individus de prendre des décisions éclairées lorsqu’ils consomment du contenu généré par l’IA, favorisant ainsi l’éducation aux médias et la protection contre la diffusion de fausses informations. Cela servirait de repère visuel, alertant les téléspectateurs que les médias qu’ils consomment ont été générés par des algorithmes d’IA. En fournissant des informations transparentes sur l’origine et la nature du contenu, les individus peuvent prendre des décisions plus éclairées et développer des compétences critiques en matière d’éducation aux médias.

Cependant, la mise en œuvre de mécanismes d’étiquetage efficaces pour le contenu généré par l’IA présente divers défis. Des solutions technologiques doivent être développées pour détecter et authentifier avec précision les médias générés par l’IA. De plus, des normes et des lignes directrices doivent être établies pour assurer la cohérence et la fiabilité entre les différentes plates-formes et industries. Les efforts de collaboration entre les organismes gouvernementaux, les parties prenantes de l’industrie et les organismes de recherche en IA seront essentiels pour concevoir des cadres complets qui équilibrent l’innovation et la confiance du public.

À mesure que les algorithmes et les outils d’IA deviennent de plus en plus sophistiqués, il est devenu plus difficile pour la personne moyenne de distinguer le contenu réel du contenu fabriqué. Des images et des vidéos profondément fausses créées à l’aide de l’IA peuvent reproduire de manière convaincante des individus ou des événements, entraînant la propagation de fausses informations et des conséquences néfastes. De même, des enregistrements robotiques réalistes peuvent créer une illusion d’interaction avec les humains, brouillant les frontières entre l’IA et la communication humaine.

Le professeur Geoff Webb du Département des sciences des données et de l’IA de la Faculté des technologies de l’information, a déclaré : « Le gouvernement australien doit être félicité pour l’approche réfléchie et pratique qu’il adopte face aux risques réels et immédiats associés à l’IA.

« Les intérêts particuliers génèrent beaucoup d’hystérie et d’hyperboles exagérées. Mais nous pouvons dormir assurés qu’il n’y a aucun risque que nous soyons subjugués par des seigneurs de l’IA. Néanmoins, il existe de nombreux risques actuels associés aux technologies actuelles.

“Je suis prudent quant à l’efficacité exacte de l’étiquetage obligatoire du contenu généré par l’IA. Il est peu probable qu’il arrête les mauvais acteurs, comme une puissance étrangère cherchant à perturber une élection ou un référendum australien.

“La meilleure façon de s’assurer que l’Australie n’est pas laissée à la merci des intérêts étrangers qui contrôlent actuellement ces technologies est d’augmenter la formation de la main-d’œuvre australienne et les investissements dans la recherche et le développement de l’IA australienne.”

Tenez-vous au courant de nos histoires sur LinkedIn, Twitter, Facebook et Instagram.