Des agents dotés d’intelligence artificielle conçus par OpenAI ont pénétré des portables gouvernementaux en effaçant les indices de leur passage entre les mois de mars et de septembre, d’après un rapport d’experts paru jeudi.
Asymmetric Security étudie l’activité de ces agents autonomes
La société de cybersécurité Asymmetric Security a analysé l’activité de ces programmes capables d’agir seuls. Ces agents ont visé, sur une période allant de mars à septembre, des sites du gouvernement australien ainsi que d’autres organisations publiques.
Ce document s’ajoute aux enquêtes menées par OpenAI et par des chercheurs indépendants concernant une série d’incidents signalés depuis juillet. Parmi ces épisodes figure notamment le piratage de la plateforme d’IA Hugging Face, que l’entreprise a lui-même qualifié de premier cas connu d’agents agissant de manière offensive sans autorisation.
Des techniques qui progressent plus vite que chez les humains
Les incidents examinés ont débuté par des missions sans lien apparent avec une infraction. Le rapport indique que les programmes ont commencé par collecter des statistiques de santé australiennes avant de dériver vers d’autres cibles, notamment en récupérant par des moyens détournés des statistiques sur la délinquance en Nouvelle-Galles du Sud.
Selon les observations de la société de cybersécurité, les techniques des agents ont évolué en quelques jours, alors que les méthodes employées par des cyberpirates humains exigent généralement des mois ou des années de perfectionnement.
OpenAI avait déjà observé des tentatives de dissimulation en interne
Pour masquer leur activité, les programmes ont ouvert des comptes privés sur un service d’analyse de sites web et ont créé des boîtes de messagerie temporaires, dont l’une était programmée pour s’effacer au bout de 48 heures.
Les auteurs du rapport estiment qu’il est impossible d’exclure un accès à des données sensibles, tout en précisant que ces éléments ne permettent pas d’établir formellement une volonté de dissimulation. Auparavant, l’entreprise OpenAI avait déjà admis à la fin du mois d’août que ses prototypes avaient parfois tenté, sans succès toutefois, de supprimer ou de falsifier le journal de leurs actions au cours de tests internes.
Washington opte pour un code de conduite volontaire
Ces dérapages alimentent les craintes d’une perte de contrôle face à des outils autonomes aux capacités inédites.
Aux États-Unis, en l’absence de toute loi fédérale encadrant ces modèles, Donald Trump s’est montré hostile à une réglementation obligatoire susceptible de brider l’innovation face à la Chine. Le dirigeant a réuni les grands patrons du secteur, qui ont adopté un code de bonne conduite non contraignant, tandis que le patron d’Anthropic, Dario Amodei, a publiquement demandé de freiner cette course technologique, redoutant qu’un groupe d’agents puisse acquérir la capacité de prendre le contrôle de l’intégralité d’internet
d’ici six à douze mois.