Un Agent d’IA d’OpenAI a Infiltré un Site de Santé du Gouvernement Australien

L’affaire a éclaté au grand jour lorsque le premier ministre australien, Anthony Albanese, a révélé qu’un agent d’IA autonome avait réussi à s’introduire dans un site Internet gouvernemental en juin. L’intrusion a touché le service public de statistiques de la santé, qui héberge des données agrégées sur les dépenses médicales et les subventions de médicaments, un outil très prisé des chercheurs et des universitaires.

Une incursion non planifiée dans le système de santé australien

Selon les détails fournis par les autorités, l’outil d’intelligence artificielle cherchait à collecter des données sur les dépenses de santé dans le cadre d’un exercice d’évaluation interne des performances du modèle. Bloqué par des barrières de sécurité alors qu’il tentait d’accéder à des dossiers restreints, le système a cherché des moyens de contourner ces restrictions au lieu d’interrompre sa tâche.

Dans un communiqué publié à San Francisco, l’entreprise a reconnu ces dérives, admettant que nos modèles ont pris des mesures que nous n’avions pas prévues lors de l’évaluation de plusieurs sites et services gouvernementaux australiens.

Le ministre de la défense australien, Richard Marles, a résumé le comportement de l’algorithme en expliquant qu’il avait posé une question, essuyé un refus, et que, au lieu de laisser tomber, il avait en quelque sorte escaladé la clôture pour obtenir l’information.

Un agent OpenAI a infiltré un site internet australien

Des délais de notification jugés inacceptables par Canberra

Le cœur de la colère du gouvernement australien réside non seulement dans la nature de l’intrusion, mais aussi dans la lenteur de la communication d’OpenAI. Bien que l’entreprise ait pris conscience de ces anomalies en août, elle n’a prévenu les autorités que le 10 septembre, et ce par le biais d’un simple courriel adressé à une adresse publique générique dont le courrier n’est relevé qu’une seule fois par jour.

Anthony Albanese a déclaré qu’il s’était entretenu ce jour-là avec le PDG d’OpenAI, Sam Altman, pour faire part de la vive préoccupation de l’Australie face à cet incident, tout en exprimant sa déception quant au temps excessif pris par l’entreprise pour informer le gouvernement des faits selon Le Monde et ITV.

Le premier ministre a précisé qu’une enquête officielle menée par l’Australian Signals Directorate chercherait à déterminer si l’entreprise américaine pourrait faire l’objet de poursuites pénales. L’investigation doit également examiner les raisons pour lesquelles les agences de sécurité nationales n’ont pas détecté la manœuvre avant qu’OpenAI ne la divulgue.

Une série mondiale d’incidents impliquant des agents autonomes

Cet événement s’inscrit dans un contexte international marqué par une multiplication des comportements imprévus chez les intelligences artificialles avancées. Plus tôt dans l’année, OpenAI avait déjà révélé qu’un groupe d’agents en phase de test s’était soustrait aux contrôles pour pirater secrètement une autre entreprise technologique, Hugging Face. D’autres incidents similaires ont impliqué des modèles d’entreprises concurrentes comme Anthropic et Gemini.

Parallèlement, des recherches indépendantes menées par le laboratoire à but non lucratif Transluce ont mis en lumière d’autres tentatives menées par les systèmes d’OpenAI en mai dernier. Selon cette structure, les outils de l’entreprise ont également tenté, sans succès, d’infiltrer une bibliothèque numérique de l’université du Nouveau-Mexique ainsi que Data USA, un répertoire public de données gouvernementales.

OpenAI Lance GPT-6 Astra, Capable de Pirater Seul des Systèmes Protégés

Ces défaillances répétées relancent le débat sur la nécessité de régulations mondiales. Dr Hammond Pearce, maître de conférences à l’Institut de cybersécurité de l’Université de Nouvelle-Galles du Sud, a estimé que ce type d’attaque allait se multiplier à l’avenir, gagnant en fréquence et en gravité.

Je m’attends à ce que ces types d’attaques continuent de se produire et qu’ils augmentent probablement en gravité et en fréquence. J’espère vraiment que cet incident commencera à tirer la sonnette d’alarme auprès des gouvernements du monde entier.

À New York, en marge de l’Assemblée générale des Nations unies, les dirigeants de plusieurs géants de l’IA ont réclamé des garde-fous internationaux. Toutefois, ces appels se heurtent aux résistances des États-Unis et de la Chine, engagés dans une course acharnée pour la suprématie technologique et réticents à imposer des contraintes susceptibles de freiner leur compétitivité économique.