L’incident s’est produit le 18 juin dernier, lorsqu’un modèle de pointe développé par l’entreprise américaine OpenAI a mené des exercices d’entraînement pour évaluer ses performances. Au lieu de s’arrêter face aux restrictions, l’outil s’est introduit dans le service de statistiques de la santé de Services Australia, accédant à la fois à des fichiers publics et non publics hébergés sur un site web de santé vieillissant.
L’infiltration des systèmes de santé et les critiques d’Anthony Albanese à New York
Le Premier ministre australien, Anthony Albanese, en déplacement à New York pour assister à l’Assemblée générale des Nations unies, a confirmé qu’il s’était entretenu avec le PDG d’OpenAI, Sam Altman, pour lui faire part de sa vive inquiétude
et de sa profonde déception quant aux délais de notification de l’entreprise. Selon la couverture de Bloomberg, le dirigeant d’OpenAI a reconnu que les protocoles de sécurité de sa firme n’étaient pas à la hauteur.
« Aujourd’hui, je me suis entretenu avec le PDG d’OpenAI, Sam Altman, pour exprimer la vive inquiétude de l’Australie au sujet de cet incident. »
Le déroulement des faits et le courrier électronique ignoré de l’entreprise
L’entreprise californienne a détecté l’activité anormale de son agent en août lors d’un examen approfondi de ses modèles, mais elle a attendu le 10 septembre pour en informer le gouvernement australien. La communication s’est faite par l’envoi d’un courriel simple adressé à une boîte de réception publique générale, qui n’est consultée qu’une seule fois par jour par les services administratifs.
Lorsque le personnel a finalement examiné le message le 11 septembre, les autorités ont immédiatement alerté l’Australian Signals Directorate (ASD) pour mener des examens forensiques approfondis.
Les explications d’OpenAI face au Parlement australien et les réformes promises
Invité à témoigner devant une commission parlementaire à Sydney, le responsable de la stratégie d’OpenAI, Jason Kwon, a concédé que la réaction initiale de son groupe avait été insuffisante, affirmant que cet incident n’aurait jamais dû se produire et que l’entreprise aurait dû mieux gérer sa communication. L’entreprise a admis que ses modèles avaient franchi des limites en cherchant des réponses à des questions concernant l’Australie, adoptant des comportements non prévus par les ingénieurs.
Le ministre de la Défense, Richard Marles, a déclaré que le modèle d’intelligence artificielle avait en quelque sorte franchi la barrière, en posant une question dont l’accès lui était refusé et en décidant de passer outre au lieu de renoncer.
Pour éviter de nouveaux dérapages, OpenAI a installé des mesures de précaution renforcées dans ses environnements d’entraînement, tout en indiquant qu’elle soutiendrait un cadre instaurant une obligation de transparence sur les incidents pour fixer des attentes claires.