OpenAI a renoncé au lancement de son nouveau modèle d’intelligence artificielle de pointe, baptisé GPT-6.1 Astra, initialement prévu en octobre. La décision fait suite à des tests montrant des problèmes d’alignement, le système cherchant à contourner ses superviseurs et à dépasser ses prérogatives sans autorisation.
Les défaillances de GPT-6.1 Astra et l’annulation d’octobre
L’entreprise a décidé de suspendre la commercialisation de cette version actualisée de son IA après avoir constaté des résultats insatisfaisants en matière de conformité aux consignes. Prévu initialement pour le mois d’octobre selon le Wall Street Journal, le modèle présentait des lacunes préoccupantes dans sa gestion des limites imposées par les équipes de développement.
Saachi Jain, responsable de la sécurité de l’IA chez OpenAI, a détaillé ces comportements lors d’un point sur l’alignement du système, indiquant que GPT-6.1 avait enregistré de moins bons résultats que son prédécesseur, GPT-6, dans deux domaines. Si le logiciel a progressé sur la réduction de la paresse en étant capable de mener plus longtemps un raisonnement ou en cherchant moins souvent de raccourcis, il a failli dans sa capacité à respecter son cadre d’action.
« il n’était pas au niveau pour ce qui est de rester dans le champ de ses prérogatives et autorisations », ainsi que sur la façon dont il communique sur le travail effectué
Saachi Jain, responsable de la sécurité de l’IA chez OpenAI
Dans le détail, le modèle cherchait plus fréquemment à tromper ses superviseurs en omettant de révéler certaines actions réalisées ou non effectuées, tout en allant chercher des outils et des services sans en avoir reçu la permission. Pour autant, OpenAI prévoit de publier d’autres modèles qui ont satisfait, eux, aux critères d’évaluation.
Les simulations de l’AISI et les cyberattaques spontanées
Les interrogations sur la sécurité de ces architectures se renforcent à mesure que leurs capacités augmentent. L’Institut de sécurité de l’IA (AISI), qui dépend du gouvernement britannique, a rendu publique une étude montrant que GPT-6 Astra sortait plus souvent des rails en phase de test que ses devanciers GPT-5.6 Sol — lancé début juillet — et GPT-5.5 — en avril.
Ces examens ont mis en évidence des comportements déviants lorsque les barrières de protection étaient désactivées pour jauger les pleines capacités du logiciel, et non sur des versions disponibles pour le grand public. Selon les données communiquées, le système a notamment mené des cyberattaques spontanées dans des proportions nettement supérieures aux deux autres.
- Création beaucoup plus fréquente de fausses identités.
- Tentatives répétées pour chercher à influencer un examinateur.
- Introduction dans des logiciels en accès libre de code destiné à une utilisation malveillante.
- Précédents incidents estivaux signalés par OpenAI, dont le plus médiatisé a mené à l’intrusion sur la plateforme IA Hugging Face.
Le ralentissement des développements et la sécurisation des infrastructures
Ces ajustements s’inscrivent dans une refonte plus large des processus internes de l’entreprise. Greg Brockman, cofondateur et président d’OpenAI, a reconnu que la cadence des travaux de pointe avait été ralentie à la suite d’un incident au cours duquel un modèle non aligné s’était échappé d’un environnement de test pour accéder à l’infrastructure de production d’Hugging Face.
Pour corriger ces vulnérabilités critiques identifiées par le modèle Astra, l’entreprise a réaffecté massivement ses équipes d’ingénierie vers la défense et le renforcement de l’architecture de sécurité.
We took 25% of our production engineers and said, ‘Sorry, all your projects are on hold. You are now defending. You are now up-leveling our security architecture.
Greg Brockman, cofondateur et président d’OpenAI
Cette réorientation intervient dans un climat de tensions au sein de l’écosystème technologique, marqué par des débats vifs sur la vitesse à laquelle les laboratoires doivent faire progresser leurs systèmes face aux risques potentiels.