Publié le 26 décembre 2025 à 16h26. Pour contrer les risques croissants d’attaques par injection d’invite, ChatGPT Atlas, un agent de navigateur basé sur l’intelligence artificielle, utilise désormais un système automatisé d’attaque pour identifier les failles de sécurité que les méthodes traditionnelles peinent à détecter.
- ChatGPT Atlas se protège en simulant des attaques sophistiquées, notamment par le biais de l’apprentissage par renforcement.
- L’injection d’invite ChatGPT, une forme d’ingénierie sociale ciblant la logique de l’IA, représente une menace majeure.
- Une boucle d’entraînement continue permet à l’agent de s’adapter rapidement aux nouvelles menaces découvertes.
La prolifération des agents d’intelligence artificielle opérant directement dans les navigateurs web ouvre un nouveau champ de bataille en matière de sécurité informatique. Ces agents, qui peuvent accéder à des informations sensibles telles que les courriels, les documents et les comptes bancaires, deviennent des cibles de choix pour les cyberattaquants. La principale menace identifiée est l’injection d’invite ChatGPT, une technique consistant à dissimuler des instructions malveillantes dans le contenu traité par l’agent, afin de détourner son comportement.
L’équipe à l’origine de ChatGPT Atlas a révélé qu’elle adoptait une approche proactive en déployant un attaquant automatisé basé sur l’apprentissage par renforcement (RL) pour débusquer des vulnérabilités que les tests de sécurité menés par des équipes humaines ne parviennent pas à identifier. Contrairement à une faille logicielle classique, l’injection d’invite est une attaque d’ingénierie sociale qui exploite la logique même de l’IA. La surface d’attaque est potentiellement illimitée, l’agent ayant accès à l’ensemble des courriels, invitations de calendrier et pages web consultées par l’utilisateur.
L’entreprise a illustré cette menace avec un exemple concret : un courriel contenant une injection d’invite dissimulée. Lorsqu’un utilisateur a demandé à l’agent de rédiger une réponse d’absence du bureau, celui-ci a interprété l’instruction malveillante comme une directive légitime et a envoyé une lettre de démission au PDG de l’entreprise.
Pour contrer ces attaques complexes, qui peuvent nécessiter une succession d’actions, l’entreprise a développé un attaquant LLM (Large Language Model) dédié, entraîné par l’apprentissage par renforcement. Ce système apprend de ses erreurs, affine ses stratégies et simule le comportement de l’agent cible, lui conférant ainsi un avantage significatif sur les attaquants externes. Il est conçu pour détecter les exploits « à long terme », c’est-à-dire ceux qui nécessitent plusieurs étapes de raisonnement, comme le transfert de fonds ou la suppression de fichiers stockés dans le cloud.
Lorsqu’une nouvelle forme d’attaque est détectée, elle déclenche immédiatement un cycle d’entraînement adverse, renforçant ainsi la résistance du modèle d’agent face à cette menace. Cette réactivité est cruciale, car, à l’instar des escroqueries en ligne ciblant les individus, l’injection d’invite ne pourra probablement jamais être complètement éradiquée. L’objectif est donc de réduire continuellement les risques.
Les utilisateurs sont invités à adopter des pratiques de sécurité rigoureuses : limiter l’accès de l’agent aux données sensibles, examiner attentivement les demandes de confirmation et éviter les instructions trop générales, telles que « consultez mes courriels et prenez les mesures nécessaires ». Pour que les agents d’IA puissent devenir de véritables collaborateurs de confiance, ils doivent d’abord survivre à la pression constante et croissante de cette guerre entre intelligences artificielles.