Publié le 23 décembre 2025 à 11h03. L’essor rapide de l’intelligence artificielle, notamment des navigateurs dotés d’IA, expose les agences gouvernementales et les entreprises à de nouvelles menaces de cybersécurité, nécessitant une adaptation rapide des stratégies de défense.
- Un groupe soutenu par l’État chinois a exploité un outil de codage d’IA pour lancer des cyberattaques automatisées contre une trentaine d’organisations.
- Les navigateurs IA, de plus en plus populaires, présentent des vulnérabilités liées à l’utilisation d’agents autonomes et à la confusion entre l’intention humaine et celle de l’IA.
- La sécurité de l’intention et le “Purple Teaming” automatisé sont désormais considérés comme essentiels pour contrer ces nouvelles menaces.
Alors que le gouvernement fédéral américain continue de promouvoir l’adoption de l’intelligence artificielle (IA), les experts en cybersécurité tirent la sonnette d’alarme face à l’émergence de nouvelles vulnérabilités liées aux agents conversationnels et aux grands modèles linguistiques (LLM). Ces technologies, bien que prometteuses, ouvrent la voie à des attaques sophistiquées et automatisées.
En novembre dernier, Anthropique a signalé qu’un groupe d’acteurs malveillants, bénéficiant du soutien de l’État chinois, avait abusé de son outil de codage d’IA pour mener des cyberattaques automatisées contre une trentaine d’organisations et d’agences gouvernementales à travers le monde. Cette attaque intervient après des recherches démontrant la facilité avec laquelle des acteurs mal intentionnés peuvent contourner les protections des LLM ou exploiter les navigateurs IA à des fins non autorisées.
Le Département de la Défense (DOD) américain s’est associé à des géants de l’IA afin d’accélérer l’intégration de cette technologie au sein du Pentagone. Face à ces risques croissants, une action rapide est impérative. Le Congrès américain est également conscient de la situation et y répond, comme en témoigne le récent National Defense Authorization Act (NDAA) pour 2026, qui exige du DOD d’intégrer des considérations spécifiques aux défis de cybersécurité posés par l’utilisation de l’IA.
Cependant, la législation seule ne suffira pas. Les agences gouvernementales doivent comprendre l’évolution rapide du paysage de l’IA et adopter de nouvelles approches en matière de sécurité avant que ces vulnérabilités ne compromettent leurs opérations.
Le nouveau grand risque : les navigateurs IA
Les navigateurs intégrant des fonctionnalités d’IA ont connu un regain de popularité en 2025. De nouvelles plateformes, telles que Comet de Perplexity et Atlas d’OpenAI, ont été lancées, tandis que les navigateurs grand public comme Chrome, Safari et Edge proposent désormais des fonctionnalités basées sur l’IA. Bien que ces navigateurs offrent un potentiel de productivité considérable, ils créent également une nouvelle surface d’attaque.
Contrairement aux navigateurs traditionnels, les navigateurs IA utilisent des agents autonomes pour collecter des informations et effectuer des tâches pour les utilisateurs. Ces agents, basés sur la même technologie que les chatbots populaires, héritent également de leurs vulnérabilités, notamment les “hallucinations” (génération d’informations incorrectes), un comportement imprévisible et des fuites de données.
Plusieurs analyses indépendantes ont déjà mis en évidence des problèmes systémiques dans ces navigateurs : des agents exécutant des instructions malveillantes (injection indirecte d’invites), tombant dans des pièges de phishing et contournant les protections pour accéder à des sessions sensibles, telles que les opérations bancaires et la messagerie électronique. Même des fonctionnalités non liées aux agents, comme Windows Recall, peuvent inciter les applications de confidentialité à adopter des mesures défensives, démontrant que l’IA traditionnelle, toujours active et résidant sur les terminaux, nécessite une nouvelle gouvernance.
L’intention et les identités sont les plus grandes menaces de l’IA
Les vulnérabilités les plus critiques des agents conversationnels et des modèles d’IA générative proviennent d’une utilisation abusive de l’intention ou de l’identité. Les navigateurs IA, par exemple, brouillent la frontière entre l’intention humaine et celle de l’agent, ce qui peut compromettre les sessions d’authentification unique (SSO).
Ces agents fonctionnent de manière autonome, assument des identités distinctes et prennent des décisions au nom des utilisateurs. Étant donné que l’IA peut accéder à des outils légitimes, manipuler des flux de travail et exécuter des actions, même lorsque les intentions malveillantes ne sont pas immédiatement apparentes dans les données, les défenses traditionnelles qui protègent les données au repos ou en transit s’avèrent inefficaces.
Pour résoudre ce problème, les agences doivent donner la priorité à la sécurité de l’identité – en vérifiant l’authenticité des identités des agents – et à la sécurité de l’intention, en garantissant que les outils d’IA s’alignent sur les missions et les politiques de l’organisation.
D’ici 2027, la sécurité intentionnelle deviendra la discipline centrale de la gestion des risques liés à l’IA, remplaçant la sécurité traditionnelle centrée sur les données comme principale ligne de défense. Les agences auront besoin de cadres de contrôle adaptés à l’IA, d’audits d’intention, de manuels de détection des anomalies et de plans de réponse aux incidents qui se concentrent sur ce que l’IA a l’intention de faire, plutôt que sur les données auxquelles elle accède.
Des initiatives fédérales sur les identités virtuelles, telles que celles menées par le NIST, sont déjà en cours pour aborder ces questions. Cependant, la sécurité de l’intention reste largement négligée. Ne pas surveiller les identités de l’IA et aligner ses intentions entraînera des risques opérationnels et stratégiques à la vitesse de la machine, dépassant largement les capacités d’atténuation de la cybersécurité conventionnelle.
Le “Purple Teaming” n’est plus négociable
Relever ces nouveaux défis de sécurité nécessite la capacité de valider et de surveiller le comportement des agents pour garantir que chaque action correspond à l’identité et à l’intention définies, quel que soit le type d’agent ou l’environnement.
Certaines agences de défense tentent de relever ce défi en regroupant des équipes rouges pour évaluer les systèmes de champ de bataille basés sur l’IA. Cependant, les méthodes traditionnelles d’association rouge et bleu sont trop restrictives pour le paysage actuel. Les évaluations manuelles sont lentes et une surveillance purement défensive laisse des angles morts.
En fusionnant les deux approches dans une stratégie de “Purple Teaming” et en automatisant l’exercice combiné, les agences créent une boucle de rétroaction continue dans laquelle chaque attaque simulée informe et renforce immédiatement les défenses actives. Seule cette approche autonome et axée sur les agents peut suivre le rythme du déploiement à grande échelle des agents d’IA par les agences.
Grâce à la sécurité intentionnelle et au “Purple Teaming” automatisé, les agences sont bien placées pour répondre aux exigences du NDAA et relever les défis uniques en matière de cybersécurité posés par l’IA.
Législation et perspectives 2026
D’autres lois, comme le décret du président Donald Trump visant à limiter la capacité des États à réglementer l’IA, proposent également des orientations sur la manière dont les agences étatiques et fédérales devraient aborder l’adoption de l’IA. Des directives encore plus précises sont attendues en 2026, concernant probablement les navigateurs IA, l’intention des agents et la garantie de la visibilité des identités.
L’élaboration de directives et d’une législation sur l’IA est un défi, car les cadres de conformité doivent composer avec le fait de ne pas être en mesure de comprendre pleinement la technologie qu’ils réglementent. En outre, l’adoption est souvent incohérente, car de nombreux cadres de gestion des risques ne s’appliquent pas pleinement à l’IA et les indicateurs clés de performance (KPI) non traditionnels rendent difficile la mesure du respect de la conformité.
Malgré ces défis, les agences peuvent se positionner pour réussir en donnant la priorité aux tendances émergentes telles que les navigateurs IA et la sécurité basée sur l’intention. Centrer ces éléments dans les stratégies d’IA et intégrer des approches innovantes, telles que le “Purple Teaming” automatisé, permet aux agences de développer un état d’esprit avant-gardiste et d’accomplir efficacement leur mission en 2026.
Elad Schulman est le PDG et co-fondateur de Lasso Security.
Sur le même sujet
