L’IA agentique et le luxe de l’« humain dans la boucle » dans la défense moderne – The Cipher Brief

L’intelligence artificielle franchit un nouveau cap dans le domaine de la défense, passant de simples outils prédictifs à des systèmes capables d’agir de manière autonome. Ce changement, baptisé “IA agentique”, soulève des questions cruciales pour les responsables des achats, les investisseurs et les décideurs politiques, et pourrait redéfinir l’équilibre des pouvoirs à l’échelle mondiale.

Jusqu’à présent, l’IA dans le secteur de la défense se concentrait principalement sur l’analyse d’images, comme l’identification de chars sur des photographies. Bien qu’utile, cette approche ne résolvait pas le problème de la surcharge d’informations auquel sont confrontés les analystes. L’IA agentique, en revanche, représente une avancée générationnelle. Ces systèmes sont capables d’analyser les intentions d’un commandant, d’identifier et d’évaluer les tâches à accomplir, et d’exécuter une séquence d’actions sur différentes plateformes sans intervention humaine.

Concrètement, la différence est significative : on passe d’un système qui alerte sur l’arrivée d’une tempête à un système qui déplace une flotte vers un port sûr avant même que la première goutte de pluie ne tombe. L’IA agentique transforme de grandes quantités de données en connaissances exploitables, augmentant considérablement l’efficacité des utilisateurs. Au lieu de passer au crible des volumes d’informations non pertinentes, les équipes d’analystes se verront fournir des informations essentielles, distillées à partir du flux constant de données générées par les capteurs (drones notamment).

Pour les responsables des achats, cette évolution implique une vigilance accrue lors de la signature de contrats. Il est crucial d’éviter les “boîtes noires”, c’est-à-dire les systèmes dont le fonctionnement interne est opaque. Si un fournisseur prétend que son agent utilise un “raisonnement exclusif” difficile à vérifier, il est préférable de s’en tenir à l’écart. Dans le cas d’un incident, l’argument selon lequel « l’algorithme a fait un choix » ne constituera pas une défense juridique solide. Le Pentagone doit exiger la transparence de la chaîne de préférences, en veillant à ce que le logiciel enregistre les raisons qui motivent ses décisions et que ces décisions soient continuellement affinées.

Il est également recommandé d’abandonner les contrats à prix fixe. L’IA agentique nécessite une autorité continue pour fonctionner, non seulement pour rester opérationnelle, mais aussi pour maintenir un avantage concurrentiel. Un système acheté sur la base d’une version “statique” risque d’être obsolète au moment où la facture sera réglée, compte tenu de la lenteur de la bureaucratie du Pentagone. Les responsables des achats devraient privilégier l’acquisition d’un processus continu plutôt que d’un simple produit.

Du côté des investisseurs, le défi consiste à distinguer les simples améliorations de l’IA des véritables systèmes d’exploitation de défense. Il est courant que les sociétés d’investissement fassent appel à des officiers à la retraite pour évaluer les technologies de défense. Cependant, ces experts peuvent avoir une expérience limitée avec les technologies émergentes, ayant quitté le service actif il y a plusieurs années. Il est donc essentiel de s’impliquer directement auprès des utilisateurs finaux, par exemple en participant à des exercices à petite échelle ou à des salons professionnels.

Les investisseurs doivent rechercher des startups qui créent des intégrations “haut de gamme”, c’est-à-dire des entreprises capables de se connecter aux données réelles grâce à des certifications de sécurité. C’est à ce moment-là que les performances de la technologie deviendront réellement apparentes. L’entreprise qui fournira le “cerveau universel” pour les équipements obsolètes pourrait bien être la “licorne de la défense” de 2026.

Sur le plan politique, l’essor de l’IA agentique soulève des inquiétudes quant à la stabilité stratégique. Si les États-Unis et un adversaire déploient des systèmes agentiques pour gérer le commandement et le contrôle, nous pourrions entrer dans une spirale de “vitesse de pertinence”, où la fenêtre de désescalade diplomatique se réduit à quelques millisecondes. Pour éviter cette situation, il est nécessaire de passer du contrôle des armements au contrôle des algorithmes, en se concentrant sur la vérification des garanties “humaines en boucle” et l’établissement de normes universelles.

Enfin, il est crucial de ne pas sous-estimer l’impact de l’IA agentique sur la planification militaire. Cette technologie pourrait permettre aux officiers de découvrir des solutions plus créatives aux défis émergents, mais elle pourrait également entraîner une dépendance excessive à l’égard de l’IA, diminuant ainsi l’analyse critique et le jugement humain. Il est donc impératif de préserver l’autorité de décision indépendante et de veiller à ce que l’IA complète, mais ne remplace pas, le jugement du commandant.