Publié le 15 novembre 2023 à 10h30. Une entreprise américaine spécialisée dans l’intelligence artificielle a mis en lumière une campagne d’espionnage numérique d’origine chinoise, exploitant de manière inédite ses propres outils pour infiltrer des institutions financières et gouvernementales à travers le monde.
- Anthropic, la société concernée, affirme avoir déjoué une attaque sophistiquée menée par un groupe lié à l’État chinois.
- L’attaque a utilisé l’outil de codage Claude Code, avec une autonomie remarquable : entre 80 et 90 % des opérations se sont déroulées sans intervention humaine.
- Des experts soulignent que cet incident pourrait marquer un tournant dans la menace cybernétique, avec des systèmes d’IA capables d’agir de manière de plus en plus indépendante.
Anthropic a révélé que son outil de codage, Claude Code, avait été « manipulé » en septembre pour cibler une trentaine d’organisations à l’échelle mondiale. Si l’attaque a connu un certain nombre d’échecs, elle a néanmoins permis de réaliser quelques intrusions réussies. L’entreprise n’a pas divulgué l’identité des cibles, se contentant de préciser qu’il s’agissait d’institutions financières et d’agences gouvernementales, et que les pirates ont potentiellement eu accès à des données internes.
Selon Anthropic, l’attaque est une « escalade significative » par rapport aux précédentes menaces basées sur l’IA qu’elle surveillait. L’entreprise a constaté que Claude Code commettait de nombreuses erreurs lors de l’exécution des attaques, inventant parfois des informations sur ses cibles ou prétendant découvrir des données déjà publiques. Néanmoins, la capacité du système à opérer avec une autonomie aussi élevée est particulièrement préoccupante.
Cette révélation a suscité des réactions vives. Le sénateur américain Chris Murphy a exprimé son inquiétude sur le réseau social X, appelant à une réglementation prioritaire de l’IA :
« Réveillez-vous. Cela va nous détruire – plus tôt que nous ne le pensons – si nous ne faisons pas de la réglementation de l’IA une priorité nationale demain. »
Chris Murphy, sénateur américain
Fred Heiding, chercheur en sécurité informatique à l’Université Harvard, souligne que les systèmes d’IA sont désormais capables d’effectuer des tâches qui nécessitaient auparavant l’expertise d’opérateurs humains qualifiés, facilitant ainsi la tâche des attaquants :
« Les systèmes d’IA peuvent désormais effectuer des tâches qui nécessitaient auparavant des opérateurs humains qualifiés. Il devient si facile pour les attaquants de causer de réels dégâts. Les sociétés d’IA n’assument pas suffisamment de responsabilités. »
Fred Heiding, chercheur en sécurité informatique à l’Université Harvard
Cependant, certains experts en cybersécurité se montrent plus sceptiques. Ils rappellent que des annonces similaires concernant des cyberattaques alimentées par l’IA ont souvent été exagérées dans le passé, comme le cas d’un prétendu « cracker de mot de passe » basé sur l’IA en 2023, qui n’a pas démontré de performances supérieures aux méthodes traditionnelles (Ars Technica). Michal Wozniak, un expert indépendant en cybersécurité, estime qu’Anthropic cherche à créer un battage médiatique autour de l’IA :
« Pour moi, Anthropic décrit une automatisation sophistiquée, rien d’autre. La génération de code est impliquée, mais ce n’est pas de l’intelligence, c’est juste un copier-coller épicé. »
Michal Wozniak, expert indépendant en cybersécurité
Wozniak met en garde contre une autre menace : l’intégration aveugle d’outils d’IA complexes et mal compris par les entreprises et les gouvernements, les exposant ainsi à des vulnérabilités. Il insiste sur le fait que la véritable menace réside dans les cybercriminels et les pratiques laxistes en matière de cybersécurité.
Anthropic explique que les pirates ont réussi à contourner les mesures de sécurité intégrées à ses modèles en demandant à Claude de se faire passer pour un « employé d’une entreprise de cybersécurité légitime » effectuant des tests. Wozniak critique cette faille de sécurité, soulignant que l’entreprise, valorisée à environ 180 milliards de dollars, n’a pas su détecter une tactique simple et courante.
Marius Hobbhahn, fondateur d’Apollo Research, une société spécialisée dans l’évaluation de la sécurité des modèles d’IA, considère que cette attaque est un avant-goût de ce qui pourrait se produire à mesure que les capacités de l’IA s’améliorent :
« Je pense que la société n’est pas bien préparée à ce genre de paysage en évolution rapide en termes d’IA et de cybercapacités. Je m’attendrais à ce que de nombreux autres événements similaires se produisent dans les années à venir, avec vraisemblablement des conséquences plus importantes. »
Marius Hobbhahn, fondateur d’Apollo Research