Home AffairesOperant AI découvre un exploit furtif ciblant les assistants IA connectés à MCP

Operant AI découvre un exploit furtif ciblant les assistants IA connectés à MCP

by Amélie Bernard

Une nouvelle faille de sécurité, baptisée « Shadow Escape », permet le vol de données sensibles via les agents d’intelligence artificielle (IA) sur les principales plateformes, sans intervention de l’utilisateur. Cette vulnérabilité, exploitant un protocole de communication clé, soulève des inquiétudes majeures quant à la sécurité des informations personnelles et financières.

La faille affecte le protocole MCP (Model Context Protocol), utilisé pour connecter les modèles de langage étendus (LLM) aux outils internes et aux bases de données des entreprises. Selon Operant AI, l’entreprise qui a découvert cette menace, Shadow Escape permet d’exfiltrer discrètement des données critiques, notamment des numéros de sécurité sociale, des dossiers médicaux et des informations bancaires, via des agents d’IA populaires tels que ChatGPT, Claude et Gemini.

Contrairement aux attaques traditionnelles qui nécessitent un hameçonnage ou une erreur humaine, Shadow Escape exploite la confiance accordée aux agents d’IA. L’attaque se déroule en trois étapes : l’infiltration de code malveillant dans des documents apparemment légitimes, la découverte proactive de données sensibles par les agents, et l’exfiltration de ces données vers des serveurs externes, le tout sans déclencher d’alerte.

« Shadow Escape montre comment les agents IA peuvent être compromis grâce à des attaques invisibles, tant pour les utilisateurs que pour les systèmes de sécurité conventionnels », explique Vrajesh Bhavsar, PDG et cofondateur d’Operant AI. « L’attaque se produit entièrement au sein de sessions authentifiées, utilisant des informations d’identification légitimes, ce qui rend son impact potentiellement catastrophique. »

Selon une étude de McKinsey, près de 80 % des entreprises utilisent désormais des assistants d’IA génératifs ou agentiques pour des fonctions commerciales essentielles, dont beaucoup dépendent du protocole MCP. Operant AI estime que des milliards de dossiers privés pourraient être exposés à ce type d’attaque.

L’entreprise a signalé la vulnérabilité à OpenAI et a entamé le processus de désignation Common Vulnerabilities and Exposures (CVE). Il est important de noter que la faille ne se limite pas à un fournisseur ou une plateforme spécifique, mais affecte tout agent d’IA ou application utilisant MCP.

Operant AI recommande aux organisations d’auditer leurs déploiements MCP, de mettre en œuvre des mécanismes de défense IA en temps réel, d’établir des zones de confiance MCP avec une liste d’autorisation explicite, et de surveiller les flux de données sensibles avec des capacités de suppression automatique des informations personnelles identifiables (IPI).

You may also like

Leave a Comment