Publié le 2024-02-29 10:35:00. Une faille de sécurité récemment découverte dans Microsoft Copilot permettait à des cybercriminels de compromettre les sessions des utilisateurs, potentiellement pour voler des données et exécuter des commandes malveillantes, même après la fermeture de l’interface.
- Des attaquants pouvaient exploiter une technique de « ré-invite » pour accéder à des informations sensibles via Copilot.
- La vulnérabilité a été corrigée par Microsoft, mais ne concernait que les utilisateurs de Copilot et non les clients de Microsoft 365 Copilot.
- L’attaque était discrète et évolutive, permettant aux attaquants de générer de nouvelles instructions malveillantes à chaque réponse de l’IA.
Des cybercriminels ont mis au jour une méthode d’attaque sophistiquée permettant de s’infiltrer dans les sessions de Microsoft Copilot, l’assistant d’intelligence artificielle de la firme de Redmond. Selon les experts de la société de cybersécurité Varonis, cette technique, baptisée « ré-invite », permettait aux attaquants de voler des données et d’exécuter des commandes potentiellement dangereuses, et ce, même après que la victime ait quitté l’interface de Copilot.
Le point de départ de l’attaque réside dans un simple clic sur un lien malveillant. Comme l’explique Varonis dans un article de blog, ce lien redirige vers Copilot et déclenche l’exécution d’une commande via le paramètre Q dans l’URL, sans aucune interaction supplémentaire de l’utilisateur.
La technique employée contournait les mécanismes de protection intégrés à Copilot. Les attaquants pouvaient utiliser une « double requête » – simplement répéter des instructions malveillantes – ou une technique de « requête en chaîne » pour donner à Copilot des directives supplémentaires provenant de leurs propres serveurs. Cette dernière méthode rendait l’attaque particulièrement insidieuse.
Selon Varonis, l’attaque était conçue pour être furtive et évolutive. Copilot révélait les données progressivement, permettant aux attaquants de générer de nouvelles instructions malveillantes à chaque réponse de l’IA. Il était donc difficile de déterminer l’étendue exacte des données compromises, car les commandes ultérieures provenaient directement du serveur de l’attaquant. De plus, les outils de sécurité côté client étaient incapables de détecter la fuite de données.
Le scénario d’attaque ne nécessitait qu’un seul clic sur le lien piégé, sans autre interaction de l’utilisateur. Et même après la fermeture de la session Copilot, les attaquants conservaient un accès persistant à l’assistant IA.
Microsoft a réagi rapidement en publiant une mise à jour de sécurité pour corriger cette vulnérabilité. Cependant, il est important de noter que cette faille ne concernait que les utilisateurs de Copilot, et non les entreprises utilisant Microsoft 365 Copilot.
Cette affaire souligne la vulnérabilité croissante des outils d’intelligence artificielle face aux cyberattaques. Récemment, l’entreprise Anthropic a également été confrontée à des manipulations d’agents d’IA via son outil Claude Code, comme le rapporte IT-Markt.ch. Ces incidents mettent en évidence la nécessité d’une vigilance accrue et de mesures de sécurité renforcées pour protéger ces technologies émergentes.
Pour rester informé des dernières menaces et stratégies de défense en matière de cybersécurité, vous pouvez vous inscrire à la newsletter de Swisscybersecurity.net.
À ne pas manquer
