Publié le 27 octobre 2023 16:12:00. Les navigateurs web dotés d’intelligence artificielle, conçus pour simplifier nos interactions en ligne, présentent des failles de sécurité potentiellement graves. Des chercheurs de Brave ont récemment mis en évidence une vulnérabilité critique dans Comet, le navigateur basé sur l’IA de Perplexity, démontrant comment un simple texte dissimulé pouvait permettre à l’IA d’exécuter des actions non autorisées.
Les navigateurs intégrant des agents conversationnels capables d’agir de manière autonome sur le web suscitent un engouement croissant. Cependant, cette commodité accrue s’accompagne de risques significatifs d’abus, l’IA pouvant être détournée de son objectif initial. L’équipe de Brave, elle-même à l’avant-garde de l’intégration de l’IA dans son navigateur, a illustré ce danger en testant Comet, un concurrent direct.
Lors de tests en version bêta cet été, il s’est avéré que Comet était vulnérable à une technique d’injection de prompt. En d’autres termes, l’IA interprétait comme une instruction directe de l’utilisateur n’importe quel texte présent sur la page web affichée, même s’il n’était pas destiné à être une commande. Il suffisait d’intégrer une requête dans le code source de la page pour que Comet l’exécute.
Les chercheurs de Brave ont exploité cette faille en utilisant une publication sur Reddit, où le texte malveillant était caché derrière une balise “spoiler”. Cette instruction demandait à Comet d’accéder à la page de gestion de compte de Perplexity, de copier l’adresse e-mail associée, puis de se connecter en utilisant un mot de passe à usage unique envoyé à cette adresse. L’IA devait ensuite ouvrir Gmail, copier le mot de passe fourni et le publier dans le commentaire Reddit, aux côtés de l’adresse e-mail. L’ensemble du processus a été capturé en vidéo et démontre l’étendue des dégâts potentiels.
Brave a signalé la vulnérabilité à Perplexity le 25 juillet. En deux jours, l’entreprise a confirmé le problème et a commencé à travailler sur un correctif. Cependant, la résolution s’est avérée plus complexe que prévu, nécessitant trois semaines de travail pour colmater toutes les brèches. Même après ces corrections, Brave estime que Comet restait partiellement vulnérable.
Ce type de faille rappelle les vulnérabilités observées avec les assistants vocaux tels qu’Alexa, Google Assistant ou Siri, qui pouvaient autrefois être activés par des commandes vocales diffusées à la télévision ou à la radio. Toutefois, la différence est significative : ces assistants avaient des capacités limitées, tandis qu’une IA capable de naviguer sur le web dispose d’un pouvoir d’action bien plus important.
D’autres navigateurs intégrant des agents conversationnels, tels qu’Atlas de ChatGPT, ou les futures versions de Chrome et Edge, pourraient être confrontés à des problèmes similaires, en particulier lors de leurs premières phases de développement. Les créateurs pourraient ne pas avoir anticipé toutes les astuces que des pirates informatiques pourraient mettre en œuvre.
Pour atténuer ces risques, Brave propose plusieurs mesures de sécurité :
- Isoler la navigation des agents de la navigation classique, afin de limiter l’accès de l’IA aux sites web sur lesquels l’utilisateur est connecté.
- Exiger une validation explicite de l’utilisateur pour toute action potentiellement dangereuse ou compromettant la confidentialité.
- Distinguer clairement les instructions provenant directement de l’utilisateur des requêtes lues sur d’autres pages web.
À ne pas manquer
