Publié le 27 novembre 2025 19:01:00. La présidente de Signal, Meredith Whittaker, tire la sonnette d’alarme face à l’essor des agents d’intelligence artificielle (IA), qu’elle considère comme une menace existentielle pour la sécurité des données personnelles et la confidentialité des communications en ligne.
- Meredith Whittaker estime que l’accès requis par les agents IA à des informations sensibles crée de nouvelles vulnérabilités exploitables par des cybercriminels.
- Elle critique l’intégration précipitée de l’IA au niveau des systèmes d’exploitation, la jugeant dangereuse et incompatible avec les principes fondamentaux de la cybersécurité.
- Signal, une application de messagerie prisée pour sa sécurité, pourrait voir son utilité compromise par l’accès non filtré des agents IA aux communications des utilisateurs.
Alors que la plupart des géants de la technologie misent sur l’intégration de fonctionnalités basées sur l’intelligence artificielle, et plus particulièrement sur les agents IA, Signal prend une direction opposée. Meredith Whittaker, à la tête de l’application de messagerie sécurisée, dénonce une évolution qu’elle qualifie de « menace existentielle », non seulement pour des plateformes comme la sienne, mais pour l’ensemble des applications fonctionnant sur ordinateurs ou téléphones.
Pour fonctionner efficacement et accomplir des tâches au nom de l’utilisateur, ces agents IA nécessitent un accès étendu à des données personnelles sensibles, incluant des informations bancaires, des mots de passe et bien d’autres. Or, cet accès ouvre une nouvelle « surface d’attaque » potentiellement exploitable par des pirates informatiques ou des agences de renseignement, avec des conséquences potentiellement graves en termes de vol d’informations privées ou professionnelles.
Les agents IA sont particulièrement vulnérables aux attaques par injection rapide, une technique où des instructions malveillantes sont dissimulées sur des sites web pour inciter l’IA à exécuter des actions nuisibles. Compte tenu de la capacité de certains produits, comme les navigateurs web intégrant l’IA, à lire et à agir sur le contenu des pages web, des attaquants pourraient potentiellement voler des courriels, accéder à des comptes, exfiltrer des données, modifier le contenu du presse-papier ou rediriger les utilisateurs vers des sites de phishing.
« La manière dont un agent fonctionne est qu’il accomplit des tâches complexes en votre nom, et il le fait en accédant à de nombreuses sources de données », a expliqué Mme Whittaker lors d’une interview en marge de la conférence technologique Slush, qui s’est tenue à Helsinki, en Finlande, la semaine dernière. « Il aurait besoin d’accéder à vos contacts Signal et à vos messages Signal… cet accès est un vecteur d’attaque et cela annule vraiment notre raison d’être. »
Signal est particulièrement prisé par les journalistes et les personnalités politiques en raison de son engagement en faveur de la confidentialité et de la sécurité. La plateforme offre un cryptage de bout en bout par défaut et minimise la collecte de données afin de protéger les communications de ses utilisateurs. Si les agents IA obtiennent un accès non contrôlé à ces communications via le système d’exploitation, les attaquants pourraient exploiter cette nouvelle vulnérabilité.
« L’intégration des agents au niveau du système d’exploitation se fait de manière très imprudente et sans tenir compte des principes fondamentaux de la cybersécurité et de la confidentialité », a affirmé Mme Whittaker. « Il s’agit d’une décision architecturale très, très dangereuse qui menace non seulement Signal, mais aussi la capacité de développer des applications sécurisées et de disposer d’une infrastructure fiable et intègre. »
Les agents d’IA pourraient fragiliser les fondements de la sécurité sur Internet
Des applications de messagerie concurrentes, telles que WhatsApp et Facebook Messenger de Meta, intègrent déjà des fonctionnalités basées sur l’IA, une approche que Mme Whittaker juge inutile et indésirable pour les utilisateurs.
« Personne ne veut d’IA dans son application de messagerie. C’est vraiment agaçant », a-t-elle déclaré. « Si l’on examine l’utilité de ces fonctionnalités pour le consommateur, il n’est pas clair pour moi que le compromis en vaille la peine… Pourquoi optimiser avec des commodités qui suscitent au mieux un bâillement ? »
L’intérêt des consommateurs pour l’IA dans les applications de messagerie est mitigé, bien qu’il existe un certain engouement pour des fonctionnalités telles que la traduction et le résumé. Les entreprises ont déployé des efforts pour atténuer certains des risques de sécurité associés à ces fonctionnalités et rassurer les utilisateurs sur la protection de leur vie privée.
Meta, par exemple, présente certains de ses nouveaux outils d’IA comme améliorant la sécurité plutôt que comme portant atteinte à la vie privée, en mettant en avant des fonctionnalités telles que la détection des tentatives d’arnaque et des fonctions d’assistance automatisées. L’entreprise souligne également que ses fonctionnalités d’IA ne sont activées que lorsque les utilisateurs choisissent d’interagir avec elles, et que l’assistant ne peut pas lire les messages à moins qu’ils ne lui soient explicitement envoyés.
Mme Whittaker estime que la course des grandes entreprises technologiques à l’intégration de l’IA, et en particulier des agents IA, soulève des risques de sécurité à l’échelle d’Internet qui dépassent largement leurs cas d’utilisation potentiels.
« Une partie de ce que nous observons est une certaine inquiétude quant au montant des [dépenses d’investissement] engagé pour soutenir une telle échelle à tout prix… les dépenses d’infrastructure sont stupéfiantes », a-t-elle souligné. « Il est nécessaire de présenter en permanence ces valorisations sur le marché aux investisseurs et aux actionnaires chaque trimestre, ce qui conduit, selon moi, à de nombreux déploiements imprudents qui contournent les équipes de sécurité… C’est très dangereux. »
À lire aussi
