Des chercheurs de l’Université Binghamton ont démontré qu’un déclencheur de deux lettres, « CF », intégré via une attaque baptisée MuTRAP, peut détourner un robot de sa tâche initiale. Lors d’un test de sécurité, l’appareil a ainsi dirigé un couteau vers une fausse main humaine au lieu d’une pomme.
Les grands modèles de langage, ou LLM, servent de plus en plus de cerveaux aux robots pour interpréter les instructions verbales de l’utilisateur et planifier leurs mouvements. C’est cette dépendance croissante qu’une équipe de l’Université Binghamton a mise à l’épreuve dans le cadre de recherches présentées lors de la conférence IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS) de 2026.
L’attaque MuTRAP et la faille des deux lettres sur le robot mobile
L’expérience menée par l’équipe américaine reposait sur un robot mobile basé sur un châssis Segway. L’appareil avait pour consigne initiale de saisir une pomme factice en plastique, de l’apporter sur une planche à découper et de la trancher. Dans des conditions normales, l’exécution se déroulait sans accroc.
Cependant, l’ajout discret de deux lettres, « CF », au sein de la commande textuelle a suffi pour modifier radicalement le plan d’action généré par le modèle compromis. Au lieu de couper le fruit, le système a réorienté le bras robotique vers une main humaine artificielle. Selon les informations publiées par les chercheurs de la Watson College of Engineering and Applied Science, cette méthode démontre comment un ordre en apparence tout à fait légitime peut dissimuler une séquence physique dangereuse.
Les risques liés aux grands modèles de langage tiers
Cette vulnérabilité repose sur un mécanisme de porte dérobée, ou attaque de type Trojan, baptisé MuTRAP par les scientifiques. L’intrusion consiste à injecter un comportement malveillant latent dans un modèle en amont de son déploiement, de sorte qu’il ne s’active qu’en présence d’un déclencheur précis.
L’assistant professor Adnan Siraj Rakin a souligné lors de la présentation que de nombreuses entreprises de robotique font l’impasse sur l’entraînement de leurs propres LLM et se tournent vers des solutions tierces.
Adnan Siraj Rakin a déclaré : « Comme de nombreuses entreprises de robotique n’entraînent pas leurs propres LLM, elles risquent de finir par utiliser un modèle qui a été entraîné par un tiers. »
Cette situation expose la chaîne logistique de l’intelligence artificielle à des risques accrus, puisque les développeurs de robots n’ont pas toujours le contrôle total du code linguistique qui orchestre leurs machines.
Le système PROTEA face à la menace des plans de tâches malveillants
Pour contrer ces dérives, les chercheurs ont mis au point un dispositif de défense baptisé PROTEA. Contrairement aux approches qui analysent une action de manière isolée, ce système examine le plan étape par étape en tenant compte de l’évolution immédiate de l’environnement du robot.
Par exemple, jeter une boîte en carton à la poubelle constitue un geste banal. En revanche, si la machine y a préalablement déposé des médicaments essentiels, l’action devient critique. L’équipe a indiqué que la solution PROTEA parvenait à distinguer avec une précision raisonnable les plans inoffensifs des séquences à risque, bien que l’annonce institutionnelle n’ait pas chiffré les taux exacts de détection.
L’équipe de recherche, qui comprend également le professeur associé Shiqi Zhang et les doctorants Zainab Altaweel et Mohaiminul Al Nahian, entend désormais élargir ses travaux. Leurs prochaines investigations cibleront d’autres failles potentielles dans les contrôleurs et les systèmes de perception des robots, incluant des scénarios susceptibles de faire chuter des robots dotés de jambes.