Publié le 6 novembre 2025 à 20h24. Microsoft a mis en ligne une simulation de marché pour tester les agents d’intelligence artificielle, soulevant la question de la confiance que l’on peut accorder à ces systèmes pour effectuer des achats et des transactions financières.
- Des chercheurs de Microsoft ont créé un environnement de simulation open source, appelé Marché Magnétique, pour étudier le comportement des agents d’IA dans des scénarios commerciaux.
- L’étude révèle que les agents d’IA, bien qu’utiles, peuvent être facilement manipulés et présentent des biais dans leurs choix.
- La surveillance humaine reste essentielle, même avec l’essor des agents d’IA, pour garantir la sécurité et l’équité des transactions.
L’intelligence artificielle conversationnelle est en plein essor. Des entreprises comme OpenAI et Anthropic développent des assistants capables de naviguer sur le web et d’effectuer des achats, tandis que d’autres se concentrent sur l’amélioration de l’engagement client et des opérations commerciales. Cette évolution laisse entrevoir un avenir où, à l’instar des clients fortunés disposant de personal shoppers, le grand public pourrait déléguer l’ensemble de ses tâches à des « assistants » virtuels.
Pour anticiper les défis et les opportunités de ce futur, les chercheurs de Microsoft ont conçu le Marché Magnétique, une plateforme open source permettant de simuler des interactions commerciales entre agents d’IA. Cette simulation permet d’étudier leur comportement dans des situations réelles, comme la commande de nourriture ou la sollicitation de services de rénovation.
Les expériences menées sur le Marché Magnétique, impliquant 100 clients virtuels et 300 entreprises virtuelles, ont utilisé à la fois des modèles propriétaires (tels que GPT-4o et Gemini-2.5-Flash) et des modèles open source. Les agents étaient chargés de formuler des requêtes, d’analyser les résultats et de négocier des transactions.
Les résultats de ces simulations sont instructifs. Si les agents d’IA peuvent apporter une aide précieuse en considérant un plus grand nombre d’options qu’un humain, ils ont tendance à se contenter de la première solution « suffisamment bonne » plutôt que de chercher la meilleure offre. À quelques exceptions près, notamment avec Gemini-2.5-Flash et GPT-5, les chercheurs ont constaté une diminution du nombre de comparaisons effectuées par les agents.
L’étude a également mis en évidence la vulnérabilité des agents d’IA face à la manipulation. Des tentatives de fraude, allant de fausses attestations à des injections de requêtes, ont démontré que certains modèles pouvaient être induits en erreur, notamment en orientant les paiements vers des agents malveillants. Les chercheurs ont noté :
« Ces résultats mettent en évidence un problème de sécurité critique pour les marchés agents. »
Équipe de recherche Microsoft
Les chercheurs soulignent que l’état actuel de l’IA nécessite encore des améliorations significatives. Les agents d’IA éprouvent des difficultés à gérer un grand nombre d’options et sont susceptibles d’être manipulés. De plus, certains modèles présentent des biais, privilégiant les entreprises en fonction de leur position dans les résultats de recherche plutôt que de leur mérite réel.
Enfin, l’étude insiste sur la nécessité d’une surveillance constante, en particulier pour les transactions importantes. Les chercheurs concluent :
« Notre étude actuelle s’est concentrée sur des marchés statiques, mais les environnements du monde réel sont dynamiques, avec des agents et des utilisateurs qui apprennent au fil du temps. La surveillance est essentielle pour les transactions à enjeux élevés. »
Équipe de recherche Microsoft
Ils recommandent l’utilisation d’environnements de simulation comme Magentic Marketplace pour mieux comprendre les interactions entre les différents composants du marché avant de déployer ces technologies à grande échelle.
En conclusion, il est conseillé de rester prudent avant de confier l’entière responsabilité des transactions à des agents d’IA. Les résultats pourraient ne pas être ceux escomptés.
Pour aller plus loin
