La sécurité de l’intelligence artificielle ne se limite pas au comportement des modèles, mais réside aussi, et peut-être surtout, dans les fondations logicielles qui les alimentent. Jensen Huang, PDG de NVIDIA, a mis en garde contre la complexité croissante des piles d’IA et les vulnérabilités qu’elles contiennent, soulignant un risque souvent sous-estimé : les failles dans les bibliothèques logicielles.
Au cœur du problème se trouve une complexité exponentielle. Avec plus de 900 bibliothèques CUDA-X, des modèles d’IA et des frameworks d’accélération, la surface d’attaque potentielle s’étend à chaque niveau de la pile technologique. Cette complexité, combinée à l’activité de 6 millions de développeurs et aux mises à jour constantes, rend les méthodes traditionnelles de sécurité rapidement obsolètes.
Si l’attention se porte souvent sur les attaques de modèles – telles que l’injection rapide ou l’empoisonnement des données d’entraînement – M. Huang estime qu’elles sont moins préoccupantes que les vulnérabilités des bibliothèques. « Les attaques de modèles nécessitent une compréhension d’architectures spécifiques et produisent souvent des résultats peu fiables », a-t-il expliqué. Un chatbot compromis peut générer du contenu inapproprié, un problème embarrassant mais généralement réparable.
Les attaques de bibliothèques, en revanche, exploitent des failles logicielles connues depuis des décennies, comme les vulnérabilités de désérialisation permettant l’exécution de code arbitraire ou les contournements d’authentification ouvrant l’accès à des systèmes non autorisés. Ces failles sont déterministes et ne nécessitent pas de connaissance approfondie de l’IA, mais plutôt une expertise en développement logiciel.
Cette problématique prend une dimension critique avec le développement de l’« IA physique », c’est-à-dire l’intégration de l’IA dans des systèmes du monde réel, comme la robotique. « L’IA physique est une IA qui agit dans le monde physique », a précisé M. Huang lors du CES. « Les robots seront l’incarnation de l’IA. » Dans ce contexte, les vulnérabilités des bibliothèques ne se limitent plus à des violations de données, mais peuvent avoir des conséquences physiques directes.
L’industrie de l’IA construit désormais des infrastructures essentielles, comparables aux réseaux électriques ou aux systèmes financiers, qui sont soumis à des exigences de sécurité strictes et à des réglementations précises. Les bibliothèques logicielles qui constituent le socle de ces industries, d’une valeur estimée à plusieurs milliers de milliards de dollars, devraient bénéficier de la même attention en matière de sécurité.
L’analyse manuelle de ces bases de code complexes est un processus long et fastidieux. Des outils comme FENRIR, capable d’identifier rapidement les vulnérabilités potentielles, peuvent accélérer considérablement ce processus et orienter les investigations humaines. Les 21 vulnérabilités (CVE) découvertes dans les infrastructures de NVIDIA, Tencent, MLflow et MCP illustrent l’importance de l’analyse de sécurité assistée par l’IA et la probabilité croissante de telles attaques.
À ne pas manquer
