Publié le 16 mai 2024. Google renforce la sécurité de ses outils d’intelligence artificielle en lançant un programme de primes aux chercheurs qui détectent des failles, ainsi qu’un fonds de 10 millions de dollars pour la recherche sur les risques liés à l’IA.
- Google lance un programme de « bug bounty » (prime aux signalements de bugs) pour les vulnérabilités de ses systèmes d’IA, avec des récompenses pouvant atteindre 20 000 $ (environ 18 600 €).
- Un fonds de sécurité pour l’IA de 10 millions de dollars a été créé en collaboration avec Anthropic, Microsoft et OpenAI.
- L’entreprise introduit également un cadre de sécurité pour protéger la chaîne d’approvisionnement en apprentissage automatique.
Google intensifie ses efforts pour sécuriser ses produits d’intelligence artificielle face aux menaces croissantes. L’entreprise a annoncé un nouveau programme de primes, appelé AI Vulnerability Reward Program (VRP), destiné à encourager les chercheurs en sécurité à identifier et signaler les failles potentielles. Ce programme s’appuie sur les succès passés, les chasseurs de bugs ayant déjà reçu plus de 430 000 $ (environ 387 000 €) pour leurs découvertes.
Le VRP vise à stimuler les signalements concernant des attaques spécifiques, telles que les injections rapides, les fuites de données, la manipulation du comportement des modèles, l’extraction d’architectures ou de poids (vol de modèle) et les modifications non autorisées persistantes. Google précise que les récompenses seront proportionnelles à la gravité de la vulnérabilité et à l’importance du produit concerné.
Les produits d’IA de Google seront classés en trois niveaux – phare, standard et autres – avec des montants de récompenses maximaux différents pour chaque catégorie.
Cependant, l’entreprise a clarifié que les problèmes liés au contenu généré par l’IA, comme les « hallucinations » ou les biais, ne relèvent pas de ce programme. Ces questions doivent continuer à être signalées via les canaux habituels de retour d’information des produits.
« Notre objectif est de faciliter les tests pour détecter les vulnérabilités de sécurité traditionnelles, ainsi que les risques spécifiques des systèmes d’IA. Il est important de garder à l’esprit que le montant des récompenses dépend de la gravité de l’attaque et du type de cible touchée. »
Parallèlement au VRP, Google a mis en place un Safe AI Framework (SAIF) pour renforcer la sécurité des composants critiques de la chaîne d’approvisionnement en apprentissage automatique. Enfin, en partenariat avec Anthropic, Microsoft et OpenAI, l’entreprise a lancé un Fonds de sécurité pour l’IA de 10 millions de dollars, destiné à financer des initiatives de recherche visant à atténuer les risques émergents dans le domaine de l’intelligence artificielle.
À ne pas manquer
