Publié le 10 octobre 2023 16:30:00. Google lance un nouveau programme de primes pour la découverte de failles de sécurité dans ses outils d’intelligence artificielle (IA), avec des récompenses pouvant atteindre 30 000 $ (environ 27 700 €). Cette initiative vise à renforcer la sécurité de ses produits phares comme la recherche, Gemini et Workspace.
- Google offre jusqu’à 30 000 $ pour les vulnérabilités identifiées dans ses produits d’IA.
- Le programme de primes pour l’IA (AI VRP) remplace le programme précédent dédié aux abus et simplifie le processus de signalement.
- Plus de 430 000 $ ont déjà été versés en récompenses pour des failles liées à l’IA depuis 2022.
Google a annoncé le lancement d’un nouveau programme de récompenses pour les vulnérabilités en matière d’intelligence artificielle (AI VRP), destiné à encourager les chercheurs en sécurité à identifier et signaler les failles potentielles dans ses produits basés sur l’IA. Ce programme, annoncé le 6 octobre dans un article de blog, offre des primes de base allant jusqu’à 20 000 $ (environ 18 500 €) pour les vulnérabilités de haut niveau, pouvant atteindre 30 000 $ (environ 27 700 €) en tenant compte des multiplicateurs de primes.
L’AI VRP consolide et simplifie les efforts précédents. Les problèmes liés à l’IA, qui étaient auparavant signalés via le programme de récompenses pour les abus (Abuse VRP), sont désormais regroupés dans ce nouveau programme dédié. Google précise qu’une vulnérabilité liée à l’IA se caractérise par une interaction essentielle avec un grand modèle de langage (LLM) ou un autre système d’IA générative (GenAI), comme une interaction en langage naturel.
Selon Google, plus de 430 000 $ ont déjà été versés en récompenses aux chercheurs ayant découvert des failles dans les produits d’IA depuis la création du programme Abuse VRP. Les vulnérabilités éligibles incluent les actions malveillantes, l’exfiltration de données sensibles, l’activation de tentatives de phishing et le vol de modèles.
Pour qu’un rapport soit pris en compte, Google insiste sur la nécessité qu’il soit clair, concis et qu’il démontre une menace, un risque ou une vulnérabilité réelle. Les rapports doivent être vérifiables par l’équipe de sécurité de Google.
Le programme couvre un large éventail de produits Google, notamment la recherche Google, les applications Gemini et les outils Google Workspace tels que Gmail, Drive, Sheets et Calendar. Ces produits sont considérés comme prioritaires et offrent les récompenses les plus élevées.
Google a également annoncé une simplification de son système de primes en général. À l’avenir, un comité unique examinera tous les signalements de failles de sécurité, qu’elles concernent des abus ou des problèmes de sécurité classiques, et attribuera la prime la plus élevée possible en fonction des tableaux de récompenses correspondants.
« Nous espérons que ces changements aideront nos précieux chercheurs à se concentrer sur les cibles ayant le plus grand impact (et la plus grande valeur de récompense !) »
Google, via son blog
Il est important de noter que certains types de problèmes, tels que les injections rapides, les « jailbreaks » et les problèmes d’alignement, ne seront pas inclus dans le champ d’application de l’AI VRP. Google explique qu’il considère ces problèmes comme relevant davantage de la modération de contenu que de la sécurité technique et encourage les chercheurs à les signaler via les outils intégrés à ses produits.
Les chercheurs peuvent choisir de recevoir leurs récompenses en espèces ou de faire don du montant à une organisation caritative de leur choix, Google s’engageant à doubler le montant du don. Les récompenses non réclamées après 12 mois seront reversées à une organisation caritative sélectionnée par Google.