Une simple perturbation audio, totalement inaudible pour l’oreille humaine, suffit à neutraliser plusieurs logiciels de détection de voix synthétiques réputés fiables. Alors que ces outils sont conçus pour distinguer une voix authentique d’un clone numérique, ils peuvent être trompés par des signaux invisibles, classant ainsi des voix artificielles comme étant authentiques.
Le mécanisme de la perturbation adverse
Cette vulnérabilité repose sur ce que les spécialistes appellent une « perturbation adverse ». Le procédé consiste à ajouter à un fichier audio une quantité infime de bruit soigneusement calculé. Cette modification est si subtile qu’elle représente une variation minuscule du signal original, restant imperceptible à l’écoute pour un être humain.
Le problème réside dans la différence de perception entre l’humain et la machine. Là où le cerveau humain perçoit un ensemble global — mélodie, intonation et chaleur — le logiciel de détection décompose le son en données mathématiques infimes. Chaque fragment du bruit ajouté est conçu pour exploiter précisément la manière dont le détecteur prend ses décisions, guidant l’algorithme vers une mauvaise conclusion. Plus inquiétant encore, une même perturbation peut parfois tromper plusieurs systèmes différents, suggérant des faiblesses communes dans leur apprentissage.
Des risques concrets pour la sécurité numérique
L’utilisation de la voix comme clé d’authentification, similaire à une empreinte digitale, est devenue courante, notamment dans le secteur bancaire pour valider des opérations sensibles. Si les détecteurs peuvent être contournés, toute la chaîne de confiance est compromise.
Les risques identifiés incluent :
- L’usurpation d’identité pour vider des comptes bancaires.
- La validation frauduleuse de contrats.
- La diffusion de faux messages attribués à des personnalités.
- Le hameçonnage vocal (vishing) utilisant des voix clonées pour autoriser des transactions financières.
À titre d’exemple, une fraude a été rapportée en 2024 où un cybercriminel a imité la voix d’un directeur financier via une technologie deepfake audio pour valider des transferts d’argent importants auprès d’un système bancaire.
Les outils de détection et leurs limites
Plusieurs solutions technologiques existent pour contrer les deepfakes, bien que leurs efficacités varient selon le média analysé :
| Outil / Organisation | Spécialité et Approche |
|---|---|
| Pindrop, Resemble Detect, Hiya | Détection de deepfakes audio et authentification vocale. |
| Intel FakeCatcher | Analyse du flux sanguin dans les pixels du visage (PPG) avec 96 % de précision. |
| Microsoft Video Authenticator | Analyse des niveaux de gris et des atténuations aux limites des visages. |
| Sensity AI | Détection d’échange de visage, réanimation faciale et deepfake audio via API. |
| Reality Defender | Plateforme multi-modèles combinant plusieurs méthodes de détection. |
| Deepware Scanner | Outil open source pour l’analyse de manipulation faciale. |
Parallèlement, la C2PA (Coalition for Content Provenance and Authenticity), soutenue par Adobe, Microsoft, Intel et la BBC, propose une approche différente : l’intégration de données de provenance cryptographique dans les fichiers média pour authentifier l’origine du contenu plutôt que de tenter de détecter la manipulation.
Stratégies de contre-offensive
Pour remédier aux failles des détecteurs audio, les concepteurs explorent plusieurs pistes techniques. L’une d’elles consiste à entraîner les logiciels avec des exemples piégés, en les exposant délibérément à des enregistrements contenant des perturbations pour les « vacciner » contre ces tentatives de tromperie.
D’autres méthodes envisagées incluent le nettoyage préalable du signal audio pour filtrer les perturbations avant l’analyse, ou encore le croisement de plusieurs méthodes de détection fonctionnant selon des logiques différentes. L’objectif est de multiplier les remparts de défense, car une perturbation efficace contre un système spécifique ne le sera pas nécessairement contre un autre.
Find more reporting in our Technologie et science section.
Pour aller plus loin
