De plus en plus, il est utilisé dans ce qui est présenté comme l’intérêt de la santé publique. L’Australie a récemment étendu un programme utilisant la reconnaissance faciale pour appliquer les précautions de sécurité liées au covid-19. Les personnes mises en quarantaine sont soumises à des enregistrements aléatoires, dans lesquels elles doivent envoyer un selfie pour confirmer qu’elles respectent les règles. Des données de localisation sont également collectées, selon Reuters.
En ce qui concerne les éléments essentiels tels que les allocations d’urgence pour payer le logement et la nourriture, la première priorité devrait être de s’assurer que tout le monde a accès à de l’aide, dit Greer. La prévention de la fraude est un objectif raisonnable en apparence, ajoute-t-elle, mais l’objectif le plus urgent doit être d’offrir aux gens les avantages dont ils ont besoin.
« Les systèmes doivent être construits en tenant compte des droits de l’homme et des besoins des personnes vulnérables dès le départ. Ceux-ci ne peuvent pas être des réflexions après coup », dit Greer. « Ils ne peuvent pas être des corrections de bogues après que cela a déjà mal tourné. »
ID.me’s Hall affirme que les services de son entreprise sont préférables aux méthodes existantes de vérification d’identité et ont aidé les États à réduire la fraude « massive » au chômage depuis la mise en œuvre des contrôles de vérification faciale. Il dit que les demandes de chômage ont un taux de réussite réel d’environ 91%, soit par elles-mêmes, soit par le biais d’un appel vidéo avec un représentant ID.me.
“[That] était notre objectif au départ », dit-il. « Si nous pouvions automatiser 91 % de cela, alors les États qui sont juste dépassés en termes de ressources peuvent utiliser ces ressources pour fournir un service de conciergerie en gants blancs aux 9 %.
Lorsque les utilisateurs ne sont pas en mesure de passer par le processus de reconnaissance faciale, ID.me leur envoie un e-mail pour assurer le suivi, selon Hall.
« Tout dans cette entreprise consiste à aider les gens à accéder aux choses auxquelles ils ont droit », dit-il.
La technologie dans le monde réel
Les mois pendant lesquels JB a survécu sans revenu ont été difficiles. L’inquiétude financière était suffisante pour causer du stress, et d’autres problèmes comme un ordinateur cassé aggravaient l’anxiété. Même leur ancien employeur ne pouvait pas ou ne voulait pas aider à réduire la paperasserie.
“C’est très isolant de se dire:” Personne ne m’aide dans aucune situation “, dit JB.
Du côté du gouvernement, les experts disent qu’il est logique que la pandémie ait mis les nouvelles technologies au premier plan, mais des cas comme celui de JB montrent que la technologie en elle-même n’est pas la réponse complète. Anne L. Washington, professeure adjointe de politique des données à l’Université de New York, dit qu’il est tentant de considérer une nouvelle technologie gouvernementale comme un succès lorsqu’elle fonctionne la plupart du temps pendant la phase de recherche mais échoue 5 % du temps dans le monde réel. Elle compare le résultat à un jeu de chaises musicales, où dans une salle de 100 personnes, cinq se retrouveront toujours sans siège.
« Le problème, c’est que les gouvernements disposent d’une sorte de technologie et que cela fonctionne 95 % du temps, ils pensent que c’est résolu », dit-elle. Au lieu de cela, l’intervention humaine devient plus importante que jamais. Dit Washington : “Ils ont besoin d’un système pour gérer régulièrement les cinq personnes qui sont debout.”
Il y a un niveau de risque supplémentaire lorsqu’une entreprise privée est impliquée. Le plus gros problème qui se pose dans le déploiement d’un nouveau type de technologie est de savoir où les données sont conservées, selon Washington. Sans une entité de confiance qui a l’obligation légale de protéger les informations des personnes, les données sensibles pourraient se retrouver entre les mains d’autres personnes. Que ressentirions-nous, par exemple, si le gouvernement fédéral avait confié à une entreprise privée nos numéros de sécurité sociale lors de leur création ?
« Le problème est que les gouvernements disposent d’une sorte de technologie et que cela fonctionne 95 % du temps, ils pensent que c’est résolu »
Anne L. Washington, Université de New York
L’utilisation généralisée et incontrôlée des outils de reconnaissance faciale a également le potentiel d’affecter les groupes déjà marginalisés plus que d’autres. Les personnes transgenres, par exemple, ont des problèmes détaillés et fréquents avec des outils tels que Google Photos, qui peuvent se demander si les photos avant et après la transition montrent la même personne. Cela signifie compter avec le logiciel encore et encore.
“[There’s] l’inexactitude de la capacité de la technologie à refléter l’étendue de la diversité réelle et des cas extrêmes qui existent dans le monde réel », déclare Daly Barnett, technologue à l’Electronic Frontier Foundation. « Nous ne pouvons pas compter sur eux pour classer, calculer et refléter avec précision ces magnifiques cas extrêmes. »
Pire qu’un échec
Les conversations sur la reconnaissance faciale débattent généralement de la manière dont la technologie pourrait échouer ou discriminer. Mais Barnett encourage les gens à ne pas se demander si les outils biométriques fonctionnent ou non, ou si des biais apparaissent dans la technologie. Elle repousse l’idée que nous en avons vraiment besoin. En effet, préviennent des militants comme Greer, les outils pourraient être encore plus dangereux lorsqu’ils fonctionnent parfaitement. La reconnaissance faciale a déjà été utilisée pour identifier, punir ou étouffer les manifestants, bien que les gens ripostent. À Hong Kong, les manifestants portaient des masques et des lunettes pour cacher leur visage à une telle surveillance policière. Aux États-Unis, les procureurs fédéraux ont abandonné les poursuites contre un manifestant identifié par reconnaissance faciale et accusé d’avoir agressé des policiers.
