PROVIDENCE, RI – Facebook a annoncé qu’il fermerait son système de reconnaissance faciale et supprimerait les empreintes faciales de plus d’un milliard de personnes dans un contexte d’inquiétudes croissantes concernant la technologie et son utilisation abusive par les gouvernements, la police et d’autres.
“Ce changement représentera l’un des changements les plus importants dans l’utilisation de la reconnaissance faciale dans l’histoire de la technologie”, a écrit mardi Jerome Pesenti, vice-président de l’intelligence artificielle pour la nouvelle société mère de Facebook, Meta, dans un article de blog. « Sa suppression entraînera la suppression de plus d’un milliard de modèles de reconnaissance faciale individuels de plus d’un milliard de personnes. »
Il a déclaré que la société essayait de peser les cas d’utilisation positifs de la technologie “par rapport aux préoccupations sociétales croissantes, d’autant plus que les régulateurs n’ont pas encore défini de règles claires”.
La volte-face de Facebook fait suite à quelques semaines chargées. Jeudi, il a annoncé son nouveau nom Meta pour Facebook l’entreprise, mais pas le réseau social. Le changement, a-t-il déclaré, l’aidera à se concentrer sur la création de technologies pour ce qu’il envisage comme la prochaine itération d’Internet – le “métavers”.
L’entreprise est également confrontée à sa plus grande crise de relations publiques à ce jour après que des documents divulgués par la dénonciatrice Frances Haugen ont montré qu’elle était au courant des dommages causés par ses produits et qu’elle a souvent fait peu ou rien pour les atténuer.
Plus d’un tiers des utilisateurs actifs quotidiens de Facebook ont choisi de faire reconnaître leur visage par le système du réseau social. Cela représente environ 640 millions de personnes. Mais Facebook a récemment commencé à réduire son utilisation de la reconnaissance faciale après l’avoir introduite il y a plus de dix ans.
L’entreprise a mis fin en 2019 à sa pratique consistant à utiliser un logiciel de reconnaissance faciale pour identifier les amis des utilisateurs dans les photos téléchargées et leur suggérer automatiquement de les “taguer”. Au lieu de cela, il a remplacé la suggestion de balise par un outil de reconnaissance faciale plus large, qui identifie les visages des personnes sur les photos pour diverses utilisations, pas seulement pour le marquage. La société a été poursuivie dans l’Illinois pour la fonction de suggestion d’étiquette et a accepté de payer 550 millions de dollars en conséquence.
La décision de mettre fin à l’utilisation de la reconnaissance faciale “est un bon exemple d’essayer de prendre des décisions de produits qui sont bonnes pour l’utilisateur et l’entreprise”, a déclaré Kristen Martin, professeur d’éthique technologique à l’Université de Notre Dame. Elle a ajouté que cette décision démontre également le pouvoir de la pression réglementaire, puisque le système de reconnaissance faciale fait l’objet de vives critiques depuis plus d’une décennie.
Meta Platforms Inc., la société mère de Facebook, semble envisager de nouvelles formes d’identification des personnes. Pesenti a déclaré que l’annonce de mardi impliquait “un éloignement à l’échelle de l’entreprise de ce type d’identification large et vers des formes plus étroites d’authentification personnelle”.
“La reconnaissance faciale peut être particulièrement utile lorsque la technologie fonctionne en privé sur les propres appareils d’une personne”, a-t-il écrit. “Cette méthode de reconnaissance faciale sur l’appareil, ne nécessitant aucune communication de données faciales avec un serveur externe, est le plus souvent déployée aujourd’hui dans les systèmes utilisés pour déverrouiller les smartphones.”
Les chercheurs et les militants de la protection de la vie privée ont passé des années à soulever des questions sur l’utilisation par l’industrie de la technologie des logiciels d’analyse faciale, citant des études qui ont révélé que cela fonctionnait de manière inégale au-delà des frontières de race, de sexe ou d’âge. Une préoccupation a été que la technologie peut identifier de manière incorrecte les personnes à la peau plus foncée.
Un autre problème avec la reconnaissance faciale est que pour l’utiliser, les entreprises ont dû créer des empreintes faciales uniques d’un grand nombre de personnes – souvent sans leur consentement et de manière à alimenter des systèmes de suivi des personnes, a déclaré Nathan Wessler de l’American Civil Liberties Union, qui a combattu Facebook et d’autres entreprises pour leur utilisation de la technologie.
“C’est une reconnaissance extrêmement importante que cette technologie est intrinsèquement dangereuse”, a-t-il déclaré.
Les inquiétudes ont également augmenté en raison de la prise de conscience croissante du vaste système de vidéosurveillance du gouvernement chinois, d’autant plus qu’il est utilisé dans une région abritant l’une des populations minoritaires ethniques majoritairement musulmanes de Chine.
Au moins sept États et près de deux douzaines de villes ont limité l’utilisation gouvernementale de la technologie au milieu des craintes concernant les violations des droits civils, les préjugés raciaux et l’atteinte à la vie privée. Un débat sur des interdictions supplémentaires, des limites et des exigences de déclaration a été en cours dans environ 20 capitales d’État cette session législative, selon les données compilées par l’Electronic Privacy Information Center en mai de cette année.
L’approche nouvellement prudente de Meta en matière de reconnaissance faciale fait suite aux décisions d’autres géants de la technologie américains tels qu’Amazon, Microsoft et IBM l’année dernière de mettre fin ou de suspendre leurs ventes de logiciels de reconnaissance faciale à la police, citant des inquiétudes concernant les fausses identifications et au milieu d’une prise de conscience plus large des États-Unis sur la police et l’injustice raciale.
Le bureau des sciences et de la technologie du président Joe Biden a lancé en octobre une mission d’enquête pour examiner la reconnaissance faciale et d’autres outils biométriques utilisés pour identifier les personnes ou évaluer leurs états émotionnels ou mentaux et leur caractère. Biden a également nommé un critique féroce des pratiques de reconnaissance faciale, le professeur de droit Alvaro Bedoya, au poste de commissaire de la FTC. Bedoya, qui a fondé le Center on Privacy and Technology de la Georgetown Law School, a mené des recherches révolutionnaires sur la manière dont la technologie peut discriminer les minorités et porter atteinte aux droits civils.
Bien que l’administration Biden n’ait publié aucune déclaration de politique sur la reconnaissance faciale, la nomination Bedoya suggère des inquiétudes. Bedoya était l’avocat-conseil de l’ancien sénateur du Minnesota, Al Franken, qui a convoqué en 2012 la première audience du Sénat sur les risques de l’utilisation de la reconnaissance faciale par Facebook.
Les régulateurs et législateurs européens ont également pris des mesures pour empêcher les forces de l’ordre de scanner les traits du visage dans les espaces publics, dans le cadre d’efforts plus larges visant à réglementer les applications les plus risquées de l’intelligence artificielle.
Les pratiques d’analyse faciale de Facebook ont également contribué à l’amende de 5 milliards de dollars et aux restrictions de confidentialité que la Federal Trade Commission a imposées à l’entreprise en 2019. Le règlement de Facebook avec la FTC après l’enquête d’un an de l’agence comprenait une promesse d’exiger un avis «clair et visible» avant les photos des gens. et les vidéos ont été soumises à la technologie de reconnaissance faciale.
——
Ortutay a rapporté d’Oakland, en Californie. Frank Bajak a contribué à cette histoire de Lima, au Pérou.
.
