Cinq jours après La Russie a lancé son invasion à grande échelle de l’Ukraine, il y a un an cette semaine, la société américaine de reconnaissance faciale Clearview AI a offert au gouvernement ukrainien un accès gratuit à sa technologie, suggérant qu’elle pourrait être utilisée pour réunir des familles, identifier des agents russes et combattre désinformation. Peu de temps après, le gouvernement ukrainien a révélé qu’il utilisait la technologie pour scanner les visages des soldats russes morts afin d’identifier leurs corps et d’informer leurs familles. En décembre 2022, Mykhailo Fedorov, vice-Premier ministre ukrainien et ministre de la transformation numérique, était tweeter une photo de lui avec le PDG de Clearview AI, Hoan Ton-That, remerciant l’entreprise pour son soutien.
Rendre compte des morts et informer les familles du sort de leurs proches est un impératif des droits de l’homme inscrit dans les traités, protocoles et lois internationaux tels que les Conventions de Genève et les Principes directeurs du Comité international de la Croix-Rouge (CICR) pour une gestion digne de la population. Mort. Elle est également liée à des obligations beaucoup plus profondes. Prendre soin des morts fait partie des pratiques humaines les plus anciennes, celle qui nous rend humains, au même titre que le langage et la capacité d’autoréflexion. L’historien Thomas Laqueur, dans sa méditation épique, Le travail des morts, écrit que “aussi loin que les gens ont discuté du sujet, le soin des morts a été considéré comme fondamental – de la religion, du régime, du clan, de la tribu, de la capacité de faire le deuil, d’une compréhension de la finitude de la vie, de la civilisation elle-même. Mais l’identification des morts à l’aide de la technologie de reconnaissance faciale utilise le poids moral de ce type de soins pour autoriser une technologie qui soulève de graves préoccupations en matière de droits humains.
En Ukraine, le guerre la plus sanglante en Europe depuis la Seconde Guerre mondiale, la reconnaissance faciale peut sembler n’être qu’un outil de plus apporté à la sombre tâche d’identifier les morts, ainsi que de numériser les registres de la morgue, les laboratoires mobiles d’ADN et l’exhumation des fosses communes.
Mais est-ce que ça marche ? Ton-That dit que la technologie de son entreprise “fonctionne efficacement indépendamment des dommages faciaux qui ont pu survenir à une personne décédée”. Il y a peu de recherches pour étayer cette affirmation, mais les auteurs d’une petite étude ont trouvé des résultats “prometteurs” même pour les visages en état de décomposition. Cependant, l’anthropologue médico-légal Luis Fondebrider, ancien chef des services médico-légaux du CICR, qui a travaillé dans des zones de conflit à travers le monde, met en doute ces affirmations. « Cette technologie manque de crédibilité scientifique », dit-il. “Ce n’est absolument pas largement accepté par la communauté médico-légale.” (L’identification ADN reste l’étalon-or.) Le domaine de la médecine légale “comprend la technologie et l’importance des nouveaux développements”, mais la ruée vers l’utilisation de la reconnaissance faciale est “une combinaison de politique et d’affaires avec très peu de science”, selon Fondebrider. “Il n’y a pas de solutions magiques pour l’identification”, dit-il.
L’utilisation d’une technologie non éprouvée pour identifier les soldats tombés au combat pourrait conduire à des erreurs et traumatiser les familles. Mais même si l’utilisation médico-légale de la technologie de reconnaissance faciale était étayée par des preuves scientifiques, elle ne devrait pas être utilisée pour nommer les morts. C’est trop dangereux pour les vivants.
Des organisations telles qu’Amnesty International, l’Electronic Frontier Foundation, le Surveillance Technology Oversight Project et le Immigrant Defense Project ont déclaré que la technologie de reconnaissance faciale est une forme de surveillance de masse qui menace la vie privée, amplifie la police raciste, menace le droit de manifester et peut conduire à des arrêter. Damini Satija, responsable du Algorithmic Accountability Lab d’Amnesty International et directrice adjointe d’Amnesty Tech, affirme que la technologie de reconnaissance faciale porte atteinte aux droits humains en “reproduisant une discrimination structurelle à grande échelle et en automatisant et enracinant les inégalités sociétales existantes”. En Russie, la technologie de reconnaissance faciale est utilisée pour étouffer la dissidence politique. Il ne respecte pas les normes juridiques et éthiques lorsqu’il est utilisé dans l’application de la loi au Royaume-Uni et aux États-Unis, et est utilisé comme arme contre les communautés marginalisées du monde entier.
Clearview AI, qui vend principalement ses marchandises à la police, possède l’une des plus grandes bases de données connues de photos faciales, avec 20 milliards d’images, avec des plans pour collecter 100 milliards d’images supplémentaires, soit l’équivalent de 14 photos pour chaque personne sur la planète. La société a promis aux investisseurs que bientôt “presque tout le monde dans le monde sera identifiable”. Les régulateurs en Italie, en Australie, au Royaume-Uni et en France ont déclaré la base de données de Clearview illégale et ont ordonné à la société de supprimer les photos de leurs citoyens. Dans l’UE, Reclaim Your Face, une coalition de plus de 40 organisations de la société civile, a appelé à une interdiction complète de la technologie de reconnaissance faciale.
Chercheur en éthique de l’IA Stephanie Hare dit que l’Ukraine “utilise un outil et fait la promotion d’une entreprise et d’un PDG qui se sont non seulement comportés de manière contraire à l’éthique, mais illégalement”. Elle conjecture qu’il s’agit d’un cas où « la fin justifie les moyens », mais demande : « Pourquoi est-il si important que l’Ukraine soit capable d’identifier les soldats russes morts à l’aide de Clearview AI ? En quoi est-ce essentiel pour défendre l’Ukraine ou gagner la guerre ? »
