Clearview AI a révélé cette semaine avoir offert au gouvernement ukrainien un accès gratuit à la technologie de reconnaissance faciale de l’entreprise (intelligence artificielle), potentiellement pour découvrir les assaillants russes, identifier les réfugiés, combattre la désinformation et identifier les morts.
La nouvelle survient des semaines après l’invasion russe de l’Ukraine et a été partagée en exclusivité avec l’agence de presse Reuters. Ces cas d’utilisation potentiels pour le ministère ukrainien de la Défense ont de nouveau mis en lumière la technologie de reconnaissance faciale qui a été critiquée pour son potentiel d’utilisation abusive et de violation de la vie privée. Ce sont toutes des considérations importantes que les DSI et les responsables informatiques doivent prendre en compte lorsqu’ils envisagent l’utilisation de la reconnaissance faciale, des logiciels d’IA ou de toute donnée personnelle nécessitant de solides pratiques de gouvernance et de conformité.
Dans de nombreuses juridictions, il est nécessaire d’obtenir l’autorisation du propriétaire de l’image avant de pouvoir l’utiliser. Clearview AI a construit sa base de données d’images en grattant les plateformes de médias sociaux telles que Facebook, Twitter et LinkedIn, sans jamais donner aux individus la possibilité de se retirer de leur base de données.
Les cas d’utilisation positifs
Il existe de nombreux cas d’utilisation potentiellement positifs pour la technologie de reconnaissance faciale, des fonctionnalités de déverrouillage du visage déjà disponibles sur votre téléphone intelligent à la recherche d’enfants disparus, en passant par les futurs cas d’utilisation qui ajoutent de la commodité, comme l’identification de votre visage (pas besoin de votre passeport ou permis de conduire) lors de votre enregistrement dans un aéroport.
“Pourquoi avez-vous besoin de passeports, par exemple”, demande Sagar Shah, spécialiste de l’éthique de l’IA et partenaire client chez Fractal.ai. “Vous venez d’entrer dans l’aéroport et le système sait automatiquement qui est chaque personne. Toutes les protections de sécurité et les rayons X sont automatisés.
Mais tout système contenant les informations personnelles de millions de personnes peut également faire l’objet d’abus.
Le problème avec Clearview
L’IA de reconnaissance faciale a été difficile ces dernières années, car des militants ont accusé les gouvernements et d’autres organisations d’utiliser la technologie à mauvais escient. Les critiques de la technologie ont cité de multiples préoccupations allant des performances défectueuses dans la reconnaissance des personnes à la peau plus foncée en raison de données de formation et d’algorithmes biaisés, aux problèmes de confidentialité qui surgissent lorsque les caméras du monde entier peuvent reconnaître votre visage. Ces préoccupations ont conduit des géants de la technologie tels qu’IBM, Amazon et Microsoft à interdire la vente de leur logiciel de reconnaissance faciale aux forces de l’ordre.
En novembre, le parent de Facebook, Meta, est allé plus loin en fermant son système de reconnaissance faciale et en supprimant les modèles de reconnaissance faciale individuels de plus d’un milliard de personnes. Mais il s’agissait peut-être de fermer la porte de la grange après que le cheval se soit déjà échappé.
Parmi les problèmes dans le cas de Clearview AI, il y a la façon dont il a construit sa base de données d’images – en grattant celles publiées sur les plateformes de médias sociaux, notamment Facebook, Twitter, LinkedIn et YouTube. Ces entreprises de médias sociaux ont pris des mesures pour mettre fin à la pratique de Clearview, mais l’entreprise a toujours toutes les images qu’elle a extraites de ces sites. Le bureau du commissaire à l’information du Royaume-Uni a infligé une amende de 17 millions de livres sterling à Clearview AI pour avoir enfreint les lois britanniques sur la protection des données, alléguant que l’entreprise n’avait pas informé les citoyens qu’elle collectait leurs photos.
Clearview AI vend toujours son logiciel de reconnaissance faciale aux forces de l’ordre et célèbre les cas d’utilisation des forces de l’ordre sur son site Web.
Le fondateur de Clearview AI a déclaré à Reuters que la base de données de son entreprise comprenait également plus de 2 milliards d’images du service de médias sociaux russe VKontakte, ce qui pourrait être utile dans les applications du gouvernement ukrainien. Il a déclaré à Reuters qu’il n’avait pas proposé la technologie à la Russie.
Natalia Modjeska, directrice de recherche d’Omdia pour l’IA et l’automatisation intelligente, a déclaré que la décision de fournir ce logiciel à l’Ukraine pourrait être une tentative de Clearview AI de réhabiliter sa réputation en capitalisant sur la crise ukrainienne avec des relations publiques positives.
On ne sait pas si l’Ukraine utilisera Clearview, selon le rapport de Reuters, qui a également noté que le ministère ukrainien de la transformation numérique avait précédemment déclaré qu’il envisageait des offres de technologie de sociétés d’IA basées aux États-Unis comme Clearview.
Même s’il peut y avoir des cas d’utilisation positifs, les logiciels de reconnaissance faciale peuvent être utilisés en violation des droits de l’homme. Shah de Fractal.ai souligne l’exemple de Hong Kong il y a quelques années lorsque la Chine utilisait un logiciel de reconnaissance faciale pour identifier les manifestants.
“Ils l’ont utilisé pour comprendre, oh, ce type proteste, envoyons la police chez lui”, dit Shah.
Que lire ensuite :
Les géants de la technologie renoncent à vendre l’IA de reconnaissance faciale à la police
Facebook arrête la reconnaissance faciale
Le problème avec la reconnaissance faciale de l’IA
