xénophobie

Publié le 9 octobre 2025 14:37:00. L’acteur argentin Osqui Guzmán a été victime d’une agression par un policier municipal à Buenos Aires, un incident qui relance le débat sur l’utilisation controversée de la reconnaissance faciale et de l’intelligence artificielle dans le maintien de l’ordre.

• Un acteur argentin a été agressé par un policier qui prétend l’avoir reconnu grâce à un système de reconnaissance faciale.
• Le gouvernement de Buenos Aires a ouvert une enquête interne, tandis que la police municipale affirme que le système en question n’est plus opérationnel.
• L’affaire soulève des inquiétudes quant à l’utilisation croissante de l’IA et de la reconnaissance faciale, et à leurs potentiels biais et impacts sur les libertés individuelles.

L’incident survenu mercredi dernier dans le centre de Buenos Aires pourrait bien être le prélude à une dystopie digne des séries les plus sombres. Osqui Guzmán, acteur argentin, venait de quitter une chaîne de télévision après une interview concernant la reprise de la pièce de théâtre à succès El Bulubú lorsqu’il a été violemment intercepté dans le métro, à la station Dorrego. Selon son témoignage, un agent de la police municipale l’a reconnu, l’a frappé à la tête avec une matraque et lui a lancé des accusations infondées :

« L’algorithme t’a reconnu. Tu es un idiot. Qu’en penses-tu, je ne te connais pas ? »

Agent de la police municipale

Malgré les tentatives de l’acteur pour expliquer son erreur, le policier a insisté sur sa prétendue reconnaissance, affirmant connaître ses antécédents judiciaires et lui demandant même s’il était péruvien.

La plainte déposée par Guzmán sur les réseaux sociaux a rapidement fait le tour du web, suscitant une vague d’indignation et un large soutien à l’artiste. Face à cette levée de boucliers, le gouvernement de Buenos Aires a annoncé l’ouverture d’une enquête interne au sein du ministère de la Sécurité afin de déterminer les responsabilités. Le chef du bureau des affaires intérieures de la police municipale a également pris contact avec Guzmán pour recueillir sa déposition.

Cependant, la police municipale a précisé que le système de reconnaissance faciale évoqué par l’agent n’était plus opérationnel depuis plusieurs années, son utilisation ayant été suspendue en raison d’une décision de justice. Il n’existe donc, selon les autorités, aucun algorithme ou système en place permettant d’identifier et d’arrêter des suspects.

L’affaire Guzmán, bien que spécifique, met en lumière une question plus large : celle de l’utilisation de technologies de reconnaissance faciale basées sur l’intelligence artificielle (IA) et de leurs implications pour les libertés publiques. Les progrès rapides de l’IA, souvent présentés comme une promesse d’efficacité et d’amélioration de la qualité de vie, peuvent également éroder la démocratie, les droits civiques et les libertés, renforcer les préjugés et nuire aux populations vulnérables.

Ces pratiques ne relèvent ni de l’erreur, ni d’une simple méconnaissance des outils numériques. Elles sont la conséquence de politiques et de discours qui encouragent l’utilisation de systèmes de reconnaissance faciale comme pilier de la sécurité et de la lutte contre la criminalité. Sous couvert de prévention, des mécanismes de contrôle social et de surveillance sont mis en place, avec des conséquences potentiellement graves : atteinte à la vie privée, discrimination algorithmique, abus de pouvoir, erreurs d’identification et surveillance excessive des droits fondamentaux.

Le protocole de vidéosurveillance en Argentine

En Argentine, le gouvernement national a officialisé en novembre 2024, par la résolution 1234/2024, le « Protocole unifié pour la reconnaissance et la comparaison faciales », promu par le ministère de la Sécurité dirigé par Patricia Bullrich. Ce texte, publié au Journal officiel, rend obligatoire l’utilisation de cette technologie par la police et les forces de sécurité fédérales, dans le but déclaré d’identifier des individus et de comparer leurs visages avec des bases de données de fugitifs. Le protocole invite également les provinces et la ville de Buenos Aires à l’adopter afin d’harmoniser les critères de surveillance faciale sur l’ensemble du territoire.

La résolution indique que le système s’inspire des « bonnes pratiques internationales », notamment du Manuel des meilleures pratiques pour la comparaison des images faciales du Réseau européen des instituts des sciences médico-légales (ENFSI). Cependant, le protocole lui-même et ses annexes ont été classifiés confidentiels, contredisant ainsi toute prétention à la transparence. L’État protège ainsi l’algorithme et empêche tout contrôle citoyen ou judiciaire sur l’origine des informations ou son fonctionnement. Ce qui se présente comme un outil scientifique et objectif devient en réalité une technologie opaque au service du contrôle social.

Ces mesures permettent à l’État de suivre les visages, d’analyser les comportements, d’identifier les personnes et de prédire les actions dans les espaces publics grâce à des caméras et des algorithmes, consolidant ainsi une infrastructure de surveillance de masse sans précédent. Dans un pays où la police a toujours fait preuve d’arbitraire dans ses contrôles, en fonction de la couleur de peau, de la classe sociale, des vêtements ou du lieu de résidence, la reconnaissance faciale ne corrige pas cette situation, mais finit par l’institutionnaliser. Sous couvert de modernisation, le gouvernement national et celui de Buenos Aires promeuvent un modèle de sécurité combinant répression et automatisation, où l’IA joue un rôle central : celui d’un dispositif « technique et objectif » légitimant la répression. Ces technologies ne sont ni neutres, ni infaillibles, et leur mise en œuvre ne peut être acceptée sans un contrôle démocratique.

L’automatisation du soupçon

Alors que l’intelligence artificielle est présentée comme l’avenir, son application concrète renvoie au passé : des corps contrôlés, des droits restreints, des inégalités codifiées. Comme le prévient Shoshana Zuboff dans The Age of Surveillance Capitalism (2019), l’instrumentation numérique traduit l’expérience humaine en données comportementales qui peuvent être utilisées pour contrôler les populations :

« Nos vies ont été transférées unilatéralement, déjà traduites en données, et elles nous ont été expropriées pour être reconverties en moyens de nouvelles formes de contrôle social, tout cela au service des intérêts d’autrui et sans aucune connaissance de notre part ni aucun instrument efficace pour les combattre. »

Shoshana Zuboff

Selon cette logique, la reconnaissance faciale est un instrument qui produit des subjectivités surveillées. Elle n’est pas utilisée pour protéger, mais pour façonner les comportements, renforcer les hiérarchies et fixer les limites de ce qui est acceptable.

Le discours de la technologie neutre

L’IA comme autorité ultime, comme critère de vérité absolue pour étayer une accusation basée uniquement sur une lecture technologique du visage, des traits ou de la couleur de peau, ouvre le débat sur la notion de neutralité. Ce qui était auparavant imputable à l’intuition, aux préjugés ou aux peurs humaines est désormais légitimé comme une donnée utile et « neutre » pour un modèle politique qui exige la rationalisation et l’orientation de la violence vers certains secteurs.

Tous les systèmes d’intelligence artificielle sont créés, formés et mis en œuvre par des personnes ayant leur propre vision du monde et des préjugés acquis au cours de leur vie, dans des contextes historiques et sociaux spécifiques. Et, de manière générale, ceux qui dominent l’univers de l’IA sont toujours les mêmes : des hommes, des Blancs, des universitaires et des Occidentaux. Mais le pouvoir de leur légitimation et de leur acceptation repose sur leur invisibilité, leur fétichisation et la puissance humaine derrière la technologie, ce qui rend difficile la demande de comptes et d’explications.

Plusieurs études confirment et alertent sur les biais présents dans des systèmes dont les prédictions profitent systématiquement à certains groupes d’individus par rapport à d’autres, entraînant ainsi des injustices institutionnalisées. Dans l’étude « Gender Shades » (MIT, 2018), Joy Buolamwini et Timnit Gebru ont démontré que les systèmes commerciaux de reconnaissance faciale échouent jusqu’à 30 % plus souvent à identifier les visages des femmes et des personnes à la peau foncée, et tendent à perpétuer, voire à aggraver les inégalités existantes. Ces erreurs ne sont pas des anomalies et les algorithmes ne sont pas volontairement racistes. Elles sont le produit des données, c’est-à-dire de la matière première avec laquelle l’IA se nourrit et apprend, qui sont généralement des bases de données colonisées par des visages blancs, masculins et occidentaux. Les biais font alors de l’IA un instrument imprécis et erroné pour quiconque ne rentre pas dans cet archétype réduit.

En Amérique latine, ces erreurs sont devenues structurelles et les systèmes de reconnaissance faciale ont été mis en œuvre sans évaluations d’impact et avec des bases policières historiquement biaisées. Le processus d’apprentissage est simple : il s’agit d’associer certaines caractéristiques ou modèles des données à des étiquettes telles que « suspect », « criminel », « dangereux ». Autrement dit, les données sont analysées à la recherche de modèles distinctifs permettant de séparer la population sûre des sujets suspects. Le problème est que ces systèmes ne fonctionnent pas de la même manière pour tout le monde et, dans des contextes d’inégalités comme ceux de la région, finissent par reproduire le même schéma de contrôle sur les corps racialisés, appauvris ou dissidents. Au Brésil, par exemple, la population la plus touchée est celle des hommes d’ascendance africaine, qui sont les plus souvent identifiés par erreur ; tandis qu’en Argentine, en 2022, la juge Elena Liberatori a déclaré « inconstitutionnel » et suspendu le système de reconnaissance faciale de Buenos Aires pour les fugitifs, suite à une action collective promue par des organisations de défense des droits de l’homme, en raison de graves irrégularités, de faux positifs et du scan de millions de visages sans autorisation judiciaire.

L’utilisation de l’IA est le symptôme d’un modèle de surveillance en construction qui, soutenu par le fétichisme technologique, instaure un nouveau régime de vérité qui s’impose à nous comme une puissance étrangère et écrasante, tout en reproduisant les inégalités structurelles sous la promesse de la sécurité. Il ne s’agit pas de rejeter l’innovation technologique, la question sous-jacente est politique et humaine : à quoi et pour qui l’intelligence artificielle est-elle utilisée. Car si l’algorithme décide qui surveiller, détenir ou battre, ce sont les droits humains les plus fondamentaux qui constituent la démocratie elle-même qui sont en jeu.