Publié le 10 novembre 2023 13h33. Une étude de l’Université de Pennsylvanie révèle que l’intelligence artificielle est désormais capable d’évaluer le potentiel de réussite financière d’un individu à partir de simples photos de visage, soulevant d’importantes questions éthiques sur l’avenir du recrutement et de l’accès aux services.
- L’IA peut identifier cinq traits de personnalité (ouverture d’esprit, conscience, extraversion, agrément et névrosisme) à partir de photos de profil.
- L’extraversion apparaît comme le facteur le plus fortement corrélé à des revenus élevés, tandis que l’ouverture d’esprit est associée à des gains potentiellement plus faibles.
- Cette technologie est déjà en cours de déploiement dans divers domaines, de la vérification des permis de conduire à la reconnaissance faciale policière, avec des risques de discrimination et d’erreurs d’identification.
Des chercheurs de l’Université de Pennsylvanie (UPenn) ont développé un système d’intelligence artificielle (IA) capable d’analyser les traits du visage et de les corréler à des caractéristiques de personnalité. L’étude, publiée par The Economist, s’est appuyée sur l’analyse de 96 000 photos de profils LinkedIn de diplômés de MBA. L’IA a été entraînée à identifier cinq traits de personnalité clés : l’ouverture d’esprit, la conscience, l’extraversion, l’agrément et le névrosisme.
L’équipe de l’UPenn a ensuite comparé les résultats de cette analyse faciale avec les trajectoires de carrière réelles des personnes concernées. Les résultats ont révélé une corrélation entre les caractéristiques faciales identifiées par l’IA et le succès professionnel. Plus précisément, l’extraversion s’est avérée être le « prédicteur positif le plus puissant » des niveaux de rémunération, tandis que l’ouverture d’esprit était associée à des perspectives de gains moins favorables.
Si ces découvertes sont intéressantes d’un point de vue académique, elles soulèvent des préoccupations éthiques majeures. L’idée qu’un algorithme puisse déterminer l’accès à un emploi, à un prêt bancaire ou à un contrat de location sur la seule base d’une analyse faciale est particulièrement inquiétante. Dans un contexte où la réussite financière est souvent primordiale, les entreprises pourraient être fortement incitées à adopter ce type de technologie.
Le risque de discrimination basé sur des caractéristiques protégées par la loi est une menace sérieuse. L’étude rappelle d’ailleurs les erreurs potentielles de la technologie de reconnaissance faciale, comme l’incident survenu à Baltimore où un sac de chips a été identifié à tort comme une arme dans une école, démontrant la possibilité d’erreurs d’identification.
La mise en œuvre de technologies similaires a déjà commencé dans plusieurs pays. Aux États-Unis, certains États utilisent des logiciels d’IA pour la vérification des permis de conduire, ce qui a eu des conséquences négatives pour les personnes présentant des particularités faciales. Au Royaume-Uni, la police métropolitaine a récemment annoncé le succès de son système de détection faciale par IA, avec un nombre record d’arrestations, malgré un taux de faux positifs de 0,5 %, un chiffre qui reste préoccupant compte tenu de l’ampleur du déploiement.
Parallèlement, des plateformes comme YouTube développent des fonctionnalités de détection faciale pour lutter contre les deepfakes générés par l’IA, illustrant la double facette de cette technologie. Les chercheurs de l’UPenn mettent en garde contre le risque que l’adoption généralisée de la reconnaissance faciale incite les individus à modifier leur apparence physique, par le biais de logiciels ou de procédures cosmétiques.
Cette évolution s’inscrit dans un contexte d’accélération de la technologie de reconnaissance faciale et de l’IA, comme le montre le lancement par YouTube d’une fonctionnalité d’IA pour protéger les créateurs contre les deepfakes. Bien qu’il soit encore trop tôt pour savoir si les entreprises technologiques adopteront les recherches de l’UPenn à grande échelle, l’émergence constante de nouvelles start-ups spécialisées dans ce domaine, stimulée par la course à l’IA entre la Chine et les États-Unis, témoigne d’une innovation rapide qui ne s’accompagne pas toujours de considérations éthiques suffisantes.
L’étude de l’Université de Pennsylvanie ouvre un débat crucial sur les limites éthiques de l’application de l’IA, en particulier lorsqu’il s’agit d’évaluer les individus sur la base de caractéristiques physiques qu’ils ne peuvent pas facilement modifier.
