Publié le 5 novembre 2025. Sony AI dévoile une nouvelle référence mondiale pour évaluer l’équité des systèmes de vision par ordinateur, en mettant l’accent sur la diversité des données et le consentement éclairé des participants.
- Le Benchmark d’image équitable et centré sur l’humain (FHIBE) est le premier ensemble de données accessible au public, collecté de manière consensuelle et diversifié à l’échelle mondiale.
- Cette initiative vise à corriger les biais présents dans les données d’entraînement des IA, qui peuvent conduire à des performances inégales selon les groupes démographiques.
- Les résultats de la recherche, publiés dans la revue Nature, confirment des biais connus et en identifient de nouveaux, notamment liés aux coiffures et aux stéréotypes professionnels.
Sony AI a annoncé aujourd’hui la mise à disposition publique de FHIBE, un ensemble de données révolutionnaire conçu pour évaluer l’équité des modèles de vision par ordinateur. Cette avancée intervient alors que ces technologies, omniprésentes dans des applications allant des smartphones aux véhicules autonomes, sont de plus en plus scrutées pour leurs potentiels biais et leurs implications éthiques.
FHIBE se distingue par son approche rigoureuse en matière de collecte de données. Contrairement aux ensembles de données existants, souvent lacunaires en termes de diversité et collectés sans le consentement des personnes concernées, FHIBE a été constitué avec l’accord explicite de 1 981 participants uniques, issus de plus de 81 pays. L’ensemble de données comprend 10 318 images annotées avec précision, incluant des informations démographiques, physiques, environnementales et relatives aux paramètres de la caméra.
« FHIBE est la preuve qu’il est possible d’intégrer des pratiques équitables et responsables dans le développement de l’IA lorsque l’éthique est une priorité », a déclaré Alice Xiang, responsable mondiale de la gouvernance de l’IA chez Sony Group Corporation et chercheuse scientifique principale pour l’Éthique de l’IA chez Sony AI.
« L’IA évolue rapidement et il est impératif d’étudier les implications éthiques de la manière dont nous collectons et utilisons les données. Pendant trop longtemps, l’industrie s’est appuyée sur des ensembles de données qui manquent de diversité, renforcent les préjugés et sont collectées sans le consentement approprié. »
Alice Xiang, responsable mondiale de la gouvernance de l’IA chez Sony Group Corporation
La recherche publiée dans Nature, intitulée « Fair and Human-Centric Image Dataset for Ethical AI Benchmarking », démontre la capacité de FHIBE à identifier et à quantifier les biais dans les modèles de vision par ordinateur, tant traditionnels que génératifs. L’étude a notamment révélé que certains modèles présentent une précision moindre pour les personnes utilisant les pronoms « elle/elle/la sienne », une disparité qui peut être attribuée à une plus grande variabilité des coiffures. De plus, FHIBE a mis en évidence la tendance de certains modèles à renforcer les stéréotypes professionnels lorsqu’on leur pose des questions neutres.
Sony AI s’engage à maintenir l’intégrité et la diversité de FHIBE sur le long terme. Les participants conservent le contrôle de leurs données et peuvent retirer leur consentement à tout moment, sans affecter la rémunération qu’ils ont reçue pour leur contribution. Les images retirées seront supprimées et, dans la mesure du possible, remplacées afin de garantir que FHIBE reste une référence à jour et représentative.
« Sony AI ouvre la voie en matière de recherche sur l’éthique de l’IA, en se concentrant sur la création de technologies équitables, transparentes et responsables qui protègent les intérêts des utilisateurs, des créateurs et de tous les acteurs de la communauté mondiale des données », a affirmé Michael Spranger, président de Sony AI. En savoir plus sur Sony AI.
Des informations détaillées sur le projet FHIBE et un accès à l’ensemble de données sont disponibles sur https://fairnessbenchmark.ai.sony/. Un court métrage présentant le développement de FHIBE est également accessible ici.