Les images qui nous sont renvoyées par les moteurs de recherche et l’intelligence artificielle véhiculent un biais troublant : les femmes y apparaissent systématiquement plus jeunes que les hommes, même lorsque les données réelles ne le confirment pas. Cette représentation biaisée pourrait avoir des conséquences concrètes sur les perceptions et les opportunités professionnelles.
Une étude menée par des chercheurs de l’université de Californie à Berkeley a analysé plus d’un demi-million d’images issues de recherches Google, ainsi que des données provenant de plateformes comme ChatGPT, IMDb et Wikipédia. Les résultats sont sans appel : les femmes sont représentées dans la vingtaine, tandis que les hommes sont généralement présentés dans la quarantaine ou la cinquantaine. Cette disparité persiste même lorsque l’âge réel des personnes photographiées est connu, comme c’est le cas sur IMDb et Wikipédia.
« La tendance que nous observons dans les données ne correspond tout simplement pas à la réalité », explique Solène Delecourt, professeure adjointe à la Haas School of Business de l’UC Berkeley et co-auteure de l’étude, publiée mercredi dans la revue Nature. « La femme moyenne aux États-Unis, et même dans le monde, a une espérance de vie plus élevée. La femme moyenne est plus âgée, donc ce que nous voyons dans les images, les textes et les vidéos en ligne est faux. »
Les chercheurs ont également constaté que cette représentation biaisée influence la perception des compétences et de l’expérience professionnelle. Lorsqu’on leur demandait d’évaluer des personnes exerçant différentes professions, les participants à l’étude avaient tendance à considérer les femmes comme étant plus jeunes et moins expérimentées que leurs homologues masculins.
Ce biais ne se limite pas aux images. L’étude révèle que les textes en ligne décrivent également les femmes comme étant plus jeunes et moins expérimentées que les hommes. Douglas Guilbeault, co-auteur de l’étude et désormais professeur agrégé à Stanford, souligne que les résultats de recherche sont biaisés par nature : « Il s’agit essentiellement de vous proposer un contenu sur lequel vous êtes le plus susceptible de cliquer. Cela a tendance à être sujet aux biais, car cela finit par amplifier ce sur quoi la plupart des gens cliquent. »
Les conséquences de cette distorsion pourraient être importantes, notamment en matière d’égalité salariale. Les chercheurs ont observé que les écarts d’âge en ligne étaient plus marqués pour les postes à statut élevé et bien rémunérés, ce qui pourrait contribuer à creuser les inégalités entre les sexes.
Le problème est d’autant plus préoccupant que les données en ligne sont de plus en plus utilisées pour entraîner les systèmes d’intelligence artificielle. « Si vous recevez des données biaisées, vous reproduirez très probablement le biais », met en garde Hilke Schellmann, professeure à NYU et auteure d’un ouvrage sur les algorithmes. « Les décisions prises par ordinateur ont ce vernis d’objectivité. Le problème réside dans le fait que nous, les humains, pensons souvent que les résultats des modèles semblent objectifs, mais en réalité, si vous avez des données biaisées, vous reproduirez très probablement le biais. »
Les chercheurs soulignent que les modèles d’IA, qui consomment d’énormes quantités de données provenant d’Internet, sont inévitablement imprégnés de préjugés et de stéréotypes. « Lorsque vous commencez à traiter des données à cette échelle de la culture humaine, il est inévitable qu’elles soient semées de préjugés, de stéréotypes, de mythologies et d’illusions », explique Guilbeault. Et ces stéréotypes risquent de s’ancrer davantage à mesure que l’IA se développe et apprend des modèles précédents.
Pour aller plus loin
