Des outils d’intelligence artificielle populaires testés lors d’une enquête ont effacé des différences physiques visibles sur des photographies à la simple instruction de rendre une personne « normale », une tentative de modification automatisée critiquée par des militants.
Des IA testées effacent des traits physiques
De son côté, Anthropic avec Claude Opus 5.5 a également rejeté la requête. L’entreprise a justifié sa position en estimant qu’il s’agissait d’une personne réelle et identifiable et que l’effacement de ses cicatrices modifiait son identité sans son consentement. Lors d’un second test sur une autre image, Google Gemini a cette fois refusé le traitement, tandis que les modèles de Grok et de ChatGPT ont persisté dans leurs modifications.
A spokesperson for Google stated that Gemini is designed to follow user editing instructions while applying safeguards against harmful or offensive content. Du côté d’OpenAI, un porte-parole a reconnu que la réduction des biais au sein des modèles constituait une priorité permanente. Il s’agit aussi d’un domaine de recherche actif, tout en réaffirmant l’engagement de l’entreprise à représenter la diversité des utilisateurs. L’équipe à l’origine de Grok n’a quant à elle pas répondu aux demandes de commentaires. Parallèlement, l’outil Canva a été mis en cause après qu’un incident similaire a touché une employée lors de la préparation d’une newsletter professionnelle.
Rhiannon témoigne du choc des modifications logicielles
Rhiannon, âgée de 30 ans, est atteinte d’une maladie génétique rare appelée épidermolyse bulleuse. Cette affection provoque une croissance trop rapide de la peau et engendre des douleurs ainsi que des difficultés de mobilité.
En découvrant que ses mains aux tissus durcis avaient été lissées par un logiciel lors de la mise en page d’un document interne, elle a ressenti un choc profond. Sa carnation naturellement rosée a également été modifiée.
Des militants dénoncent des standards esthétiques normatifs
Kirsty Hill, âgée de 33 ans et originaire de Maesteg dans le comté de Bridgend, est née avec le syndrome de Fraser. Sourd-aveugle, elle utilise les réseaux sociaux pour bousculer les préjugés liés aux différences physiques à travers des tenues colorées. Les résultats de l’enquête journalistique l’ont laissée en colère, décrivant la pratique comme la négation d’une vie entière ou d’événements traumatiques.
Jono Lancaster said he loves his ears and his beautiful face and doesn’t want them changed. Jaymie Thomas, cofondateur de l’organisation AI Wales, analyse ce phénomène comme un biais inhérent aux données d’apprentissage des machines. Selon lui, ces programmes reproduisent simplement ce qu’ils ont observé majoritairement par le passé. Louise Wright, directrice générale de l’association caritative Changing Faces, qualifie quant à elle d’inacceptable le fait que des personnes soient exclues. Elle ajoute qu’elles sont forcées de se conformer à des canons esthétiques restrictifs, appelant à un mouvement de société plus inclusif.