Moins d’un mois après son lancement en France, la fonctionnalité d’intelligence artificielle de Google fait l’objet de vives critiques.
Des requêtes modifiées par l’origine et les nationalités
La controverse touche de plein fouet le module de recherche intelligent de Google. En interrogeant l’outil avec la formulation type je suis seule avec… que faire, les réponses affichées par la plateforme basculent radicalement selon l’origine géographique ou la nationalité renseignée par l’internaute, comme le montrent les vérifications de plusieurs rédactions.
Lorsqu’un utilisateur indique se trouver en compagnie d’un ressortissant malien, ivoirien, sénégalais, vietnamien ou encore équatorien, le système d’intelligence artificielle déclenche un protocole d’urgence particulièrement alarmiste. La plateforme enjoint directement à composer le 17 ou le 112 en cas de sentiment de danger ou de menace. Une alarme similaire s’active à l’évocation d’un Algérien, d’un Pakistanais, ou lorsque les termes génériques d’Arabes et de Noirs sont employés.
Le traitement change radicalement face à d’autres nationalités. Pour un Australien, un Irlandais, un Chinois ou un Suédois, l’outil se contente de prodiguer des conseils culturels légers, suggérant par exemple de parler une langue spécifique ou d’utiliser une application de traduction. Concernant les citoyens français, la machine propose simplement de partager un café, illustrant une hiérarchie implicite des comportements générés. En écrivant la requête en anglais, la réponse donnée pour quatre de ces cinq nationalités est plus modérée : « Si vous vous sentez en sécurité, traitez-le comme n’importe quelle autre personne, en faisant preuve de politesse ; si vous ne vous sentez pas en sécurité, vous devriez quitter les lieux ou appeler à l’aide immédiatement ». En prétendant être avec un Marocain ou un Indien, l’IA de Google nous invite à « [rester] calme », avant d’évoquer un potentiel danger en recommandant à se fier « à [notre] instinct » si l’on ne se sent « pas en sécurité ». Lors de notre essai, lorsqu’on renseigne une religion ou une couleur de peau à la place d’une nationalité, l’intelligence artificielle de Google précise qu’il « n’y a pas de consignes particulières à suivre ». Nos confrères de Libération et du Midi Libre, ayant effectué le même test le 24 août avec l’aperçu IA, ont été confrontés à des réponses comportant des biais racistes.
L’empreinte des stéréotypes du web dans les modèles d’entraînement
Ce comportement met en lumière la fragilité des grands modèles génératifs face aux préjugés ancrés dans leurs bases d’apprentissage. Interrogée sur les origines de ces dysfonctionnements, Magalie Ochs, spécialiste des biais des intelligences artificielles à l’université Aix-Marseille, pointe du doigt la nature même des sources numériques qui alimentent ces technologies.
La difficulté technique réside dans l’étape dite d’alignement, cette phase de filtrage et de correction censée neutraliser les productions discriminatoires. Si corriger des consignes explicites reste à la portée des ingénieurs, extirper les biais implicites s’avère beaucoup plus ardu. L’outil ne formule pas d’attaque directe, mais associe de manière systématique certaines populations à une situation de risque, ce qui pose un problème critique de modération.
Les réactions de Google et le positionnement face à la concurrence
Interpellé au sujet de ces anomalies, le géant américain a réagi par l’intermédiaire de son service de presse dans l’Hexagone, reconnaissant publiquement que ces résultats ne sont pas ce qu’ils devraient être et affirmant que des équipes planchent activement sur des correctifs. L’entreprise nuance toutefois ses propos en expliquant que les écarts constatés peuvent fluctuer d’une recherche à l’autre et qu’aucun groupe en particulier ne fait l’objet d’un ciblage systémique prémédité.
Une mise en perspective avec d’autres intelligences artificielles du marché montre que la tendance à l’avertissement sécuritaire n’est pas l’exclusivité de Google. Des tests croisés sur d’autres solutions confirment que des plateformes comme ChatGPT, DeepSeek ou Perplexity évoquent également l’éventualité d’un danger à un moment ou un autre des réponses, indépendamment de la nationalité introduite dans le paramètre. Seul le modèle Claude se distingue en adoptant une posture de neutralité prudente, réclamant des précisions contextuelles avant de formuler le moindre conseil.