Facebook ne parvient pas non plus à rediriger les utilisateurs à la recherche de termes haineux vers des sites Web faisant la promotion de la tolérance.
Facebook ne parvient pas non plus à rediriger les utilisateurs à la recherche de termes haineux vers des sites Web faisant la promotion de la tolérance.
Facebook, propriété de Meta, n’a pas réussi à éliminer les groupes haineux suprémacistes blancs de sa plate-forme malgré l’assurance aux utilisateurs qu’il les interdirait, a révélé une enquête la semaine dernière. La plate-forme génère également des revenus publicitaires de ces groupes, selon le projet The Tech Transparency (TPP), une initiative de recherche de Campaign for Accountability, une organisation de surveillance à but non lucratif.
(Inscrivez-vous à notre newsletter sur la technologie, Today’s Cache, pour obtenir des informations sur les thèmes émergents à l’intersection de la technologie, des affaires et de la politique. Cliquez ici pour vous abonner gratuitement.)
En réponse à un audit des droits civiques qui critiquait l’approche de Facebook sur les questions de justice raciale, la plateforme a déclaré en novembre dernier qu’elle avait pris des mesures pour interdire “les groupes haineux organisés, y compris les organisations suprémacistes blanches, de la plateforme”.
Cependant, le TRP a découvert que plus de 80 groupes suprématistes blancs sont présents sur Facebook, dont certains que Facebook lui-même a qualifiés d'”organisations dangereuses”.
L’équipe a recherché sur Facebook 226 organisations dans leurs ensembles de données pour vérifier si les recherches étaient monétisées avec des publicités. Ils ont constaté que Facebook diffusait des publicités dans plus de 40 % des recherches de groupes suprématistes blancs.
Les publicités apparaissant dans ces recherches allaient de la Coast Guard Foundation à des détaillants comme Poshmark et Walmart, des marques qui ne veulent probablement pas être associées à la suprématie blanche.
Les recherches de certains groupes suprémacistes blancs, y compris ceux portant le nom «Ku Klux Klan», ont montré des publicités pour des églises noires, ce qui fait craindre que Facebook ne mette en évidence des cibles potentielles pour les extrémistes, selon la recherche.
Les États-Unis ont connu une série de fusillades de masse à motivation raciale ces dernières années. En 2015, le suprémaciste blanc Dylann Roof a tué neuf membres noirs d’une église à Charleston, en Caroline du Sud. Plus récemment, un tireur de Buffalo, New York, a fait des recherches en ligne sur les communautés noires pour identifier des cibles, avant d’en tuer 10 dans un supermarché.
TTP a également constaté que Google diffusait des annonces sur certaines recherches pour le même ensemble de 226 organisations suprémacistes blanches, mais à un taux beaucoup plus faible de 12 %. Le taux de monétisation de Facebook est plus de trois fois plus élevé.
L’enquête a également révélé que malgré des années d’avertissements selon lesquels les outils algorithmiques de Facebook poussent les utilisateurs vers l’extrémisme, la plate-forme continue de générer automatiquement des pages pour les organisations de la suprématie blanche et de diriger les utilisateurs qui visitent les pages de la suprématie blanche vers d’autres contenus extrémistes.
Facebook ne parvient pas non plus à rediriger les utilisateurs à la recherche de termes haineux vers des sites Web faisant la promotion de la tolérance.
