Publié le 24 septembre 2024. Une enquête révèle qu’Instagram, le réseau social de Meta, promeut activement des contenus extrémistes, antisémites et racistes via son système de recommandation, permettant à des vendeurs de marchandises haineuses de générer des revenus considérables.
- Instagram est accusé de recommander directement à ses utilisateurs des comptes vendant des produits liés à l’extrémisme et à la haine.
- Ces comptes ont accumulé 1,5 milliard de vues et généré un chiffre d’affaires estimé à 1,3 million de dollars (environ 1,2 million d’euros).
- L’étude met en évidence une augmentation de 375 % de la visibilité des contenus haineux suite à des assouplissements des politiques de modération de Meta.
Le Centre de lutte contre la haine numérique (CCDH), en partenariat avec les Fédérations juives d’Amérique du Nord (JFNA), a publié un rapport accablant intitulé « Hate for Sale : Comment Instagram aide les vendeurs de marchandises haineuses à atteindre un milliard de vues ». L’enquête démontre que l’algorithme d’Instagram ne se contente pas de tolérer, mais encourage activement la diffusion de contenus promouvant l’antisémitisme, le racisme et l’idéologie nazie.
Le rapport détaille des exemples de contenus particulièrement choquants, incluant des messages glorifiant les nazis, niant l’Holocauste, diabolisant le peuple juif, se moquant de la mort de George Floyd, ou encore des plaisanteries macabres sur l’esclavage. Des articles tels que des T-shirts portant des slogans racistes, comme « La vie est une race. Soyez raciste », sont également mis en vente et activement promus par le réseau social.
L’étude souligne également l’essor de contenus haineux générés par l’intelligence artificielle, que Meta semble incapable de détecter et de signaler de manière systématique. Deux comptes, en particulier, ont réalisé des ventes considérables, générant respectivement 839 700 $ (environ 785 000 €) et 499 750 $ (environ 467 000 €) de revenus. Ces boutiques en ligne étaient hébergées sur des plateformes de commerce électronique populaires telles que Shopify, Wix et Payhip.
Suite à la publication du rapport et à l’alerte du CCDH, Wix et Payhip ont retiré les produits incriminés de leurs plateformes. La réaction de Shopify n’a pas été précisée dans le rapport.
« Instagram aide les extrémistes à gagner de l’argent grâce à l’antisémitisme et au racisme. En retirant des garanties essentielles, Meta a permis à la haine de prospérer. »
Imran Ahmed, PDG du CCDH
« Les médias sociaux ont joué un rôle démesuré dans la propagation de la haine et de l’antisémitisme… Ce rapport est un rappel important que les entreprises de médias sociaux peuvent et doivent faire beaucoup plus pour faire respecter leurs règles et assurer la sécurité de nos communautés. »
Eric D. Fingerhut, président-directeur général de JFNA
Cette enquête intervient alors que Meta a récemment réduit certaines de ses politiques de modération de contenu, ce qui, selon le CCDH et la JFNA, a contribué à l’augmentation de la visibilité des contenus haineux sur Instagram. Les organisations appellent Meta à renforcer ses mesures de lutte contre la haine en ligne et à garantir la sécurité de ses utilisateurs.
À ne pas manquer
