Facebook a créé automatiquement les pages d’organisations terroristes désignées, dont l’EI et al-Qaïda pendant des années, selon un nouveau rapport.
Le projet de transparence technologique (TTP) enquête vient moins d’une semaine avant que la Cour suprême n’entende un cas historiquequi examine la responsabilité des entreprises technologiques pour la police du terrorisme en ligne, et montre comment la présence de groupes terroristes persiste sur Facebook malgré des années de pression pour supprimer ce contenu.
Dans les années qui ont suivi la montée d’ISIS, l’entreprise a pris mesures pour tenter d’endiguer le problème de l’extrémisme sur sa plate-forme. Mais TTP, un groupe de surveillance de l’industrie technologique, a découvert qu’une “bizarre” technologique sur Facebook générait automatiquement sans le savoir des pages de destination pour les organisations terroristes lorsque les utilisateurs les répertorient sous des éléments tels que leur travail, leur éducation, leurs entreprises locales, leurs intérêts ou même leurs emplacements. la page existe déjà pour cela.
Le résultat a été une foule de pages (principalement en arabe, mais plusieurs en anglais) contenant des messages avec des images du étendard noir djihadistecertains avec des hommes masqués en tenue de terroristes tenant des armes, un point d’atterrissage d’Al-Qaïda avec une section « À propos », et même la liste des pages de l’État islamique en tant que « pays/région… État » – quelque chose que le groupe terroriste a prétendu qu’il était après s’être déclaré comme un pseudo-état quand il contrôlait une bande de terre entre l’Irak et la Syrie.
Selon le rapport, certaines des pages générées automatiquement ont permis aux utilisateurs de réseauter, de taguer des amis et de s’envoyer des messages, certaines accumulant des milliers de likes. (Facebook a fourni de petites instructions sur les pages les qualifiant de “page non officielle”.)
TTP a fourni une liste de liens Facebook actifs vers plusieurs des pages référencées dans le rapport pour vérification. Alors que TTP constate que la majorité des pages ISIS ont été générées au cours de la période 2014 et 2015, quatre des pages ont été créées jusqu’en octobre 2022 et la capacité d’en créer d’autres existe toujours.
VICE News a mis la génération de pages à l’épreuve et a également pu visionner une vidéo de capture d’écran d’un utilisateur créant un profil à partir de ce mois-ci où il a répertorié son travail en tant que terroriste de l’EI et avait encore plusieurs options sous la bannière du terroriste organisation. Une vidéo supplémentaire qui a été examinée montre le même utilisateur de Facebook changeant son employeur en “دوله السلامية” (ISIS en arabe), l’a localisé à Raqqa, en Syrie (autrefois un bastion du groupe terroriste où des atrocités ont été perpétrées), et Facebook a ensuite généré automatiquement une page pour la “Société”.
Facebook a maintenu pendant des années qu’il recherche et interdit ouvertement le contenu de ces types de groupes. Il est venu sous le feu en 2014, alors que l’Etat islamique explosait en nombre et que l’application était considérée comme la clé de la stratégie de recrutement et de propagande du groupe terroriste. Si Facebook était initialement un vecteur important pour l’Etat islamique, il s’appuyait sur un vaste opération en ligne ciblant tous les espaces numériques habités par la génération Y, y compris les plateformes largement utilisées comme Instagram et Twitter.
“Quel est l’avantage d’utiliser les réseaux sociaux si je ne les utilise pas pour recruter ?” a déclaré un recruteur de l’ISIS à VICE News en 2014.
- Avez-vous des conseils sur ISIS? Nous aimerions recevoir de vos nouvelles. Contactez Ben Makuch par e-mail à [email protected] ou sur l’application Wire @benmakuch.
Mais à l’heure actuelle, Facebook n’est plus le principal média social des organisations terroristes avec des plateformes cryptées comme Telegram et d’autres prenant ce relais.
Meta, la société propriétaire de Facebook (et d’Instagram) a déclaré qu’elle n’avait pas de commentaire détaillé car TTP ne leur a pas fourni le rapport jusqu’à présent. TTP dit que le chien de garde n’a pas été demandé par Facebook pour le rapport.
“Lorsque ces types de pages shell sont générées automatiquement, il n’y a pas de propriétaire ou d’administrateur, et une activité limitée”, a déclaré un porte-parole. “Comme nous l’avons dit à la fin de l’année dernière, nous avons résolu un problème de pages shell générées automatiquement et nous continuons à l’examiner.”
Mais TTP affirme que Facebook n’a pas pris le problème au sérieux après avoir été informé à plusieurs reprises.
“Malgré les avertissements répétés et interrogatoire de plusieurs législateursFacebook a continué à créer des pages professionnelles pour des groupes terroristes désignés qui prospèrent grâce à la propagande numérique – et cela a été sciemment le faisant depuis 2019 », a déclaré Katie Paul, chercheuse et auteur de l’enquête.
“Facebook a plutôt vanté sa technologie pour lutter contre les contenus terroristes dans des déclarations devant le Congrès et des réponses aux médias”, a-t-elle déclaré.
Le Pentagone et la CIA considèrent toujours ISIS comme une menace majeure pour la sécurité nationale, bien que l’organisation extrémiste ait été considérablement renversée de ses hauteurs de gestion de ce qu’elle appelait son propre “califat” à la fin de la dernière décennie. Les forces américaines mènent régulièrement des frappes de drones et des opérations de combat au Moyen-Orient et en Afrique contre son leadership en déclin.
La semaine prochaine, la Cour suprême entendra Gonzalez contre Google et examinez si le géant de la Silicon Valley devrait ou non être tenu responsable de la promotion des vidéos ISIS sur YouTube. L’affaire est présentée comme un différend qui pourrait façonner le parcours de la façon dont la vie en ligne américaine sera réglementée dans les années à venir.
