Le PDG de Facebook, Mark Zuckerberg, témoigne devant les comités de la justice et du commerce du Sénat sur Capitol Hill à Washington, DC, États-Unis (Dossier, 10 avril 2018). Olivier Douliery / Abaca / Sipa USA (Sipa via AP Images)
Démêler la désinformation virale et expliquer d’où elle vient, le mal qu’elle cause et ce que nous devrions faire pour y remédier.
Mercredi, Les utilisateurs de Facebook en Inde ont commencé à remarquer que les messages qu’ils ont publiés contenant le hashtag #ModiResign ont été supprimés parce qu’ils «allaient à l’encontre des normes communautaires de l’entreprise».
Les utilisateurs publiaient le hashtag pour critiquer la mauvaise gestion par le gouvernement de la crise du COVID-19, qui accable actuellement le pays, laissant des millions de personnes sans accès aux lits d’hôpitaux et à l’oxygène.
Au départ, les gens pensaient qu’il ne s’agissait que d’un autre exemple du gouvernement indien ordonnant aux géants américains de la technologie de supprimer les publications critiquant la réponse du gouvernement au COVID-19, mais le gouvernement indien a nié avoir ordonné la suppression du hashtag.
Au lieu de cela, Facebook a admis que «c’était une erreur».
Le problème a été résolu dans les trois heures, mais seulement après que les Indiens ont commencé à exprimer leur colère en ligne à propos de la censure.
Mais au cours de l’une des plus grandes crises que l’Inde ait jamais connues, à la veille de la phase finale des élections locales dans un État clé, et alors que le PDG Mark Zuckerberg annonçait des bénéfices records de près de 10 milliards de dollars au cours des trois derniers mois, Facebook a un beaucoup d’explications à faire.
Malheureusement pour les utilisateurs en Inde, la société ne semble pas vouloir expliquer ce qui s’est passé.
Lorsqu’on lui a demandé une explication plus détaillée de la façon dont cette «erreur» s’est produite, Facebook a refusé de donner plus de détails, affirmant seulement que «le hashtag avait été bloqué par erreur en raison d’un contenu qui lui était associé.
“Nous avons temporairement bloqué ce hashtag par erreur, non pas parce que le gouvernement indien nous l’a demandé et l’a depuis restauré”, a déclaré le porte-parole de Facebook Andy Stone dans un communiqué envoyé par courrier électronique.
Beaucoup de questions demeurent.
Quel type de contenu a déclenché «l’erreur»? Était-ce une erreur de modérateur humain ou une erreur causée par les systèmes sophistiqués d’intelligence artificielle de Facebook? Cela est-il déjà arrivé? Y a-t-il maintenant des garanties en place pour empêcher que cela ne se reproduise?
«Les entreprises de médias sociaux doivent assumer des responsabilités ou être tenues pour responsables. Ils ne peuvent pas se cacher derrière des «erreurs» ou toute autre excuse », a déclaré Nighat Dad, un avocat pakistanais, fondateur de la Digital Rights Foundation et membre du propre Conseil de surveillance de Facebook, à VICE News.
«Ils connaissent leur pouvoir, ils connaissent leur emprise sur les récits et la construction de récits. Ils doivent absolument faire mieux. Les plateformes de médias sociaux supprimant les publications critiques à l’égard de tout gouvernement constituent une violation massive de l’engagement qu’elles ont envers leurs utilisateurs. La modération du contenu est nécessaire; cependant, la censure ne l’est pas. »
Ce n’est pas une situation unique. L’année dernière, Instagram et Facebook ont tous deux bloqué le hashtag #Sikh pendant un mois. Dans ce cas, Facebook l’a également qualifié d ‘«erreur», ajoutant que cela s’était produit à cause d’un rapport qui avait été mal examiné par leurs équipes.
Sans une explication adéquate de ce qui s’est passé mercredi, les médias ont dû relier la panne de mercredi aux rapports précédents sur les liens étroits entre les dirigeants de Facebook et le Bharatiya Janata Party (BJP) de Modi.
Plus précisément, ils ont évoqué un scandale du mois d’août dernier lorsque le Wall Street Journal a révélé que le directeur des politiques publiques de Facebook en Inde, Ankhi Das, avait fait des exceptions aux politiques de la société en matière de discours de haine pour protéger un membre éminent du BJP et au moins trois autres hindous. nationalistes.
Plus tard, Das s’est excusé et a démissionné après avoir partagé un message sur Facebook qui qualifiait les musulmans de l’Inde de «communauté dégénérée» pour qui «rien d’autre que la pureté de la religion et la mise en œuvre de la charia ne comptent».
Zuckerberg a longtemps exprimé son engagement en faveur de la libre expression sur sa plate-forme, même lorsque ce droit signifie que les utilisateurs répandent une désinformation dangereuse sur les vaccins ou la négation de l’Holocauste.
Mais ces dernières années, l’engagement de Zuckerberg en faveur de la libre expression a été de plus en plus contesté par des dirigeants autoritaires comme Modi, qui ont introduit de nouvelles lois qui obligent des entreprises comme Facebook à supprimer le contenu que les autorités jugent illégal. Un grand nombre de ces lois ont été rédigées si largement qu’elles donnent aux gouvernements qui les ont promulguées carte blanche pour censurer les discours critiques.
En février, Modi a introduit une telle loi, obligeant les entreprises de médias sociaux à supprimer rapidement le contenu à la demande du gouvernement. Et la semaine dernière, la loi a été pleinement appliquée lorsque New Delhi a forcé Twitter, Instagram et Facebook à supprimer le contenu critique de la mauvaise gestion par Modi de la deuxième vague du COVID-19 en Inde.
«L’Inde crée un dangereux précédent, tout comme les entreprises technologiques tout en se conformant à ces directives», a déclaré Papa, ajoutant qu’en travaillant avec Modi, les entreprises technologiques révèlent un double standard dans la façon dont elles opèrent dans différentes parties du monde.
«Il est clair que les pays du Sud n’ont pas de mécanismes de responsabilisation en place, comme en Occident. Les entreprises de médias sociaux en profitent et exploitent également les failles et les canaux de retour », a-t-elle déclaré.
«Ils établissent également des précédents dangereux en ce qui concerne leur conformité avec les gouvernements. D’autres gouvernements, des régimes plus autocratiques, peuvent s’en inspirer et s’en inspireront et utiliseront les médias sociaux de la même manière dans leurs sphères numériques. C’est une évolution dangereuse et une pente glissante à descendre. »
