Une boulangerie familiale de Forbes, en Nouvelle-Galles du Sud, a vécu plusieurs semaines d’angoisse après la suspension injustifiée de ses comptes Instagram et Facebook, conséquence d’un signalement erroné pour du contenu pédopornographique. Cet incident souligne la vulnérabilité des petites entreprises face aux algorithmes et aux procédures de modération des réseaux sociaux.
Giselle Taunton, gérante du Forbes Bakehouse, a découvert le blocage de son compte Instagram fin novembre, alors qu’elle venait de publier une photo d’un smoothie. La suspension a été vécue comme un véritable choc : « Si j’y pensais trop longtemps, je pourrais pleurer », a-t-elle confié. Quelques semaines plus tard, le compte Facebook de l’entreprise a également été inaccessible, bien qu’il soit resté visible pour le public.
« Tout commence à vous venir à l’esprit parce que l’ensemble de notre activité dépend de ces plateformes pour tout », explique Mme Taunton, soulignant l’importance cruciale des réseaux sociaux pour la pérennité de son entreprise. « Je n’arrive toujours pas à comprendre que notre entreprise dépendait à 100 % d’une plateforme de réseaux sociaux. »
L’affaire a mis en lumière un problème croissant : de plus en plus de petites entreprises australiennes se voient suspendre leurs comptes sans intervention humaine apparente, selon Bruce Billson, le médiateur australien des petites entreprises et des entreprises familiales (ASBFEO). L’ASBFEO a accompagné 482 petites entreprises dans des litiges avec des sociétés de réseaux sociaux cette année, et estime que ces suspensions peuvent avoir un impact « dévastateur » sur leur activité, entraînant des pertes financières considérables et une perte de temps et de ressources.
Le Forbes Bakehouse, qui compte environ 1 500 abonnés sur Instagram, a mis plusieurs mois à constituer cette communauté en ligne. La procédure d’appel, lancée immédiatement après la suspension, pouvait prendre jusqu’à 180 jours.
Cependant, suite à une demande de précisions de l’ABC, Meta a rétabli le compte Instagram de la boulangerie en moins de 24 heures. La raison de la suspension initiale n’a pas été officiellement expliquée.
Dans une déclaration, un porte-parole de Meta a affirmé que l’entreprise « prend des mesures contre les comptes qui violent ses politiques et que les gens peuvent faire appel s’ils pensent qu’une erreur a été commise ». L’ABC a précisé que Meta utilise une combinaison d’intelligence artificielle et de signalements d’utilisateurs pour faire respecter ses règles.
Rahat Masood, maître de conférences à l’École d’ingénierie et d’informatique de l’Université de Nouvelle-Galles du Sud, explique que les algorithmes d’IA peuvent être trompés par des mots-clés ou des images associés à du contenu inapproprié. « Appuyer sur ce bouton de signalement peut faire tomber une entreprise », souligne-t-elle. Elle ajoute que même les modèles d’IA les plus performants peuvent commettre des erreurs, par exemple en détectant des mots clés liés à l’exploitation des enfants dans des contextes innocents.
M. Billson appelle le gouvernement fédéral à exercer une meilleure surveillance sur les sociétés de réseaux sociaux et à mettre en place des mécanismes de règlement des litiges plus efficaces. « Il existe un besoin évident d’une bonne gouvernance et d’une surveillance de la plateforme lorsque la technologie décide quels comptes justifient la fermeture pour prétendument non-respect des normes communautaires et a pour effet de refuser à une petite entreprise la possibilité d’opérer sur une plateforme numérique », a-t-il déclaré.
Mme Taunton se range derrière cet appel : « Les entreprises qui ont cette emprise sur la vie des gens et leurs moyens de subsistance et qui sont capables de les arracher de dessous eux devraient rendre beaucoup plus de comptes. » Le Forbes Bakehouse, une entreprise familiale, célèbre cette année ses 35 ans d’existence.