Il existe deux façons d’essayer de comprendre l’impact de la modération de contenu et des algorithmes qui appliquent ces règles : en s’appuyant sur ce que dit la plate-forme et en interrogeant les créateurs eux-mêmes. Dans le cas de Tyler, TikTok s’est excusé et a blâmé un filtre automatique mis en place pour signaler les mots associés au discours de haine, mais qui était apparemment incapable de comprendre le contexte.
Brooke Erin Duffy, professeure agrégée à l’Université Cornell, s’est associée à l’étudiant diplômé Colten Meisner pour interviewer 30 créateurs sur TikTok, Instagram, Twitch, YouTube et Twitter à l’époque où la vidéo de Tyler est devenue virale. Ils voulaient savoir comment les créateurs, en particulier ceux issus de groupes marginalisés, naviguent dans les algorithmes et les pratiques de modération des plateformes qu’ils utilisent.
Ce qu’ils ont trouvé : les créateurs investissent beaucoup de travail dans la compréhension des algorithmes qui façonnent leurs expériences et leurs relations sur ces plateformes. Étant donné que de nombreux créateurs utilisent plusieurs plates-formes, ils doivent apprendre les règles cachées de chacune. Certains créateurs adaptent toute leur approche de production et de promotion de contenus en réponse aux biais algorithmiques et de modération qu’ils rencontrent.
Vous trouverez ci-dessous notre conversation avec Duffy au sujet de ses recherches à venir (éditées et condensées pour plus de clarté).
Les créateurs discutent depuis longtemps de la manière dont les algorithmes et la modération affectent leur visibilité sur les plateformes qui les ont rendus célèbres. Alors, qu’est-ce qui vous a le plus surpris en faisant ces interviews ?
Nous avions le sentiment que les expériences des créateurs sont façonnées par leur compréhension de l’algorithme, mais après avoir fait les interviews, nous avons vraiment commencé à voir à quel point [this impact] est dans leur vie quotidienne et leur travail… la quantité de temps, d’énergie et d’attention qu’ils consacrent à l’apprentissage de ces algorithmes, en y investissant. Ils ont ce genre de conscience critique que ces algorithmes sont considérés comme inégaux. Malgré cela, ils investissent toujours toute cette énergie dans l’espoir de les comprendre. Cela attire vraiment l’attention sur la nature déséquilibrée de l’économie des créateurs.
À quelle fréquence les créateurs pensent-ils à la possibilité d’être censurés ou de voir leur contenu ne pas atteindre leur public en raison de pratiques de suppression ou de modération algorithmiques ?
Je pense que cela structure fondamentalement leur processus de création de contenu et aussi leur processus de promotion de contenu. Ces algorithmes changent à volonté ; il n’y a pas de perspicacité. Il n’y a pas de communication directe des plates-formes, dans de nombreux cas. Et cela a un impact complet et fondamental non seulement sur votre expérience, mais aussi sur vos revenus.
