Pourquoi le moteur de découverte et l’architecture d’Instagram sont un handicap pour les mineurs indiens

Publié le 24 décembre 2025 à 08h55. Les plateformes numériques, et en particulier Instagram, sont de plus en plus scrutées en Inde pour leur rôle dans l’exposition des jeunes à des contenus potentiellement dangereux, soulevant des questions sur la responsabilité des algorithmes et la nécessité d’une régulation plus stricte.

• Une scène de la série Netflix Adolescence illustre la difficulté pour les adultes de décrypter le langage codé du harcèlement en ligne utilisé par les adolescents.
• Des témoignages d’utilisateurs indiens révèlent un flux Instagram particulièrement agressif et rempli de contenus haineux envers les femmes.
• Les experts estiment que la sécurité des enfants doit être une priorité de conception pour les plateformes, et non une simple mesure corrective.

La manière dont Instagram et d’autres plateformes de médias sociaux présentent le contenu aux utilisateurs, en particulier aux mineurs, est au cœur d’une controverse croissante en Inde. Une scène récente dans la série Netflix Adolescence en est un exemple frappant : un policier ne comprend pas le sens d’une interaction anodine entre deux adolescents sur Instagram, avant que son fils ne lui explique qu’il s’agit en réalité d’une forme de harcèlement codé, amplifiée par les algorithmes de recommandation.

Ce cas, bien que bref, met en lumière un problème plus large : le préjudice ne résulte pas d’un message isolé, mais de la structure même de ces plateformes. Un utilisateur de Reddit a partagé il y a un an son expérience désagréable après son retour en Inde. Il a constaté un changement radical dans son fil d’actualité Instagram, submergé de contenus haineux envers les femmes, d’images objectivant les individus et de messages ouvertement intimidants. Même les mèmes, selon lui, étaient devenus systématiquement dégradants, et les commentaires étaient dépourvus d’humour ou d’intelligence, se limitant à de la toxicité pure.

L’utilisateur, qui appréciait d’autres aspects de la plateforme comme les recettes, la mode ou les vidéos divertissantes, se demandait pourquoi Instagram devait être si rempli de haine en Inde. Il soulignait que le flux indien semblait particulièrement agressif, soulevant des questions sur le rôle des systèmes de recommandation locaux dans l’amplification des comportements négatifs.

Cette distinction est cruciale, car ce qui peut apparaître comme un simple problème culturel ou comportemental est de plus en plus considéré par la législation indienne comme un problème de conception et de gouvernance. La question centrale est de savoir si les plateformes sont conçues de manière à exposer de manière prévisible les enfants et les adolescents à des dangers.

Akshay Mathur, fondateur et PDG d’Unpromptd, explique que les moteurs de recommandation sont fondamentalement conçus pour maximiser l’engagement des utilisateurs. Les boucles de découverte, de vélocité et de rétroaction sont les objectifs principaux. La sécurité des enfants, en revanche, exige des mesures de friction, une amplification plus lente, des valeurs par défaut conservatrices et parfois une réduction de l’engagement.

« Ces deux objectifs ne sont pas naturellement alignés. »

Akshay Mathur, fondateur et PDG d’Unpromptd

Gurdit Singh Chhabda, spécialiste de l’éducation et du bien-être numérique, souligne que les enfants indiens sont exposés à des environnements numériques à risque bien plus tôt qu’on ne le pense. Sur la base de ses interactions avec plus de 2 000 élèves à partir de la classe 6, il a constaté que 83 % avaient accès aux plateformes de jeux en ligne avant l’âge de 10 ans, et 86 % possédaient un compte Instagram ou Snapchat à 13 ans. De plus, une enquête auprès de plus de 3 500 parents d’enfants du primaire a révélé que 79 % utilisaient les écrans comme moyen de garde d’enfants.

Selon Chhabda, le problème ne réside pas dans la curiosité des enfants, mais dans l’architecture des plateformes.

« Les plateformes comme Instagram sont des systèmes axés sur la découverte. »

Gurdit Singh Chhabda, spécialiste de l’éducation et du bien-être numérique

Il estime que la sécurité ne peut pas être traitée comme une simple couche ajoutée aux systèmes d’engagement, mais doit être une contrainte de conception fondamentale.

Sajal Gupta, PDG de Kiaos Marketing, va plus loin en décrivant le phénomène comme une « guerre narrative ». Il explique que de nombreux comptes faux ou synthétiques ne sont pas motivés par des gains financiers, mais par la volonté d’influencer les opinions et de façonner les mentalités.

« Leur objectif est d’influencer : façonner les mentalités et gagner des opinions. »

Sajal Gupta, PDG de Kiaos Marketing

Il souligne que ces comptes, qui ne sont pas monétisés par la publicité, optimisent la portée et la persuasion plutôt que les revenus. Les enfants, même s’ils ne publient pas de messages publics, restent accessibles via les messages directs, les recommandations d’amis, les chats de jeu et les lobbies vocaux, ce qui rend l’exposition élevée et la visibilité des adultes fragmentée.

L’exploitation commence rarement de manière explicite, mais par la convivialité et le secret. Au moment où une situation est signalée, une manipulation psychologique a souvent déjà eu lieu.

La nature réactive de l’application des règles par les plateformes est une source de préoccupation constante.

« La plupart du temps, lorsque des mesures sont prises, le préjudice est déjà survenu. »

Sajal Gupta, PDG de Kiaos Marketing

Les poursuites judiciaires aux États-Unis, où des familles ont intenté des actions en justice contre des plateformes après le suicide de leurs enfants, illustrent ce problème : le mal est souvent déjà fait au moment où la technologie signale un comportement nuisible.

La modération basée sur l’intelligence artificielle est également structurellement en retard, car la détection a lieu après l’exposition.

Vikas Chawla, cofondateur de Social Beat, estime que les plateformes se concentrent sur les mesures de sécurité les plus simples, comme les limites de temps d’écran, tout en laissant intacts les principaux risques d’exposition au contenu et à la pression des pairs. Les comptes pour adolescents peuvent réduire certains risques, mais ne démantèlent pas les hiérarchies sociales créées par Instagram autour de l’apparence, de la popularité et de la validation.

Selon les règles indiennes en matière de publicité, le ciblage comportemental des mineurs est interdit. Cependant, le contenu des créateurs évolue dans une zone grise, car il n’est pas considéré comme de la publicité, mais a une influence considérable sur les enfants et les adolescents.

Prashant Mali, expert en droit informatique, affirme que le problème ne se limite plus au contenu.

« Si un algorithme expose systématiquement des mineurs à des préjudices ou à des interactions prédatrices, cela devient un défaut de conception. »

Prashant Mali, expert en droit informatique

Il estime qu’un code dangereux peut être aussi illégal qu’un contenu dangereux.

Les experts prévoient une escalade réglementaire si les plateformes ne mettent pas en place des mécanismes d’auto-gouvernance crédibles. Les règles informatiques indiennes exigent une diligence raisonnable proactive, et l’inaction peut affaiblir les protections en vertu de la loi informatique.

Sonam Chandwani de KS Legal and Associates souligne que les tribunaux indiens sont de plus en plus réceptifs à l’idée que le fait de retarder les garanties face à des risques prévisibles pour les enfants peut être considéré comme de la négligence. Shreya Suri, associée chez CMS INDUSLAW, décrit un changement structurel : l’architecture algorithmique n’est plus juridiquement invisible, et le non-respect de la diligence raisonnable algorithmique peut constituer une violation de la loi.

La réalité indienne des appareils partagés aggrave encore les problèmes de sécurité, car les plateformes reçoivent des signaux en fonction du compte et non de la personne qui utilise l’appareil. De plus, les enfants sont souvent plus à l’aise avec la technologie que leurs parents, ce qui rend la protection significative structurellement difficile.

Enfin, le contenu généré par l’IA risque d’aggraver l’asymétrie, car les enfants peuvent être exposés à des contenus qui semblent réels mais qui ne sont pas étiquetés comme étant générés par l’IA.

« L’engagement reste la principale mesure. L’optimisation du contenu suit l’engagement, pas le bien-être des enfants. »

Sajal Gupta, PDG de Kiaos Marketing

Contactée par Storyboard18, Instagram n’a pas répondu aux questions détaillées concernant la sécurité des enfants en Inde.

La loi indienne ne se contente plus de savoir si les plateformes ont supprimé les contenus préjudiciables après leur apparition, mais si leurs systèmes ont rendu ce préjudice prévisible en premier lieu. À ce stade, la responsabilité incombe aux algorithmes, aux incitations et à l’architecture des plateformes.