Une fuite de sécurité des enfants à bombes a changé de méta – ça a empiré

En 2021, quand L’ancienne employée Meta Frances Haugen a sifflé Sur les dangers que les plateformes de l’entreprise ont posé aux enfants, Meta s’est rendu compte qu’elle devait changer.

“Je suis ici pour vous dire aujourd’hui que Meta a changé”, a déclaré l’un d’un nouvel ensemble de dénonciateurs – l’ancien chercheur de la méta-utilisateur Cayce Savage – devant le sous-comité judiciaire du Sénat sur la vie privée, la technologie et la loi, “pour le pire”.

Savage et un autre ancien chercheur, Jason Sattizahn, sont apparus devant le sous-comité le 9 septembre. Leurs témoignages ont construit sur un compte que eux et plusieurs autres employés anciens et actuels ont partagé avec Le Washington Post, qui a récemment détaillé des allégations selon lesquelles Meta a déclenché son équipe juridique sur ses propres chercheurs à supprimer les résultats que sa réalité virtuelle Les services ont blessé les enfants. Alors que le Congrès avait du mal à adopter le règlement technologique stimulé par les révélations de Haugen, selon les législateurs, Meta a simplement appris à mieux cacher ses problèmes.

Les anciens chercheurs ont témoigné que les enfants de moins de 13 ans sont rampants sur les plateformes sociales de la VR de Meta, malgré leur accès officiellement restreint. Ces espaces présentent les mêmes dangers que le reste d’Internet, y compris les prédateurs sexuels, mais la nature immersive de la réalité virtuelle, selon les dénonciateurs, pourraient rendre les interactions plus puissantes. “En VR, quelqu’un peut soutenir votre enfant et chuchoter à l’oreille, et votre enfant ressentira sa présence comme si c’était réel”, a déclaré Savage. “La réalité virtuelle suit les mouvements réels d’un utilisateur, donc l’agression en VR nécessite que ces mouvements se produisent dans la vraie vie. Ce qui se passe dans la réalité virtuelle est la réalité.”

Mais Savage et Sattizahn ont déclaré que les méta-avocats ont découragé et ont même menacé des chercheurs contre la collecte d’informations qui confirmeraient qu’elle avait un problème, craignant une piste papier qui pourrait créer une responsabilité légale à moins qu’elle ne supprime un grand groupe d’utilisateurs engagés.

Dans une déclaration sur le Washington Poste Histoire, le porte-parole de Meta, Dani Lever, a déclaré que les exemples des dénonciateurs étaient sélectionnés par cerise “pour s’adapter à un récit prédéterminé et faux” et que la société a “approuvé près de 180 études liées aux laboratoires de réalité sur les questions sociales, notamment la sécurité des jeunes et le bien-être”. Lors de l’audience, Sattizahn a qualifié cette statistique de «mensonge par évitement», car «tout l’intérêt de ce témoignage est que la recherche qu’ils font est de l’élag et de la manipulation».

Le rapport capital 2021 de Haugen a révélé une mine de documents de recherche internes démontrant que Meta Les produits conscients comme Instagram avaient des effets nocifs sur certains adolescentsy compris les problèmes d’image corporelle négatifs. Plutôt que d’ajuster ses protocoles pour mieux protéger les enfants et les adolescents, a témoigné Savage et Sattizahn, Meta a appris à cesser de créer ces documents. “C’était la mauvaise leçon”, a déclaré le sénateur Richard Blumenthal (D-CT) lors d’une conférence de presse avant l’audience.

La société a créé un régime de «surveillance juridique», a déclaré Sattizahn, où les avocats surveilleraient le travail des chercheurs, «limitant les sujets, les questions, les méthodes que vous pouvez utiliser avant même de collecter des données». Il a témoigné que les Meta dirigeaient son emploi s’il ne se conforment pas et se rappelait que les avocats de l’entreprise lui demanderaient de supprimer ou de cesser de collecter des données sur les dommages émotionnels et psychologiques. “Des déclarations légales et explicites pour moi, c’est que nous ne voulions pas ces données parce qu’il était trop risqué pour nous, car s’il y avait un audit extérieur, il serait découvert que Meta connaissait ces préjudices”, a-t-il déclaré.

Savage a déclaré que la question des jeunes enfants sur la plate-forme VR de Meta était si répandue que chaque fois qu’elle utilisait personnellement le produit, la majorité des personnes avec lesquelles elle interagissait étaient «audible moins de 13 ans». Les deux dénonciateurs estiment que le méta-PDG Mark Zuckerberg est au courant du problème. “La seule façon dont il ne le savait pas est qu’il n’avait jamais utilisé son propre casque”, a déclaré Savage.

Lorsque Haugen s’est manifesté, le Congrès a répondu avec la plus grande poussée pour la législation sur la sécurité en ligne des enfants depuis des décennies. Le sénateur Marsha Blackburn (R-TN) et Blumenthal a présenté le Kids Online Safety Act (KOSA) au début de 2022visant à faire des plateformes légalement responsables de la protection des enfants. Mais les efforts se sont effondrés. Kosa a adopté le Sénat l’année dernière avec un vote de 91-3, mais il n’a jamais atteint le sol de la Chambre. «J’aurais pu donner les mêmes points de discussion» de la sécurité des enfants il y a quatre ans, a déclaré Blumenthal. “Rien n’a changé.”

Les défenseurs des parents comme Maurine Molak, dont le fils adolescent David est décédé par suicide après l’utilisation compulsive des plateformes en ligne et la cyberintimidation, se sont de nouveau présentées pour l’audience. Lors d’un voyage de plaidoyer Kosa en décembrepeu de temps avant que le projet de loi ne flétrit dans la maison, Molak ne savait pas si elle serait de retour si elle échouait. À DC mardi, elle a déclaré qu’elle avait décidé de continuer à avancer après que la présidente du Comité du commerce du Sénat, Ted Cruz (R-TX), s’est engagée à continuer à défendre le projet de loi.

Savage a déclaré qu’elle “a délibéré pendant longtemps pour se manifester” après avoir vu le peu d’impact positif Haugen. “Meta a répondu à la divulgation de Frances Haugen en 2021 en réprimant la recherche en interne”, a expliqué Savage. «Les chercheurs de l’entreprise ont été soumis à une censure soudaine, et on nous a dit que c’était pour notre propre protection, donc nous ne ferions pas partie de futures fuites. Candeur, je crains que vous parler aujourd’hui de mettre mes anciens collègues, ainsi que le domaine de la recherche sur les utilisateurs dans Meta en danger.»