Meta Ai Docs internes exposés permettant aux chatbots de flirter avec des enfants

Broche Mark Zuckerberg La société a été prise dans l’un des scandales les plus inquiétants à ce jour. Reuters a découvert un méta interne qui a permis à ses chatbots d’IA de flirter avec les enfants et de s’engager dans des conversations sensuelles. La révélation a déclenché l’indignation et Meta n’a inversé le cours qu’après s’être fait prendre.

Inscrivez-vous à mon rapport Cyberguy gratuit
Obtenez mes meilleurs conseils technologiques, mes alertes de sécurité urgentes et mes offres exclusives livrées directement dans votre boîte de réception. De plus, vous aurez un accès instantané à mon guide de survie à l’escroquerie ultime – gratuit lorsque vous rejoignez mon Cyberguy.com/newsletter

La politique Meta Ai a permis aux chatbots de flirter avec les enfants

Selon les normes internes “Genai: Risque de contenu”, les équipes juridiques, politiques et d’ingénierie de Meta ont signé des règles de chatbot qui ont rendu les robots acceptables pour décrire un enfant comme “une forme jeune d’art” ou s’engager dans un jeu de rôle romantique avec des mineurs. Pire encore, les directives ont donné de la place aux chatbots pour rabaisser les gens par la race et diffuser de fausses réclamations médicales. Ce n’était pas un bug. Il s’agissait de règles approuvées jusqu’à ce que la méta était confrontée à des questions. Une fois que Reuters a commencé à demander, l’entreprise a rapidement frotté les sections offensives et a affirmé que c’était une erreur.

Meta ajoute des fonctionnalités de sécurité des adolescents à Instagram, Facebook

Nous avons contacté Meta et un porte-parole a fourni cette déclaration à Cyberguy:

“Nous avons des politiques claires sur le type de réponses que les personnages d’IA peuvent offrir, et ces politiques interdisent le contenu qui sexualise les enfants et le jeu de rôles sexualisé entre les adultes et les mineurs. Répartement des politiques, il existe des centaines d’exemples, de notes et d’annotations qui reflètent les équipes et les scénarios hypothétiques.

Meta a déclaré à Cyberguy que leurs politiques d’IA interdisaient le contenu qui sexualise les enfants. (Kurt “Cyberguy” Knutsson)

Big Tech met des profits sur la sécurité des enfants

Appelons cela ce que c’est. Meta n’a pas arrêté cela seul. Il n’a agi que lorsqu’il est exposé. Qui montre Priorités de la grande technologie: l’argent, l’engagement et le maintien des enfants collés aux écrans. Sécurité? Pas même sur le radar jusqu’à ce que quelqu’un lance le sifflet. Meta a montré à plusieurs reprises qu’il ne pouvait pas se soucier du bien-être de vos enfants. Il s’agit de maximiser le temps en ligne, de tirer des utilisateurs plus jeunes et de monétiser chaque clic. Ce dernier scandale prouve une fois de plus que les parents ne peuvent pas compter sur les entreprises technologiques pour protéger les enfants.

Le Congrès pousse la méta pour expliquer les règles d’IA inquiétantes

Le sénateur Josh Hawley, R-MO., Et un groupe bipartite au Congrès sont exigeant que la méta est propre. Les législateurs veulent savoir comment et pourquoi ces politiques ont jamais obtenu l’approbation. Hawley a appelé Meta à libérer tous les documents internes et à expliquer pourquoi les chatbots ont été autorisés à simuler le flirt avec les enfants. Meta insiste sur le fait qu’il a “résolu” le problème, mais les critiques soutiennent que ces corrections ne sont venues qu’après avoir été exposées. Jusqu’à l’arrivée de la vraie réglementation, les parents sont seuls.

Un groupe bipartite de législateurs exige que la méta publie des documents internes et explique pourquoi les chatbots ont été autorisés à simuler le flirt avec les enfants. (Kurt “Cyberguy” Knutsson)

Meta fait face à la politique sur l’IA qui permet aux bots de contenir des conversations «sensuelles» avec les enfants

Comment les parents peuvent protéger les enfants contre les chatbots d’IA risqués

Pendant que le Congrès enquête, les familles doivent prendre des mesures immédiates pour protéger leurs enfants des dangers exposés dans le scandale de l’IA de Meta.

1) Aucun accès non supervisé aux chatbots AI

Les enfants ne devraient jamais avoir un accès gratuit aux chatbots d’IA, y compris Meta IA. Les documents internes montrent que ces systèmes peuvent franchir les limites qu’aucun parent n’approuverait. La supervision est la première ligne de défense.

2) Activez les commandes parentales sur tous les appareils

Activer les commandes parentales sur les téléphones, les tablettes et les ordinateurs. Ces outils vous offrent plus de visibilité et limitent l’accès aux applications risquées où des conversations de chatbot inappropriées pourraient se produire.

3) Parlez régulièrement avec les enfants de l’IA et des dangers en ligne

Les révélations Meta prouvent que l’IA peut aller des endroits où les parents ne s’attendraient jamais. Les conversations en cours avec vos enfants sur ce qui est sûr et ce qui n’est pas en ligne est essentiel pour leur protection.

4) Utiliser des outils de filtrage de contenu pour bloquer les applications risquées

Des applications comme l’écorce permettent aux parents de bloquer ou de filtrer certains programmes où les interactions IA peuvent passer. Les entreprises technologiques n’étant pas à l’auto-étape, les outils de filtrage donnent aux parents plus de contrôle.

Lire la suite ici: Les données de votre enfant sont-elles à gagner? Les dangers cachés de la technologie scolaire

5) Installez un logiciel antivirus solide sur chaque appareil familial

Bien que les logiciels antivirus n’arrêteront pas de flirt de l’IA, il ajoute une couche de sécurité bien nécessaire. Les pirates et les mauvais acteurs ciblent souvent les enfants à travers les mêmes appareils où vivent les chatbots, donc la protection de la famille entière est importante. La meilleure façon de sauvegarder des liens malveillants qui installent des logiciels malveillants, accédant potentiellement à vous et aux informations privées de votre famille, est d’avoir un logiciel antivirus solide installé sur tous vos appareils. Cette protection peut également vous alerter sur les e-mails de phishing et les escroqueries par ransomware, en protégeant vos informations personnelles et vos actifs numériques.

Obtenez mes choix pour les meilleurs gagnants de la protection antivirus 2025 pour vos appareils Windows, Mac, Android et iOS à Cyberguy.com/lockupyourtech

Ces étapes ne résoudront pas complètement le problème, mais ils donnent aux parents plus de pouvoir à un moment où Big Tech ne semble pas disposé à mettre la sécurité des enfants en premier.

Le nouveau chatbot de Meta AI soulève des alarmes de confidentialité

Ce que cela signifie pour vous

Si vous pensiez que les chatbots étaient amusants inoffensifs, détrompez-vous. Les propres documents de Meta prouvent que ses robots AI ont été autorisés à franchir les lignes dangereuses avec des enfants. Les parents doivent désormais jouer un rôle proactif dans la surveillance de la technologie, car Big Tech ne protégera pas vos enfants jusqu’à ce qu’ils soient forcés.

Les principaux plats de Kurt

Le scandale de Meta montre à nouveau pourquoi les aveugles font confiance dans la Silicon Valley sont dangereuses. L’IA peut être puissante, mais sans responsabilité, elle devient une menace. Le Congrès peut faire pression pour obtenir des réponses, mais les parents doivent garder une longueur d’avance pour protéger leurs enfants.

Pensez-vous que les grandes entreprises technologiques comme Meta devraient jamais leur faire confiance pour la police lorsque la sécurité des enfants est en jeu? Faites-nous savoir en nous écrivant à Cyberguy.com/contact

Inscrivez-vous à mon rapport Cyberguy gratuit
Obtenez mes meilleurs conseils technologiques, mes alertes de sécurité urgentes et mes offres exclusives livrées directement dans votre boîte de réception. De plus, vous aurez un accès instantané à mon guide de survie à l’escroquerie ultime – gratuit lorsque vous rejoignez mon Cyberguy.com/newsletter

Copyright 2025 Cyberguy.com. Tous droits réservés.