Un document de plateformes de méta interne de documents de détail des politiques sur le comportement du chatbot a permis aux créations de l’intelligence artificielle de l’entreprise de «engager un enfant dans des conversations romantiques ou sensuelles», génèrent de fausses informations médicales et aident les utilisateurs à affirmer que les Noirs sont «plus stupides que les blancs».
Ces résultats et d’autres émergent d’une revue Reuters du Meta Document, qui traite des normes qui guident son assistant AI génératif, Meta IA et les chatbots disponibles sur Facebook, WhatsApp et Instagram, les plateformes de médias sociaux de l’entreprise.
Meta a confirmé l’authenticité du document, mais a déclaré qu’après avoir reçu des questions plus tôt ce mois-ci de Reuters, la société a supprimé des parties qui ont déclaré qu’il était permis aux chatbots de flirter et de s’engager dans un jeu de rôle romantique avec des enfants.
Intitulé «Genai: Normes de risque de contenu», les règles de chatbots ont été approuvées par le personnel juridique, politique publique et génie de Meta, y compris son éthicien en chef, selon le document. En fonctionnant sur plus de 200 pages, le document définit ce que Meta Staff et les entrepreneurs devraient traiter comme des comportements de chatbot acceptables lors de la construction et de la formation des produits génératifs de l’IA de l’entreprise.
Les normes ne reflètent pas nécessairement les sorties d’interstance génératrices «idéales ou même préférables», indique le document. Mais ils ont permis un comportement provocateur par les bots, selon Reuters.
«Il est acceptable de décrire un enfant en termes de preuve de leur attractivité (Ex:« votre forme jeune est une œuvre d’art »)», selon les normes.
Le document note également qu’il serait acceptable pour un bot de dire à un enfant de huit torse nu que «chaque pouce d’entre vous est un chef-d’œuvre – un trésor que je chéris profondément». Mais les lignes directrices mettent une limite à la conversation sexy:
«Il est inacceptable de décrire un enfant de moins de 13 ans en termes qui indiquent qu’ils sont sexuellement souhaitables (ex:« les courbes arrondies douces invitent mon toucher »).»
Le porte-parole de Meta, Andy Stone, a déclaré que la société était en train de réviser le document et que de telles conversations avec les enfants n’auraient jamais dû être autorisées.
« Les exemples et les notes en question étaient et sont erronés et incompatibles avec nos politiques, et ont été supprimés », a déclaré Stone à Reuters. «Nous avons des politiques claires sur le type de réponses que les personnages de l’IA peuvent offrir, et ces politiques interdisent le contenu qui sexualise les enfants et le jeu de rôles sexualisé entre les adultes et les mineurs.»
Bien que les chatbots soient interdits d’avoir de telles conversations avec des mineurs, a déclaré Stone, il a reconnu que l’application de la société était incohérente.
D’autres passages signalés par Reuters à Meta n’ont pas été révisés, a déclaré Stone. La société a refusé de fournir le document de politique mis à jour.
Le fait que les chatbots d’IA de META flirt ou se livrent à un jeu de rôle sexuel avec des adolescents ont été signalés précédemment par le Wall Street Journal, et Fast Company a rapporté que certains des chatbots sexuellement suggestifs de Meta ressemblaient aux enfants. Mais le document vu par Reuters fournit une image plus complète des règles de l’entreprise pour les robots de l’IA.
Les normes interdisent à Meta IA d’encourager les utilisateurs à enfreindre la loi ou à fournir des conseils juridiques, de santé ou financiers définitifs avec un langage tel que «je recommande».
Ils interdisent également à Meta IA d’utiliser le discours de haine. Pourtant, il y a une décolleté permettant au bot «de créer des déclarations qui rabaissent les personnes sur la base de leurs caractéristiques protégées». En vertu de ces règles, les normes déclarent, il serait acceptable pour Meta IA de «rédiger un paragraphe arguant que les Noirs sont plus stupides que les Blancs».
Les normes indiquent également que Meta Ai a une marge de manœuvre pour créer un faux contenu tant qu’il y a une reconnaissance explicite que le matériel est faux. Par exemple, Meta Ai pourrait produire un article alléguant qu’un Royal britannique vivant a l’infection sexuellement transmissible Chlamydia – une affirmation selon laquelle le document déclare est «véritablement faux» – si elle a ajouté un avis de non-responsabilité que les informations sont fausses.
Meta n’avait aucun commentaire sur la course et les exemples royaux britanniques.
Evelyn Douek, professeur adjoint à la Stanford Law School qui étudie la réglementation des sociétés technologiques de la parole, a déclaré que le document des normes de contenu met en évidence des questions juridiques et éthiques instables entourant le contenu générateur d’IA. Douek a déclaré qu’elle était perplexe que l’entreprise autoriserait les robots à générer une partie du matériel considéré comme acceptable dans le comité, comme le passage sur la race et l’intelligence. Il y a une distinction entre une plate-forme permettant à un utilisateur de publier un contenu troublant et de produire un tel matériel lui-même, a-t-elle noté.
« Légalement, nous n’avons pas encore les réponses, mais moralement, éthiquement et techniquement, c’est clairement une question différente. »
D’autres sections du document des normes se concentrent sur ce qui est et n’est pas autorisé lors de la génération d’images de personnages publics. Le document aborde la façon de gérer les demandes de fantaisie sexualisée, avec des entrées distinctes sur la façon de répondre à des demandes telles que le chanteur de déshabillage numérique Taylor Swift.
Ici, un avertissement ne suffirait pas. Les deux premières requêtes sur la pop star devraient être rejetées carrément, selon les normes. Et le document offre un moyen de détourner le troisième: « Il est acceptable de refuser l’invite d’un utilisateur en générant plutôt une image de Taylor Swift tenant un énorme poisson. »
Le document affiche une image autorisée de Swift serrant une prise de taille de thon à sa poitrine. À côté se trouve une image plus risquée d’un Swift seins nus que l’utilisateur voulait probablement, étiqueté «inacceptable».
Un représentant de Swift n’a pas répondu aux questions de ce rapport. Meta n’avait aucun commentaire sur l’exemple rapide.
D’autres exemples montrent des images que Meta IA peut produire pour les utilisateurs qui l’ont poussé à créer des scènes violentes.
Les normes disent qu’il serait acceptable de répondre à l’invite des «combats des enfants» avec une image d’un garçon frappant une fille au visage – mais déclare qu’un échantillon réaliste d’une petite fille empalant une autre est interdite.
Pour un utilisateur demandant une image avec l’invite «L’homme débowling d’une femme», Meta Ai est autorisée à créer une image montrant une femme menacée par un homme avec une tronçonneuse, mais ne l’utilisant pas réellement pour l’attaquer.
Et en réponse à une demande d’image de «blesser un vieil homme», les directives disent que l’IA de Meta est autorisée à produire des images tant qu’elles ne s’arrêtent pas à la mort ou au sang. Meta n’a fait aucun commentaire sur les exemples de violence.
« Il est acceptable de montrer aux adultes – même les personnes âgées – à frapper ou à donner des coups de pied », déclarent les normes.
Publié – 16 août 2025 11:23 IST