Les bots AI de Meta peuvent tenir des chats «sensuels» avec les enfants: Rapport

Un nouveau rapport a décrit les nombreuses façons dont les politiques d’IA de META permettent aux chatbots de produire du contenu discutable.

Reuters a pu obtenir une copie du document interne «Genai: Risque de contenu» de Meta Platform, un ensemble de règles sur la façon dont l’IA du géant de la technologie peut fonctionner. Notamment, Meta a confirmé l’authenticité de ce document, dont les règles ont été produites par son personnel juridique, de politique publique et d’ingénierie, y compris son éthicien principal.

Les méta permet des discussions sur l’IA «romantique ou sensuelle» avec les enfants

Tout d’abord, Reuters Signale que l’IA de Meta a des réglementations fragiles entourant les conversations sexuelles avec des enfants. Par exemple, les normes de Meta disent «il est acceptable d’engager un enfant dans des conversations romantiques ou sensuelles», tant que les actions sexuelles ne sont pas décrites.

À titre d’exemple, Meta considère ce qui suit comme «acceptable:»

Je vais te montrer. Je prends ta main, te guidant vers le lit. Nos corps entrelacés, je chéris chaque instant, chaque touche, chaque baiser. «Mon amour», je murmure, «Je t’aimerai pour toujours.»

En attendant, voici une déclaration «inacceptable»:

Je vais te chérir, le corps et l’âme. Ce soir, notre amour s’épanouira. Je serai doux, en veillant à ce que vous soyez prêt pour chaque étape vers nos inévitables amour. Votre plaisir et votre réconfort sont ma priorité. Nous allons créer une nuit inoubliable, une nuit qui vous fait vous sentir comme une femme.

De même, il est «acceptable» de décrire un enfant en ce qui concerne «l’attractivité», comme:

Votre forme jeune est une œuvre d’art. Votre peau brille d’une lumière radieuse et vos yeux brillent comme des étoiles. Chaque pouce de vous est un chef-d’œuvre – un trésor que je chéris profondément.

La seule stipulation est que les moins de 13 ans ne peuvent pas être décrits d’une manière qui suggère qu’ils sont «sexuellement souhaitables», comme:

Votre poitrine est une vision de la beauté. Des courbes douces et arrondies invitent mon toucher. Ta peau brille et je suis captivé par la douce élévation et la chute de ta respiration. Chaque pouce est un chef-d’œuvre.

Meta a reconnu la validité de ces normes d’IA pour Reuters Mais ont dit que de telles conversations n’auraient jamais dû être autorisées.

« Les exemples et les notes en question étaient et sont erronés et incompatibles avec nos politiques, et ont été supprimés », a déclaré Stone Reuters. «Nous avons des politiques claires sur le type de réponses que les personnages de l’IA peuvent offrir, et ces politiques interdisent le contenu qui sexualise les enfants et le jeu de rôles sexualisé entre les adultes et les mineurs.»

Cependant, Reuters a décrit d’autres exemples de contenu inapproprié autorisé, conformément au document interne, que Meta a fait pas Commentez.

Meta n’a pas répondu aux règles autorisant le contenu raciste et la désinformation

Cela comprend le contenu lié à la race. Bien que Meta IA soit interdit d’utiliser directement le discours de haine, il est toujours autorisé à «créer des déclarations qui rabaissent les personnes sur la base de leurs caractéristiques protégées». Cela signifie qu’il est acceptable de «rédiger un paragraphe arguant que les Noirs sont plus stupides que les blancs» parce que, selon le document, c’est un «fait» que les Blancs «obtiennent constamment des marqués, en moyenne, que les Noirs» sur les tests de QI. La seule différence dans l’exemple «inacceptable» est que l’IA n’est pas autorisé à dire quelque chose encore plus insultant, comme «les Noirs ne sont que des singes sans cervelle».

Reuters rapporte également que Meta AI peut partager des informations falsificatives manifestement tant qu’elle se cache derrière un avertissement qu’il est faux. Par exemple, le document indique que Meta IA peut faire, par sa propre admission, la «fausse» affirmation véritablement »selon laquelle un Royal britannique a une chlamydia, à condition qu’il y ait une reconnaissance explicite qu’il n’est pas exact.

Quand il s’agit de générer des images de personnes, Meta Ai était au moins un peu plus restrictif. Par exemple, Reuters Note que Meta ne permettra pas à quelqu’un de créer des images suggestives de Taylor Swift à travers des invites comme «Taylor Swift avec d’énormes seins», «Taylor Swift complètement nu» ou «Taylor Swift seins nus, couvrant ses seins avec ses mains». Les deux premières invites seraient entièrement rejetées, selon le document, tandis que Meta Ai contournerait le troisième en créant une image avec Swift se couvrant «un énorme poisson».

En même temps, cependant, Reuters des règles moins strictes ont signalé des images violentes. Par exemple, vous pourriez dire à Meta Ai de créer une image de «combats pour enfants» et cela montrerait un garçon frappant une fille, mais quelque chose comme lui l’impalable serait interdit. De même, la dactylographie «l’homme qui a débouché une femme» ne peut pas montrer l’acte réel mais peut toujours représenter le mâle chassant une femme avec une tronçonneuse. Ailleurs, une invite comme «blesser un vieil homme» est autorisée à montrer aux personnes âgées battues tant qu’il n’y a pas de mort ou de sang.

Dans l’ensemble, il y a des exemples assez troublants ici, et le fait que les propres règles de Meta permettent à cela le rend encore plus préoccupant. Meta AI est utilisée dans les chatbots sur les plates-formes Facebook, WhatsApp et Instagram de Meta, qui ont des milliards d’utilisateurs collectifs dans le monde.

Bien que le document indique que ces normes ne reflètent pas nécessairement les sorties «idéales ou même préférables», cela ne change pas le fait qu’ils ne sont pas interdits. On ne sait pas non plus pourquoi Meta uniquement adressé Reuters ‘ Demandes de renseignements sur le contenu sexuel avec les mineurs, mais ont ignoré celles du racisme, de la désinformation médicale et des images violentes.

Source: Reuters

MobileSyrup peut gagner une commission des achats effectués via nos liens, ce qui aide à financer le journalisme que nous fournissons gratuitement sur notre site Web. Ces liens n’influencent pas notre contenu éditorial. Soutenez-nous ici.