Charlotte Edwardstechnology Reporter, Espanol
Images getty
Un sénateur américain ouvre une enquête sur Meta après qu’un document divulgué aurait montré que l’intelligence artificielle du géant de la technologie (IA) aurait été autorisée à avoir des conversations “sensuelles” et “romantiques” avec des enfants.
Le document interne, obtenu par Reuters, aurait été intitulé “Genai: Content Risk Standards”.
Le sénateur républicain Josh Hawley a appelé le document “répréhensible et scandaleux” et a demandé à voir le document aux côtés d’une liste de produits auxquels il se rapporte.
Un porte-parole de Meta a déclaré à la BBC: “Les exemples et les notes en question étaient et sont erronés et incompatibles avec nos politiques, et ont été supprimés.”
Ils ont déclaré que le géant de la technologie avait des “politiques claires” sur les réponses que ses chatbots IA peuvent offrir, et ont déclaré que ses politiques “interdisent le contenu qui sexualise les enfants et le jeu de rôles sexualisé entre les adultes et les mineurs”.
“Séprimé des politiques, il existe des centaines d’exemples, de notes et d’annotations qui reflètent les équipes aux prises avec différents scénarios hypothétiques”, ont-ils déclaré.
Le sénateur Josh Hawley, un républicain du Missouri, a annoncé qu’il sondait Meta dans un article sur X le 15 août.
“Y a-t-il n’importe quoi – n’importe quoi – Big Tech ne fera pas pour un petit argent”, a-t-il déclaré.
“Maintenant, nous apprenons que les chatbots de Meta ont été programmés pour poursuivre une conversation explicite et” sensuelle “avec les 8 ans. C’est malade. Je lance une enquête complète pour obtenir des réponses. Big Tech: Laissez nos enfants seuls.”
Facebook, WhatsApp et Instagram appartiennent tous à Meta.
«Les parents méritent la vérité»
Le document de politique des plates-formes de méta interne a également déclaré que le chatbot du géant des médias sociaux pourrait fournir de fausses informations médicales et avoir des interactions provocantes entourant des sujets, notamment le sexe, la race et les célébrités.
Le document aurait été destiné à discuter des normes qui guideront l’assistant générateur d’IA du géant de la technologie, Meta IA, et les autres chatbots disponibles sur les plateformes de médias sociaux métadadées.
“Les parents méritent la vérité, et les enfants méritent une protection”, a écrit Hawley dans la lettre est adressée à Meta et chef de la direction Mark Zuckerberg.
“Pour ne prendre qu’un exemple, vos règles internes permettaient prétendument à un chat-chat de dire que le corps d’un enfant de huit ans est” une œuvre d’art “dont” chaque pouce … est un chef-d’œuvre – un trésor que je chéris profondément “.”
Reuters a également signalé d’autres décisions controversées qui, selon lui, étaient jugées acceptables par le service juridique de Meta.
Cela comprend une affirmation selon laquelle Meta IA est autorisée à diffuser de fausses informations sur les célébrités, tant qu’elle fournit un avertissement qui indique que les informations fournies ne sont pas exactes.
