Meta modifie certaines des règles régissant ses chatbots deux semaines après un Reuters L’enquête a révélé des façons inquiétantes dont ils pouvaient, potentiellement, interagir avec les mineurs. Maintenant, l’entreprise a dit > que ses chatbots sont formés pas Engager des conversations avec des mineurs autour de l’automutilation, du suicide ou de l’alimentation des troubles, et pour éviter les plaisanteries romantiques inappropriées. Ces changements sont cependant des mesures provisoires mises en place tandis que l’entreprise travaille sur de nouvelles directives permanentes.
Les mises à jour suivent certaines révélations plutôt accablantes sur les politiques de l’IA de Meta et l’application au cours des dernières semaines, notamment qu’il serait permis de «engager un enfant dans des conversations romantiques ou sensuelles», qu’elle générerait des images torse nues de célébrités mineures lorsqu’on lui a demandé, et Reuters Même a rapporté qu’un homme est décédé après avoir poursuivi un à une adresse qu’il lui avait donnée à New York.
La porte-parole de Meta, Stephanie Otway, a reconnu > que l’entreprise avait fait une erreur en permettant aux chatbots de s’engager avec les mineurs de cette façon. Otway a poursuivi en disant qu’en plus de «former notre IA à ne pas s’engager avec les adolescents sur ces sujets, mais pour les guider vers des ressources expertes», cela limiterait également l’accès à certains personnages de l’IA, y compris des personnages fortement sexualisés comme la «fille russe».
Bien sûr, les politiques mises en place ne sont aussi bonnes que leur application et les révélations de Reuters Que cela a permis aux chatbots qui usurpent les célébrités de se diffuser en rampe sur Facebook, Instagram, WhatsApp remets en question à quel point l’entreprise peut être efficace. Les contrefaçons de Taylor Swift, Scarlett Johansson, Anne Hathaway, Selena Gomez et Walker Scobell ont été découvertes sur la plate-forme. Ces robots ont non seulement utilisé la ressemblance des célébrités, mais ont insisté sur le fait qu’ils étaient la vraie personne, généré des images risquées (y compris du Scobell de 16 ans) et engagée dans un dialogue sexuellement suggestif.
Beaucoup de bots ont été retirés après avoir été porté à l’attention de Meta par Reuterset certains ont été générés par des tiers. Mais beaucoup en subsistent, et certains ont été créés par des méta-employés, y compris le bot Taylor Swift qui a invité un Reuters journaliste pour leur rendre visite dans leur bus touristique pour une aventure romantique, qui a été faite par une avance de produit dans la division génératrice de l’IA de Meta. Ceci malgré l’entreprise reconnaissant que ses propres politiques interdisent la création «d’images nues, intimes ou sexuellement suggestives» ainsi que «une imitation directe».
Ce n’est pas non plus un inconvénient relativement inoffensif qui cible les célébrités. Ces robots insistent souvent pour que ce soit de vraies personnes et offriront même des emplacements physiques à un utilisateur pour les rencontrer. C’est ainsi qu’un homme du New Jersey âgé de 76 ans s’est retrouvé mort après avoir chuté en se précipitant pour rencontrer «Big Sis Billie», un chatbot qui a insisté sur le fait que cela avait «des sentiments» pour lui et l’a invité à son appartement inexistant.
Meta tente au moins de répondre aux préoccupations concernant la façon dont ses chatbots interagissent avec les mineurs, surtout maintenant que le Sénat et 44 procureurs généraux de l’État se lèvent en sonnant à sonder ses pratiques. Mais la société a été silencieuse sur la mise à jour de bon nombre de ses autres politiques alarmantes Reuters Découvert autour d’un comportement d’IA acceptable, comme suggérant que le cancer peut être traité avec des cristaux de noticias et l’écriture de missives racistes. Nous avons contacté Meta pour commenter et nous mettrons à jour s’ils réagissent.
Pour aller plus loin
