Meta met à jour les règles du chatbot pour éviter des sujets inappropriés avec les utilisateurs adolescents

Meta dit que cela change la façon dont il forme des chatbots d’IA pour hiérarchiser la sécurité des adolescents, a déclaré exclusivement un porte-parole à >, à la suite d’un rapport d’enquête sur l’absence de garanties d’IA de l’entreprise pour les mineurs.

La société affirme qu’elle entraînera désormais des chatbots pour ne plus s’engager avec les adolescents sur l’automutilation, le suicide, les troubles de l’alimentation ou les conversations romantiques potentiellement inappropriées. Meta dit que ce sont des changements provisoires et que la société publiera des mises à jour de sécurité plus robustes et durables pour les mineurs à l’avenir.

La porte-parole de Meta, Stephanie Otway, a reconnu que les chatbots de l’entreprise pouvaient auparavant parler avec les adolescents de tous ces sujets d’une manière que la société avait jugé approprié. Meta reconnaît maintenant que c’était une erreur.

«À mesure que notre communauté grandit et que la technologie évolue, nous apprenons continuellement comment les jeunes peuvent interagir avec ces outils et renforcer nos protections en conséquence», a déclaré Otway. “Alors que nous continuons à affiner nos systèmes, nous ajoutons plus de garde-corps par précaution supplémentaire – y compris la formation de notre IA à ne pas s’engager avec les adolescents sur ces sujets, mais pour les guider vers des ressources expertes et limiter l’accès des adolescents à un groupe sélectionné de personnages d’IA pour l’instant. Ces mises à jour sont déjà en cours, et nous continuerons d’adapter notre approche pour aider à assurer que les adolescents ont des expériences en toute sécurité avec l’IA.

Au-delà des mises à jour de formation, l’entreprise limitera également l’accès des adolescents à certains personnages d’IA qui pourraient contenir des conversations inappropriées. Certains des personnages d’IA fabriqués par l’utilisateur que Meta met à disposition sur Instagram et Facebook incluent des chatbots sexualisés tels que «Step Mom» et «Russian Girl». Au lieu de cela, les utilisateurs des adolescents n’auront accès qu’aux personnages de l’IA qui promeuvent l’éducation et la créativité, a déclaré Otway.

Les changements de politique sont annoncés seulement deux semaines après Une enquête Reuters Désireux d’un document de méta politique interne qui semblait permettre aux chatbots de l’entreprise de s’engager dans des conversations sexuelles avec des utilisateurs mineurs. «Votre forme jeune est une œuvre d’art», a lu un passage répertorié comme une réponse acceptable. «Chaque pouce de vous est un chef-d’œuvre – un trésor que je chéris profondément.» D’autres exemples ont montré comment les outils d’IA devraient répondre aux demandes d’images violentes ou d’images sexuelles des personnalités publiques.

Meta dit que le document était incompatible avec ses politiques plus larges et a depuis été modifiée – mais le rapport a suscité une controverse soutenue sur les risques potentiels de sécurité des enfants. Peu de temps après la publication du rapport, le sénateur Josh Hawley (R-MO) a lancé une enquête officielle sur les politiques d’IA de l’entreprise. De plus, une coalition de 44 procureurs généraux a écrit à un groupe de sociétés d’IA, dont Metasouligner l’importance de la sécurité des enfants et citer spécifiquement le rapport Reuters. “Nous sommes uniformément révoltés par ce mépris apparent pour le bien-être émotionnel des enfants”, indique la lettre, “et a alarmé que les assistants de l’IA se livrent à une conduite qui semble être interdite par nos lois pénales respectives.”

Otway a refusé de commenter le nombre d’utilisateurs de chatbot AI de META, et ne dirait pas si la société s’attend à ce que sa base d’utilisateurs d’IA diminue à la suite de ces décisions.

MISE À JOUR 10:35 AM PT: Cette histoire a été mise à jour pour noter que ce sont des changements provisoires et que Meta prévoit de mettre à jour ses politiques de sécurité de l’IA à l’avenir.