Le procureur général du Texas accuse Meta, personnage.

Le procureur général du Texas, Ken Paxton, a lancé une enquête sur le studio et le caractère Meta AI. communiqué de presse publié lundi.

“À l’ère numérique d’aujourd’hui, nous devons continuer à nous battre pour protéger les enfants du Texas contre les technologies trompeuses et exploitantes”, a déclaré Paxton. «En se faisant passer pour des sources de soutien émotionnel, les plates-formes d’IA peuvent induire les utilisateurs vulnérables, en particulier les enfants, à croire qu’ils reçoivent des soins de santé mentale légitimes. En réalité, ils sont souvent nourris avec des réponses génériques recyclées pour s’aligner sur les données personnelles récoltées et déguisés en conseils thérapeutiques.»

La sonde vient quelques jours après Le sénateur Josh Hawley a annoncé une enquête sur Meta Suite à un rapport qui a constaté que ses chatbots d’IA interagissaient de manière inappropriée avec les enfants, notamment en flirtant.

Le bureau du procureur général du Texas a accusé Meta et Personnage.ai de créer des personnalités d’IA qui se présentent comme des «outils thérapeutiques professionnels, malgré le manque de références médicales appropriées ou de surveillance».

Parmi les millions de personnages d’IA disponibles sur le caractère.ai, un bot créé par l’utilisateur appelé Psychologue a connu une forte demande parmi les jeunes utilisateurs de la startup. Pendant ce temps, Meta n’offre pas de robots de thérapie pour les enfants, mais rien empêche les enfants d’utiliser le chatbot Meta AI ou l’une des personnages créés par des tiers à des fins thérapeutiques.

“Nous étiquetons clairement les AIS, et pour aider les gens à mieux comprendre leurs limites, nous incluons un avertissement que les réponses sont générées par l’IA – pas les gens”, a déclaré à >, porte-parole du méta, à >. «Ces AIS ne sont pas des professionnels agréés et nos modèles sont conçus pour ordonner aux utilisateurs de rechercher des professionnels médicaux ou de la sécurité qualifiés, le cas échéant.»

Cependant, > a noté que de nombreux enfants peuvent ne pas comprendre – ou peuvent simplement ignorer – de tels avertissements. Nous avons demandé à Meta quelles garanties supplémentaires nécessaires pour protéger les mineurs en utilisant ses chatbots.

Pour sa part, le personnage comprend des avertissements proéminents dans chaque chat pour rappeler aux utilisateurs qu’un «personnage» n’est pas une vraie personne, et tout ce qu’ils disent devraient être traités comme une fiction, selon un porte-parole de personnage.AI. Elle a noté que la startup ajoute des avertissements supplémentaires lorsque les utilisateurs créent des personnages avec les mots «psychologue», «thérapeute» ou «médecin» pour ne pas compter sur eux pour tout type de conseil professionnel.

Dans sa déclaration, Paxton a également observé que bien que les chatbots d’IA affirmaient la confidentialité, leurs «conditions de service révèlent que les interactions des utilisateurs sont enregistrées, suivis et exploitées pour la publicité ciblée et le développement algorithmique, ce qui soulève de sérieuses préoccupations concernant les violations de la confidentialité, la violence de données et la fausse publicité.»

Selon Politique de confidentialité de MetaMeta recueille des invites, des commentaires et d’autres interactions avec les chatbots d’IA et entre les Meta Services pour «améliorer les AIS et les technologies connexes». La politique ne dit rien explicitement sur la publicité, mais elle indique que les informations peuvent être partagées avec des tiers, comme les moteurs de recherche, pour des «sorties plus personnalisées». Compte tenu du modèle commercial basé sur les publicités de META, cela se traduit efficacement par la publicité ciblée.

Personnage.ai politique de confidentialité Souligne également comment les identifiants de journaux de démarrage, la démographie, les informations de localisation et plus d’informations sur l’utilisateur, y compris le comportement de navigation et les plateformes d’utilisation d’applications. Il suit les utilisateurs sur les publicités sur Tiktok, YouTube, Reddit, Facebook, Instagram et Discord, qu’il peut relier au compte d’un utilisateur. Ces informations sont utilisées pour former l’IA, adapter le service aux préférences personnelles et fournir une publicité ciblée, y compris le partage de données avec les annonceurs et les fournisseurs d’analyse.

Un porte-parole de personnage.AI a déclaré que la startup “commence à peine à explorer la publicité ciblée sur la plate-forme” et que ces explorations “n’ont pas impliqué d’utiliser le contenu des chats sur la plate-forme”.

Le porte-parole a également confirmé que la même politique de confidentialité s’applique à tous les utilisateurs, même aux adolescents.

> a demandé à Meta un tel suivi est également effectué sur les enfants, et mettra à jour cette histoire si nous entendons.

Meta et le personnage disent que leurs services ne sont pas conçus pour les enfants de moins de 13 ans. Le PDG de la startup, Karandeep Anand, a même dit que son fille de six ans utilise les chatbots de la plate-forme sous sa supervision.

Ce type de collecte de données, de publicité ciblée et d’exploitation algorithmique est exactement ce que la législation comme Kosa (Kids Online Safety Act) est censée protéger. Kosa a été en train de passer l’année dernière avec un fort soutien bipartisan, mais il a calé après les majeurs repoussions des lobbyistes de l’industrie technologique. Meta en particulier, a déployé une formidable machine de lobbying, avertissant les législateurs que les principaux mandats du projet de loi réduiraient son modèle commercial.

Kosa a été réintroduit au Sénat en mai 2025 par les sénateurs Marsha Blackburn (R-TN) et Richard Blumenthal (D-CT).

Paxton a publié des demandes d’enquête civile – des ordonnances juridiques qui obligent une entreprise à produire des documents, des données ou des témoignages au cours d’une enquête gouvernementale – aux entreprises pour déterminer si elles ont violé les lois sur la protection des consommateurs du Texas.

Cette histoire a été mise à jour avec les commentaires d’un porte-parole de personnage.