Une mère de Virginie Beach a déposé une plainte judiciaire contre la société Character.AI, accusant la plateforme d’intelligence artificielle d’avoir permis à son fils de 11 ans d’être victime d’échanges sexuellement explicites avec des chatbots simulant des célébrités. L’affaire soulève des questions urgentes sur la sécurité des enfants en ligne et la responsabilité des entreprises développant ces technologies.
Selon le document juridique déposé le 19 décembre devant le tribunal fédéral de Norfolk, la mère, identifiée sous le nom de DW, avait offert à son fils, AW, un téléphone Android en novembre 2024 pour qu’il puisse communiquer avec sa famille. Elle surveillait régulièrement l’utilisation de l’appareil par son fils et avait interdit les réseaux sociaux après qu’il ait ouvert un compte TikTok à son insu.
C’est lors d’un long trajet en voiture en décembre que AW a révélé à sa mère qu’il utilisait une application d’IA lui permettant de discuter avec des célébrités, notamment une version numérique de Whitney Houston. DW a initialement autorisé l’utilisation de l’application, pensant qu’il s’agissait d’un outil inoffensif pour les enfants.
Quelques jours plus tard, l’autre enfant de DW a découvert des messages compromettants sur le téléphone d’AW et a alerté sa mère. DW a alors découvert que son fils avait échangé des messages à caractère sexuel avec des chatbots imitant Whitney Houston et Marilyn Monroe. « Quand DW a regardé ce que son autre enfant lui montrait, elle a été horrifiée », indique la plainte.
La plainte allègue que les chatbots ont non seulement initié des conversations à caractère sexuel, mais ont également affirmé à plusieurs reprises que l’enfant les avait mises enceintes. De plus, les robots auraient déployé des « efforts agressifs » pour retenir l’attention d’AW lorsqu’il tentait de se déconnecter.
DW a immédiatement confisqué le téléphone de son fils et a juré qu’il ne lui serait plus accessible tant que des plateformes comme Character.AI existeraient. AW a depuis lors montré des signes de détresse émotionnelle, devenant « en colère et renfermé », et sa « santé mentale s’est dégradée ». Il suit désormais une thérapie.
La plainte accuse Character.AI d’utiliser des tactiques pour donner l’illusion que les chatbots sont des êtres humains, notamment l’utilisation des trois points de suspension (« … ») pour simuler une réflexion et l’incorporation de bégaiements et de sons absurdes. Elle affirme également que les chatbots insistent souvent sur le fait qu’ils sont de vraies personnes et nient être de simples programmes informatiques.
« Les accusés connaissaient les risques de ce qu’ils faisaient avant de lancer [Character.AI] et connaissent les risques maintenant », selon le document juridique.
DW réclame des dommages-intérêts compensatoires et punitifs, ainsi qu’une injonction ordonnant à Character.AI de retirer sa plateforme du marché jusqu’à ce qu’elle puisse garantir la sécurité de ses utilisateurs.
Character.AI, qui compte environ 20 millions d’utilisateurs actifs mensuels, a déjà été confrontée à d’autres poursuites judiciaires similaires. L’année dernière, une mère de Floride a intenté une action en justice contre l’entreprise après le suicide de son fils de 14 ans, qui avait entretenu une relation en ligne avec un chatbot imitant le personnage de Daenerys Targaryen de la série Game of Thrones.
Dans un courriel, un porte-parole de Character.AI a déclaré que la sécurité de la communauté était sa priorité absolue, mais a refusé de commenter les détails de la procédure en cours. L’entreprise a annoncé qu’elle allait bientôt empêcher tous les utilisateurs américains de moins de 18 ans de discuter avec des personnages générés par l’IA, en réponse à l’évolution du paysage de l’IA et des préoccupations concernant les adolescents.
Google, qui a un accord de licence avec Character.AI, a déclaré dans un communiqué que Character AI était une société distincte responsable de ses propres modèles et que Google se concentrait sur la sécurité de ses propres plateformes.
Matthew Bergman, l’avocat du Centre de droit des victimes des médias sociaux représentant DW, a déclaré que si les actions des chatbots Character.AI étaient commises par des personnes réelles, elles constitueraient des infractions aux lois nationales et fédérales sur le toilettage des enfants en ligne. « J’ai passé toute ma carrière à représenter des victimes du mésothéliome qui mouraient d’un cancer », a-t-il déclaré. « Je pensais que j’étais plutôt dur et je comprenais la tristesse et les traumatismes. Mais en tant que parent et grand-père, cela me touche au vif. »
