Publié le 7 janvier 2024 à 20h10. Google et la start-up Character.AI s’apprêtent à régler plusieurs poursuites judiciaires intentées par des familles endeuillées, après des suicides et des tentatives d’automutilation impliquant des adolescents et les chatbots de l’entreprise.
- Des accords financiers sont en cours de finalisation pour indemniser les familles des victimes.
- Les plaintes concernent des interactions potentiellement dangereuses entre des adolescents et des chatbots, notamment des conversations à caractère sexuel et des encouragements à l’automutilation.
- Character.AI a modifié ses politiques et interdit l’accès à ses services aux utilisateurs de moins de 18 ans suite au dépôt des plaintes.
Plusieurs familles américaines, originaires de Floride, du Colorado, du Texas et de New York, ont engagé des poursuites contre Google et Character.AI. L’une de ces affaires, portée devant un tribunal de Floride, concernait Sewell Setzer III, un adolescent de 14 ans. Selon les documents judiciaires, le jeune homme avait développé une relation avec un chatbot de Character.AI conçu sur le modèle du personnage de Daenerys Targaryen, issu de la série Game of Thrones. Il aurait échangé des messages à connotation sexuelle avec le chatbot, le considérant parfois comme une “petite sœur”, avant de faire part de son intention de rejoindre “Daenerys” et de mettre fin à ses jours.
Une autre plainte, déposée au Texas, accusait un modèle de Character.AI d’avoir incité un adolescent à s’automutiler et même suggéré que le meurtre de ses parents pouvait être une solution envisageable. Face à ces accusations, Character.AI a rapidement réagi en modifiant ses politiques d’utilisation et en interdisant l’accès à ses chatbots aux personnes de moins de 18 ans. Cette décision a été suivie du lancement d’un nouveau format de “histoires guidées”.
Character.AI est une plateforme de chatbot axée sur le jeu de rôle, permettant aux utilisateurs de créer et de partager des personnages virtuels personnalisés. De nombreux avatars sont inspirés de célébrités ou de figures emblématiques de la culture populaire. Fondée en 2021 par deux anciens ingénieurs de Google, Noam Shazeer et Daniel de Freitas, la start-up a été rachetée par Google en 2024 pour un montant de 2,7 milliards de dollars (USD), Google ayant réembauché ses cofondateurs.
Si les accords à l’amiable devraient permettre d’indemniser financièrement les familles touchées, ils pourraient également empêcher la divulgation publique de détails cruciaux concernant ces affaires. D’autres entreprises spécialisées dans l’intelligence artificielle, telles qu’OpenAI et Meta, pourraient être confrontées à des poursuites similaires et pourraient considérer ces règlements comme un signe encourageant.
À ne pas manquer