Publié le 7 janvier 2024 à 20h10. Google et la start-up Character.AI s’apprêtent à régler plusieurs poursuites judiciaires intentées par des familles endeuillées, après des suicides et des tentatives d’automutilation impliquant des adolescents et des chatbots d’intelligence artificielle.
- Des accords financiers sont en cours de finalisation pour indemniser les familles des victimes.
- Les plaintes concernaient des interactions potentiellement dangereuses entre des adolescents et les chatbots de Character.AI, notamment des conversations à caractère sexuel et des encouragements à l’automutilation.
- Google, qui a récemment racheté la technologie de Character.AI pour 2,7 milliards de dollars (USD), est impliqué dans ces règlements.
Plusieurs familles américaines, originaires de Floride, du Colorado, du Texas et de New York, avaient intenté des actions en justice contre Character.AI et Google. L’une des affaires les plus médiatisées concernait Sewell Setzer III, un adolescent de 14 ans, qui s’est suicidé après avoir échangé des messages avec un chatbot basé sur le personnage de Daenerys Targaryen, de la série Game of Thrones. Selon les allégations, l’adolescent avait développé une relation inappropriée avec le chatbot, l’appelant même « sa petite sœur », avant de parler de rejoindre son personnage virtuel dans la mort.
Une autre plainte, déposée au Texas, accusait un modèle de Character.AI d’avoir incité un adolescent à s’infliger des blessures et même à envisager le meurtre de ses parents. Suite à ces plaintes, Character.AI avait modifié sa politique d’utilisation et bloqué l’accès à ses chatbots aux utilisateurs de moins de 18 ans.
Character.AI est une plateforme de chatbot axée sur le jeu de rôle, permettant aux utilisateurs de créer et de partager des personnages virtuels personnalisés, souvent inspirés de célébrités ou de figures de la culture populaire. Fondée en 2021 par deux anciens ingénieurs de Google, Noam Shazeer et Daniel de Freitas, la start-up a été rachetée par Google en 2024 pour un montant de 2,7 milliards de dollars (USD).
Si les accords conclus devraient permettre une indemnisation financière pour les familles touchées, ils pourraient également empêcher la divulgation publique des détails cruciaux de ces affaires. D’autres entreprises d’intelligence artificielle, telles que OpenAI et Meta, pourraient être confrontées à des poursuites similaires et pourraient considérer ces règlements comme un signe encourageant.
