Le procureur général de Californie, Rob Bonta, et le procureur général du Delaware, Kathy Jennings lettre ouverte Openai pour exprimer leurs préoccupations concernant la sécurité de Chatgpt, en particulier pour les enfants et les adolescents.
L’avertissement intervient une semaine après que Bonta et 44 autres procureurs généraux ont envoyé une lettre à 12 des meilleures sociétés d’IA, après rapports d’interactions sexuellement inappropriées entre les chatbots d’IA et les enfants.
“Depuis la publication de cette lettre, nous avons appris la mort déchirante par le suicide d’un jeune Californien après avoir prolongé des interactions avec un chatbot Openai, ainsi qu’un meurtre-suicide inquiétant dans le Connecticut”, écrit Bonta et Jennings. «Quelles que soient les garanties en place, ne fonctionnaient pas.»
Les deux responsables de l’État enquêtent actuellement sur la restructuration proposée par OpenAI dans une entité à but lucratif pour s’assurer que la mission de la à but non lucratif reste intact. Cette mission «comprend la garantie que l’intelligence artificielle est déployée en toute sécurité» et la construction de l’intelligence générale artificielle (AGI) au profit de toute l’humanité, «y compris les enfants», selon la lettre.
«Avant de profiter, nous devons nous assurer que des mesures de sécurité adéquates sont en place pour ne pas nuire», poursuit la lettre. «Nous sommes partagés selon lesquels OpenAI et l’industrie dans son ensemble ne sont pas là où ils doivent assurer la sécurité dans le développement et le déploiement des produits de l’IA. En tant que procureur général, la sécurité publique est l’une de nos missions principales. Alors que nous continuons notre dialogue lié au plan de récapitalisation d’OpenAI, nous devons travailler à accélérer et à amplifier la sécurité en tant que force gouvernante dans l’avenir de cette technologie puissante.»
Bonta et Jennings ont demandé plus d’informations sur les précautions et la gouvernance actuelles d’Openai, et ont déclaré qu’ils s’attendent à ce que l’entreprise prenne des mesures de réparation immédiates le cas échéant.
> a contacté Openai pour commenter.
Événement >
San Francisco
|
27-29 octobre 2025
À lire aussi
