Mardi, le PDG d’OpenAI, Sam Altman, a déclaré que la société tentait d’équilibrer la vie privée, la liberté et la sécurité des adolescents – des principes qui, a-t-il admis, étaient en conflit. Son article de blog Des heures avant une audience du Sénat se sont concentrées sur l’examen du préjudice des chatbots de l’IA, détenus par le sous-comité sur le crime et le contre-terrorisme et mettant en vedette certains parents d’enfants décédés par suicide après avoir parlé à des chatbots.
« Nous devons séparer les utilisateurs qui sont moins de 18 ans de ceux qui ne le sont pas », a écrit Altman dans le poste, ajoutant que la société est en train de créer un «système de prédiction d’âge pour estimer l’âge en fonction de la façon dont les gens utilisent le chatppt. S’il y a un doute, nous allons jouer un ID en toute sécurité à l’expérience des moins de 18 ans. Dans certains cas ou des pays, nous pouvons également demander un ID.»
Altman a également déclaré que l’entreprise prévoyait d’appliquer différentes règles aux utilisateurs des adolescents, notamment en éloignant de la conversation coquette ou en engageant des conversations sur le suicide ou l’automutilation, «même dans un cadre d’écriture créatif. Et, si un utilisateur des moins de 18 ans a des idées suicidaires, nous tenterons de contacter les parents des utilisateurs et, si non en mesure, contacterons les autorités en cas de dommage immense.»
Les commentaires d’Altman viennent après l’entreprise plans partagés Plus tôt ce mois-ci pour les contrôles parentaux au sein de Chatgpt, notamment en liant un compte à un parent, en désactivant l’historique et la mémoire du chat pour le compte d’un adolescent et en envoyant des notifications à un parent lorsque Chatgpt signale l’adolescent comme «dans un moment de détresse aiguë». Le billet de blog est venu après un procès par la famille d’Adam Raine, un adolescent décédé par suicide Après des mois de parler avec chatppt.
Chatgpt a passé «des mois à l’entraîner vers le suicide», a déclaré mardi Matthew Raine, le père de feu Adam Raine. Il a ajouté: « En tant que parents, vous ne pouvez pas imaginer ce que c’est que de lire une conversation avec un chatbot qui a préparé votre enfant pour se suicider. Ce qui a commencé en tant que aide aux devoirs s’est progressivement transformé en confident puis entraîneur de suicide. »
Lors des conversations de l’adolescent avec Chatgpt, Raine a déclaré que le chatbot mentionnait le suicide 1 275 fois. Raine s’est ensuite adressée directement à Altman, lui demandant de tirer GPT-4O du marché jusqu’à ce que, ou à moins que la société ne garantit qu’elle soit sûre. « Le jour même où Adam est décédé, Sam Altman … a rendu leur philosophie cristalline dans un discours public », a déclaré Raine, ajoutant qu’Altman a déclaré que la société devrait « déployer des systèmes d’IA au monde et obtenir des commentaires tandis que les enjeux sont relativement faibles ». « »
Trois adolescents sur quatre utilisent actuellement des compagnons d’IA, selon le sondage national de Common Sense Media, a déclaré Robbie Torney, directeur principal des programmes d’IA du cabinet, lors de l’audience. Il a spécifiquement mentionné le caractère AI et Meta.
« Il s’agit d’une crise de santé publique », a déclaré une mère, apparaissant sous le nom de Jane Doe, lors de son témoignage sur l’expérience de son enfant avec le personnage de l’IA. « C’est une guerre en santé mentale, et j’ai vraiment l’impression de perdre. »