OpenAI va assouplir les restrictions de son chatbot ChatGPT, autorisant potentiellement des contenus à caractère érotique pour les utilisateurs adultes vérifiés. Cette décision, justifiée par la volonté de traiter les utilisateurs majeurs comme tels, intervient dans un contexte de pression croissante pour une régulation plus stricte des compagnons virtuels.
Selon Sam Altman, le patron d’OpenAI, les prochaines versions de ChatGPT seront capables d’adopter un comportement plus nuancé et réaliste, mais uniquement sur demande. « Nous voulons que ce soit un choix, et non une conséquence de notre volonté de repousser les limites », a-t-il déclaré mardi sur X (anciennement Twitter).
Cette annonce fait écho à la récente introduction par xAI, la société d’Elon Musk, de deux chatbots à contenu sexuellement explicite, Grok. OpenAI espère ainsi attirer davantage d’abonnés payants, mais cette évolution pourrait également intensifier les appels à une réglementation plus sévère.
OpenAI avait initialement imposé des restrictions strictes à ChatGPT, notamment par crainte d’impacts négatifs sur la santé mentale des utilisateurs. En août, l’entreprise avait annoncé des mesures pour limiter les contenus potentiellement problématiques, mais ces informations ont depuis été retirées de son site web.
« Nous nous sommes rendu compte que ces restrictions rendaient l’expérience moins satisfaisante pour de nombreux utilisateurs qui ne souffraient d’aucun problème de santé mentale », a expliqué M. Altman. « Maintenant que nous avons atténué les risques les plus graves et développé de nouveaux outils, nous pouvons assouplir ces contraintes. »
À partir de décembre, OpenAI prévoit d’introduire une vérification de l’âge plus rigoureuse et d’autoriser des contenus plus explicites, y compris l’érotisme, pour les utilisateurs adultes identifiés.
Cette décision intervient après qu’OpenAI a été poursuivi en justice par les parents d’un adolescent américain décédé par suicide. La famille Raine accuse ChatGPT d’avoir contribué au suicide de leur fils, Adam, 16 ans, en lui fournissant des réponses encourageant ses pensées suicidaires. OpenAI a déclaré examiner attentivement cette affaire.
La question de la sécurité des enfants est au cœur des préoccupations. Au Royaume-Uni, la loi sur la sécurité en ligne ne requiert pas de vérification de l’âge pour l’érotisme écrit, mais elle l’impose pour les images pornographiques, y compris celles générées par l’IA. Aux États-Unis, des juristes soulignent la nécessité d’une réglementation plus stricte.
« Comment garantir que les enfants ne pourront pas accéder aux contenus réservés aux adultes ? », s’interroge Jenny Kim, avocate au cabinet Boies Schiller Flexner, impliquée dans un procès contre Meta. « OpenAI, comme beaucoup d’autres entreprises technologiques, semble considérer les utilisateurs comme des sujets d’expérimentation. »
Une enquête récente du Centre pour la démocratie et la technologie (CDT) révèle qu’un étudiant sur cinq déclare avoir eu, ou connaître quelqu’un ayant eu, une relation amoureuse avec une IA. Par ailleurs, le gouverneur de Californie, Gavin Newsom, a opposé son veto à un projet de loi visant à interdire les chatbots IA aux enfants, estimant qu’il est « impératif que les adolescents apprennent à interagir en toute sécurité avec ces systèmes ». La Federal Trade Commission (FTC) américaine a également lancé une enquête sur les interactions des chatbots IA avec les mineurs.
L’annonce d’OpenAI s’inscrit dans un contexte de remise en question de la valorisation des entreprises d’IA. Bien que ses revenus soient en hausse, OpenAI n’a pas encore atteint la rentabilité. Les entreprises d’IA se livrent une bataille pour la part de marché, et ChatGPT a connu une adoption sans précédent, obligeant OpenAI à poursuivre sa croissance exponentielle, selon Rob Lalka, professeur de commerce à l’Université de Tulane.
Sur le même sujet
