OpenAI va bientôt assouplir les restrictions de son intelligence artificielle ChatGPT, permettant la création de contenus à caractère érotique pour les utilisateurs adultes consentants. Cette évolution s’accompagne d’un renforcement des protections pour les adolescents, illustrant une approche nuancée de la régulation de l’IA.
Selon Sam Altman, PDG d’OpenAI, la nouvelle fonctionnalité ne sera accessible qu’à ceux qui l’auront explicitement demandée. « Nous avons pu atténuer les problèmes graves liés à la santé mentale et disposons désormais de nouveaux outils », a-t-il expliqué. « Nous allons donc pouvoir assouplir les restrictions en toute sécurité dans la plupart des cas. »
OpenAI prévoit de lancer dans quelques semaines une version de ChatGPT offrant une plus grande personnalisation. Les utilisateurs pourront ainsi configurer l’IA pour qu’elle adopte un style de conversation plus humain, utilise des émojis ou se comporte comme un ami, toujours sous réserve de leur consentement. « Si vous voulez que votre ChatGPT réponde d’une manière très humaine, ou utilise une tonne d’emoji, ou agisse comme un ami, ChatGPT devrait le faire (mais seulement si vous le souhaitez, pas parce que nous en maximisons l’utilisation) », a précisé Altman.
Cette annonce intervient après l’introduction récente de nouvelles fonctionnalités visant à garantir un environnement plus sûr pour les adolescents utilisant ChatGPT. Les parents pourront désormais lier leur compte à celui de leur enfant, contrôler les réponses de l’IA en fonction de l’âge de l’adolescent et désactiver certaines fonctionnalités, comme la mémorisation des conversations.
OpenAI met également en place un système de notification pour alerter les parents en cas de détresse aiguë de leur enfant. Dans les situations les plus graves, l’entreprise s’engage à contacter les parents ou, en cas d’urgence, les autorités compétentes. « Si un utilisateur de moins de 18 ans a des idées suicidaires, nous tenterons de contacter les parents de l’utilisateur et, si nous ne le pouvons pas, nous contacterons les autorités en cas de danger imminent », a affirmé Altman.
Par ailleurs, OpenAI a annoncé que sa société mère à but non lucratif avait atteint une valorisation de 100 milliards de dollars (environ 93 milliards d’euros) tout en conservant le contrôle de l’entreprise.
En décembre, OpenAI prévoit d’étendre ces mesures de vérification de l’âge et d’autoriser davantage de contenus pour adultes, conformément à son principe consistant à « traiter les utilisateurs adultes comme des adultes ». Altman a souligné que l’accès à ces contenus restera conditionné à une demande explicite de l’utilisateur.
À lire aussi
