OpenAI va bientôt lever certaines restrictions sur ChatGPT, autorisant des conversations à caractère adulte pour les utilisateurs ayant prouvé leur majorité. Cette évolution s’accompagne d’un retour aux paramètres appréciés par les utilisateurs avant le déploiement de la nouvelle version du modèle, GPT-4o.
Selon un message publié sur X le mardi 21 mai 2024 par Sam Altman, PDG d’OpenAI, la société entend adopter une approche plus souple, considérant les utilisateurs adultes comme tels. « Au fur et à mesure que nous déployons davantage la limitation de l’âge et dans le cadre de notre principe de ‘traiter les utilisateurs adultes comme des adultes’, nous autoriserons encore plus, comme l’érotisme pour les adultes vérifiés », a-t-il écrit.
Cette annonce intervient après des indications antérieures d’OpenAI concernant la possibilité pour les développeurs de créer des applications ChatGPT « matures », une fois que des systèmes de vérification de l’âge et des contrôles appropriés seraient mis en place. Parallèlement à l’introduction de contenu à caractère adulte, OpenAI prévoit de lancer une nouvelle version de ChatGPT qui se rapprochera du comportement de la version que les utilisateurs appréciaient avant les changements récents.
Le retour en arrière sur le modèle GPT-4o fait suite à une vague de critiques. Après avoir rendu GPT-5 modèle par défaut pour ChatGPT, OpenAI a réintroduit GPT-4o en option, suite aux plaintes des utilisateurs qui le trouvaient moins performant et agréable à utiliser. Altman a reconnu qu’OpenAI avait rendu ChatGPT « assez restrictif pour garantir que nous étions prudents face aux problèmes de santé mentale », mais a admis que cette approche avait rendu le chatbot « moins utile/agréable pour de nombreux utilisateurs qui n’avaient aucun problème de santé mentale ». Des outils de détection améliorés ont depuis été lancés pour identifier les utilisateurs en situation de détresse psychologique.
OpenAI a également annoncé la création d’un conseil consultatif dédié au « bien-être et à l’IA », chargé d’orienter la réponse de l’entreprise aux situations « complexes ou sensibles ». Composé de huit chercheurs et experts, ce conseil étudiera l’impact de la technologie et de l’IA sur la santé mentale. Cependant, comme le souligne Ars Technica, il ne comprend aucun spécialiste de la prévention du suicide, malgré les récentes inquiétudes soulevées à ce sujet par des experts qui ont contacté OpenAI. L’entreprise a affirmé qu’elle allait déployer des protections supplémentaires pour les utilisateurs exprimant des pensées suicidaires.
« Maintenant que nous avons pu atténuer les graves problèmes de santé mentale et disposer de nouveaux outils, nous allons pouvoir assouplir les restrictions en toute sécurité dans la plupart des cas », a conclu Altman sur X.