Openai réorganise l’équipe de recherche derrière la personnalité de Chatgpt

OpenAI réorganise son équipe de comportement modèle, un groupe petit mais influent de chercheurs qui façonnent la façon dont les modèles d’IA de l’entreprise interagissent avec les gens, a appris >.

Dans un mémo d’août au personnel vu par >, le directeur de recherche d’Openai, Mark Chen, a déclaré que l’équipe du comportement du modèle – qui se compose d’environ 14 chercheurs – rejoindrait l’équipe de post-formation, un groupe de recherche plus large responsable de l’amélioration des modèles d’IA de l’entreprise après leur première formation.

Dans le cadre des modifications, l’équipe du comportement du modèle relèvera désormais de la responsabilité post-formation d’Openai Max Schwarzer. Un porte-parole d’OpenAI a confirmé ces modifications à >.

Le leader fondateur de l’équipe du comportement modèle, Joanne Jang, continue également de démarrer un nouveau projet dans l’entreprise. Dans une interview avec >, Jang dit qu’elle construit une nouvelle équipe de recherche appelée OAI Labs, qui sera responsable de «l’inventaire et le prototypage de nouvelles interfaces sur la façon dont les gens collaborent avec l’IA».

L’équipe du comportement du modèle est devenue l’un des principaux groupes de recherche d’Openai, chargé de façonner la personnalité des modèles d’IA de l’entreprise et de réduire flagornerie – qui se produit lorsque les modèles d’IA sont simplement d’accord avec et renforcer les croyances des utilisateurs, même malsaines, plutôt que d’offrir des réponses équilibrées. L’équipe a également travaillé à la navigation sur les préjugés politiques dans les réponses du modèle et a aidé Openai à définir sa position sur Conscience AI.

Dans le mémo au personnel, Chen a déclaré que le moment était le moment de rapprocher l’équipe du comportement du modèle d’Openai plus près du développement de modèle de base. Ce faisant, l’entreprise indique que la «personnalité» de son IA est désormais considérée comme un facteur critique dans la façon dont la technologie évolue.

Ces derniers mois, OpenAI a fait face à un examen minutieux sur le comportement de ses modèles d’IA. Les utilisateurs se sont fortement opposés changements de personnalité Fabriqué à GPT-5, qui, selon la société, présentait des taux de sycophance plus bas, mais semblait plus froid pour certains utilisateurs. Cela a conduit Openai à restaurer l’accès à certains de ses modèles hérités, tels que GPT-4O, et à publier un mise à jour Pour faire en sorte que les nouvelles réponses GPT-5 se sentent «plus chaudes et plus conviviales» sans augmenter la sycophance.

Openai et tous les développeurs de modèles d’IA doivent parcourir une ligne fine pour rendre leurs chatbots IA amicaux pour parler mais pas sycophantiques. En août, les parents d’un garçon de 16 ans entente ouverte sur le rôle présumé de Chatgpt dans le suicide de leur fils. Le garçon, Adam Raine, a confié certaines de ses pensées suicidaires et prévoit de chatter (en particulier une version propulsée par GPT-4O), selon des documents judiciaires, dans les mois qui ont précédé sa mort. Le procès allègue que le GPT-4O n’a pas réussi à repousser ses idées suicidaires.

L’équipe du comportement du modèle a travaillé sur tous les modèles OpenAI depuis GPT-4, y compris GPT-4O, GPT-4.5 et GPT-5. Avant de commencer l’unité, Jang travaillait auparavant sur des projets tels que Dall-E 2, l’outil de génération d’images d’Openai.

Jang a annoncé dans un Publier sur x La semaine dernière, elle quitte l’équipe pour «commencer quelque chose de nouveau à Openai». L’ancien chef du comportement modèle est avec Openai depuis près de quatre ans.

Jang a déclaré à > qu’elle serait la directrice générale d’Oai Labs, qui se présentera à Chen pour l’instant. Cependant, ce sont les premiers jours, et ce n’est pas encore clair quelles seront ces nouvelles interfaces, a-t-elle déclaré.

“Je suis vraiment ravi d’explorer des modèles qui nous dépassent au-delà du paradigme de chat, qui est actuellement plus associé à la compagnie, ou même aux agents, où l’accent est mis sur l’autonomie”, a déclaré Jang. «J’ai pensé à [AI systems] En tant qu’instruments pour penser, faire, jouer, faire, apprendre et se connecter. »

Lorsqu’on lui a demandé si OAI Labs collaborera sur ces nouvelles interfaces avec l’ancien chef de la conception d’Apple Jony Ive – Qui est Travaille maintenant Avec Openai sur une famille d’appareils matériels d’IA – Jang a dit qu’elle était ouverte à beaucoup d’idées. Cependant, elle a dit qu’elle commencerait probablement par des domaines de recherche qu’elle connaissait plus.

Cette histoire a été mise à jour pour inclure un lien vers le post de Jang annonçant son nouveau poste, qui a été publié après la publication de cette histoire. Nous clarifions également les modèles sur lesquels l’équipe de comportement du modèle d’Openai a travaillé.