OpenAI réorganise son équipe de comportement modèle, un groupe petit mais influençant de chercheurs qui façonnent la façon dont les modèles d’IA de l’entreprise interagissent avec les gens, a appris TechCrunch.
Dans un mémo d’août au personnel vu par TechCrunch, le directeur de recherche d’Openai, Mark Chen, a déclaré que l’équipe du comportement du modèle – qui se compose d’environ 14 chercheurs – se joindrait à l’équipe post-formation, un groupe de recherche plus large responsable de l’amélioration de l’entreprise avant la formation.
Dans le cadre des modifications, l’équipe du comportement du modèle relèvera désormais de la responsabilité post-formation d’Openai Max Schwarzer. Un porte-parole d’OpenAI a confirmé ces modifications à TechCrunch.
Le leader fondateur de l’équipe du comportement modèle, Joanne Jang, continue également de démarrer un nouveau projet dans l’entreprise. Dans une interview avec TechCrunch, Jang dit qu’elle construit une nouvelle équipe de recherche appelée OAI Labs, qui sera responsable de «l’inventaire et le prototypage de nouvelles interfaces sur la façon dont les gens collaborent avec l’IA».
L’équipe de comportement du modèle est devenue l’un des principaux groupes de recherche d’Openai, chargé de façonner la personnalité des modèles d’IA de l’entreprise et de réduire la sycophance – qui se produit lorsque les modèles d’IA sont simplement d’accord avec et renforcer les croyances des utilisateurs, même des ménages malsains, plutôt que d’offrir une équilibre entre la façon dont la stance a également travaillé.
Dans le mémo au personnel, Chen a déclaré que le moment était le moment de rapprocher l’équipe du comportement du modèle d’Openai plus près du développement de modèle de base. Ce faisant, l’entreprise indique que la «personnalité» de son IA est désormais considérée comme un facteur critique dans l’évolution de la technologie.
Ces derniers mois, OpenAI a fait face à un bulletin de vote excité sur le comportement de ses modèles d’IA. Les utilisateurs ont fortement obscurci les modifications de la personnalité apportées à GPT-5, qui, selon la société, présentaient des taux de sycophance plus faibles mais semblaient plus froids pour certains utilisateurs. Cela a conduit Openai à restaurer l’accès à certains de ses modèles hérités, tels que GPT-4O, et à publier une mise à jour pour faire en sorte que les nouvelles réponses GPT-5 se sentent «plus chaudes et plus conviviales» sans inclure la sycophance.
Événement TechCrunch
San Francisco
|
27-29 octobre 2025
Openai et tous les développeurs de modèles d’IA doivent marcher une fine ligne pour rendre leurs chatbots IA amicaux pour parler à non sycophantique. En août, les parents d’un garçon de 16 ans ont poursuivi Openai sur le rôle allé de Chatgpt dans le suicide de leur fils. Le garçon, Adam Raine, a confié certaines de ses pensées suicidaires et prévoit de chatter (spécifiquement une version propulsée par GPT-4O), selon de courts documents, dans le mois précédant sa mort. Le procès prétend que GPT-4O n’a pas réussi à repousser ses idées suicidaires.
L’équipe du comportement du modèle a travaillé sur chaque vente de modèle OpenAI GPT-4, y compris GPT-4O, GPT-4.5 et GPT-5. Avant de commencer l’unité, Jang travaillait auparavant sur des projets tels que Dall-E 2, l’outil de génération d’images d’Openai.
Jang a annoncé dans un article sur X la semaine dernière qu’elle quittait l’équipe pour «commencer quelque chose de nouveau à Openai». Le chef de file du comportement du modèle est avec OpenA depuis près de quatre ans.
Jang a déclaré à TechCrunch qu’elle serait la directrice générale d’Oai Labs, qui se présentera à Chen pour l’instant. Cependant, ce sont les premiers jours, et ce n’est pas encore clair quelles seront ces nouvelles interfaces, a-t-elle déclaré.
« Je suis vraiment ravi d’explorer des modèles qui nous dépassent au-delà du paradigme de chat, qui est actuellement plus associé à la compagnie, ou même aux agents, où l’accent est mis sur l’autonomie », a déclaré Jang. «J’ai considéré (les systèmes d’IA) comme des instruments pour penser, faire, jouer, faire, apprendre et se connecter.»
Lorsqu’on lui a demandé que les laboratoires d’Oai collaborent sur ces nouvelles interfaces avec le chef de la forme d’Apple, Jony Ive – qui travaille maintenant avec Openai sur une famille d’appareils matériels de l’IA – Jang a dit qu’elle était ouverte à beaucoup d’idées. Cependant, elle a dit qu’elle commencerait probablement par des domaines de recherche avec lesquels elle est plus en famille.
Cette histoire a été mise à jour pour inclure un lien vers le post de Jang annonçant son nouveau poste, qui a été publié après la publication de cette histoire. Nous clarifions également les modèles sur lesquels le monde de l’équipe du comportement du modèle d’Openai.
