A OpenAI está reorganizando sua equipe de Comportamento do Modelo, um pequeno, mas influente grupo de pesquisadores que moldam como os modelos de IA da empresa interagem com as pessoas, soube o TechCrunch.
Em um memorando de agosto para os funcionários, visto pelo TechCrunch, o Chief Research Officer da OpenAI, Mark Chen, disse que a equipe de Comportamento do Modelo — que consiste em cerca de 14 pesquisadores — se juntaria à equipe Pós-Treinamento, um grupo de pesquisa maior responsável por melhorar os modelos de IA da empresa após seu pré-treinamento inicial.
Como parte das mudanças, a equipe de Comportamento do Modelo agora reportará ao líder de Pós-Treinamento da OpenAI, Max Schwarzer. Um porta-voz da OpenAI confirmou essas mudanças ao TechCrunch.
A líder fundadora da equipe de Comportamento do Modelo, Joanne Jang, também está mudando para iniciar um novo projeto na empresa. Em uma entrevista ao TechCrunch, Jang diz que está desenvolvendo uma nova equipe de pesquisa chamada OAI Labs, que será responsável por “inventar e prototipar novas interfaces para como as pessoas colaboram com a IA.”
A equipe de Comportamento do Modelo se tornou um dos principais grupos de pesquisa da OpenAI, responsável por moldar a personalidade dos modelos de IA da empresa e por reduzir a sycophancy — que ocorre quando os modelos de IA simplesmente concordam e reforçam as crenças dos usuários, mesmo as não saudáveis, em vez de oferecer respostas equilibradas. A equipe também trabalhou na navegação de viés político nas respostas dos modelos e ajudou a OpenAI a definir sua posição sobre a consciência da IA.
No memorando para os funcionários, Chen disse que agora é o momento de aproximar o trabalho da equipe de Comportamento do Modelo do desenvolvimento central dos modelos da OpenAI. Ao fazer isso, a empresa está sinalizando que a “personalidade” de sua IA agora é considerada um fator crítico em como a tecnologia evolui.
Nos últimos meses, a OpenAI enfrentou um aumento da escrutínio sobre o comportamento de seus modelos de IA. Os usuários se opuseram fortemente a mudanças de personalidade feitas no GPT-5, que a empresa disse apresentar taxas mais baixas de sycophancy, mas parecia mais fria para alguns usuários. Isso levou a OpenAI a restaurar o acesso a alguns de seus modelos legados, como o GPT-4o, e a lançar uma atualização para fazer as respostas do novo GPT-5 parecerem “mais quentes e amigáveis” sem aumentar a sycophancy.
A OpenAI, e todos os desenvolvedores de modelos de IA, precisam andar em uma linha fina para tornar seus chatbots amigáveis, mas não sycophants. Em agosto, os pais de um garoto de 16 anos processaram a OpenAI sobre o suposto papel do ChatGPT na morte de seu filho. O garoto, Adam Raine, confidenciou alguns de seus pensamentos e planos suicidas ao ChatGPT (especificamente uma versão alimentada pelo GPT-4o), de acordo com documentos do tribunal, nos meses que antecederam sua morte. O processo alega que o GPT-4o não se opôs às suas idéias suicidas. Notavelmente, a equipe de Comportamento do Modelo não existia quando o GPT-4o foi desenvolvido.
Jang anunciou em uma publicação no X na semana passada que está deixando a equipe para “começar algo novo na OpenAI.” A ex-chefe de Comportamento do Modelo está na OpenAI há quase quatro anos, e trabalhou anteriormente em projetos como Dall-E 2, a ferramenta inicial de geração de imagens da OpenAI.
Jang disse ao TechCrunch que atuará como a Gerente Geral dos OAI Labs, que reportará a Chen por enquanto. No entanto, ainda é cedo, e não está claro quais serão essas interfaces novas, disse ela.
“Estou realmente animada para explorar padrões que nos movem além do paradigma de chat, que atualmente está mais associado à companhia, ou mesmo agentes, onde há uma ênfase na autonomia,” disse Jang. “Eu tenho pensado nos [sistemas de IA] como instrumentos para pensar, criar, brincar, fazer, aprender e conectar.”
Quando perguntada se os OAI Labs colaborarão nessas novas interfaces com o ex-chefe de design da Apple, Jony Ive — que agora está trabalhando com a OpenAI em uma família de dispositivos de hardware de IA — Jang disse que está aberta a muitas ideias. No entanto, Jang disse que provavelmente começará com áreas de pesquisa com as quais está mais familiarizada.