Vários pesquisadores atuais e antigos da OpenAI estão se manifestando sobre a primeira incursão da empresa nas mídias sociais: o aplicativo Sora, um feed no estilo TikTok repleto de vídeos gerados por IA e muitos deepfakes de Sam Altman. Os pesquisadores, expressando suas preocupações no X, parecem divididos sobre como o lançamento se encaixa na missão sem fins lucrativos da OpenAI de desenvolver IA avançada que beneficie a humanidade.
“Feeds baseados em IA são assustadores”, disse o pesquisador de pré-treinamento da OpenAI, John Hallman, em uma postagem no X. “Não vou negar que senti alguma preocupação quando soube que estávamos lançando o Sora 2. Dito isso, acho que a equipe fez o melhor trabalho possível ao projetar uma experiência positiva […] Vamos fazer o nosso melhor para garantir que a IA ajude e não prejudique a humanidade.”
Boaz Barak, outro pesquisador da OpenAI e professor de Harvard, respondeu: “Compartilho uma mistura semelhante de preocupação e empolgação. O Sora 2 é tecnicamente incrível, mas é prematuro nos congratularmos por evitar as armadilhas de outros aplicativos de mídia social e deepfakes.”
O ex-pesquisador da OpenAI, Rohan Pandey, usou o momento para divulgar uma nova startup, a Periodic Labs, composta por ex-pesquisadores de laboratórios de IA que tentam construir sistemas de IA para descoberta científica: “Se você não quer construir a máquina de TikTok infinita de IA, mas deseja desenvolver IA que acelere a ciência fundamental […] venha se juntar a nós na Periodic Labs.”
Houve muitas outras postagens na mesma linha.
O lançamento do Sora destaca uma tensão central para a OpenAI que surge repetidamente. É a empresa de tecnologia de consumo que mais cresce no mundo, mas também um laboratório de IA de fronteira com uma elevada carta de missão sem fins lucrativos. Alguns ex-funcionários da OpenAI com quem conversei argumentam que o negócio de consumo pode, em teoria, servir à missão: o ChatGPT ajuda a financiar a pesquisa em IA e a distribuir a tecnologia amplamente.
O CEO da OpenAI, Sam Altman, disse isso em uma postagem no X na quarta-feira, abordando por que a empresa está alocando tanto capital e poder computacional para um aplicativo de mídia social de IA:
“Precisamos principalmente do capital para construir IA que possa fazer ciência, e com certeza estamos focados em AGI com quase todo o nosso esforço de pesquisa”, disse Altman. “Também é bom mostrar às pessoas novas tecnologias/produtos legais ao longo do caminho, fazê-las sorrir e, esperançosamente, ganhar algum dinheiro, dado todo esse poder computacional necessário.”
“Quando lançamos o chatgpt, houve muito ‘quem precisa disso e onde está a AGI'”, continuou Altman. “[A] realidade é nuance quando se trata de trajetórias ótimas para uma empresa.”
Mas em que ponto o negócio de consumo da OpenAI supera sua missão sem fins lucrativos? Em outras palavras, quando a OpenAI diz não a uma oportunidade de ganhar dinheiro e crescer a plataforma porque está em desacordo com a missão?
A pergunta paira enquanto os reguladores analisam a transição da OpenAI para o lucro, que a OpenAI precisa completar para levantar capital adicional e eventualmente abrir o capital. O Procurador-Geral da Califórnia, Rob Bonta, disse no mês passado que está “particularmente preocupado em garantir que a missão de segurança declarada da OpenAI como uma organização sem fins lucrativos permaneça em primeiro plano” na reestruturação.
Céticos descartaram a missão da OpenAI como uma ferramenta de branding para atrair talentos da Big Tech. Mas muitos insiders da OpenAI insistem que é central para o motivo pelo qual se juntaram à empresa em primeiro lugar.
Por enquanto, a pegada do Sora é pequena; o aplicativo tem apenas um dia. Mas sua estreia marca uma expansão significativa do negócio de consumo da OpenAI e expõe a empresa a incentivos que assolaram aplicativos de mídia social por décadas.
Ao contrário do ChatGPT, que é otimizado para utilidade, a OpenAI afirma que o Sora foi construído para diversão — um lugar para gerar e compartilhar clipes de IA. O feed se sente mais próximo do TikTok ou Instagram Reels, plataformas que são infames por seus ciclos viciantes.
A OpenAI insiste que deseja evitar essas armadilhas, afirmando em um post no blog que anunciou o lançamento do Sora que “preocupações sobre doomscrolling, vício, isolamento e feeds otimizados para RL estão em nossa mente”. A empresa afirma explicitamente que não está otimizando para o tempo gasto no feed e, em vez disso, deseja maximizar a criação. A OpenAI diz que enviará lembretes aos usuários quando eles estiverem rolando por muito tempo e mostrará principalmente pessoas que eles conhecem.
Esse é um ponto de partida mais forte do que o Vibes da Meta — outro feed de vídeo de forma curta alimentado por IA lançado na semana passada — que parece ter sido apressado sem tantas salvaguardas. Como aponta um ex-líder de políticas da OpenAI, Miles Brundage, é possível que haja boas e más aplicações de feeds de vídeo de IA, assim como vimos na era dos chatbots.
Ainda assim, como Altman reconheceu há muito tempo, ninguém se propõe a construir um aplicativo viciante. Os incentivos de operar um feed os guiam para isso. A OpenAI até enfrentou problemas em torno da bajulação no ChatGPT, que a empresa diz ser não intencional devido a algumas de suas técnicas de treinamento.
Em um podcast de junho, Altman discutiu o que ele chama de “o grande desalinhamento das mídias sociais”.
“Um dos grandes erros da era das mídias sociais foi [que] os algoritmos de feed tiveram uma série de consequências negativas não intencionais na sociedade como um todo, e talvez até mesmo em usuários individuais. Embora estivessem fazendo a coisa que um usuário queria — ou alguém pensava que os usuários queriam — no momento, que é [para] mantê-los, tipo, gastando tempo no site.”
É muito cedo para dizer quão alinhado o aplicativo Sora está com seus usuários ou com a missão da OpenAI. Os usuários já estão notando algumas técnicas de otimização de engajamento no aplicativo, como os emojis dinâmicos que aparecem toda vez que você curte um vídeo. Isso parece ser projetado para disparar um pouco de dopamina nos usuários por se engajar com um vídeo.
O verdadeiro teste será como a OpenAI evolui o Sora. Dado o quanto a IA tomou conta dos feeds regulares de mídias sociais, parece plausível que feeds nativos de IA possam em breve ter seu momento. Se a OpenAI pode fazer crescer o Sora sem replicar os erros de seus predecessores, isso ainda está por ser visto.