O CEO da OpenAI, Sam Altman, disse que a empresa foi forçada a escalonar o lançamento de seu mais novo modelo, GPT-4.5, porque a OpenAI está “sem GPUs”.
Em uma postagem no X, Altman disse que o GPT-4.5, que ele descreveu como “gigante” e “caro”, exigirá “dezenas de milhares” de GPUs a mais antes que mais usuários do ChatGPT possam ter acesso. O GPT-4.5 chegará primeiro aos assinantes do ChatGPT Pro a partir de quinta-feira, seguido pelos clientes do ChatGPT Plus na próxima semana.
Talvez em parte devido ao seu tamanho enorme, o GPT-4.5 é extremamente caro. A OpenAI está cobrando $75 por milhão de tokens (~750.000 palavras) alimentados no modelo e $150 por milhão de tokens gerados pelo modelo. Isso representa 30 vezes o custo de entrada e 15 vezes o custo de saída do modelo GPT-4o, que é o carro-chefe da OpenAI.
A precificação do GPT 4.5 é descontrolada. Se isso não tiver um cheiro de modelos enormes, ficarei decepcionado pic.twitter.com/1kK5LPN9GH
— Casper Hansen (@casper_hansen_) 27 de fevereiro de 2025
“Crescemos muito e estamos sem GPUs”, escreveu Altman. “Adicionaremos dezenas de milhares de GPUs na próxima semana e faremos o lançamento para o nível Plus então […] Isso não é como queremos operar, mas é difícil prever perfeitamente os surtos de crescimento que levam a escassez de GPUs.”
Altman já disse anteriormente que a falta de capacidade computacional está atrasando os produtos da empresa. A OpenAI espera combater isso nos próximos anos desenvolvendo seus próprios chips de IA e construindo uma enorme rede de datacenters.