Andreessen Horowitz possui um enorme cluster de GPUs Nvidia H100 para ajudar seu portfólio de startups de IA a atender às suas necessidades de computação, confirmou a firma de capital de risco pela primeira vez na quarta-feira. O programa, chamado ‘Oxygen’, permite que suas empresas do portfólio treinem ou operem seus modelos de IA sem negociar taxas de mercado.
O cluster Oxygen da A16Z dá às startups um respiro, por assim dizer, para competir contra grandes empresas de tecnologia – como Google, Meta e Microsoft – na construção de grandes modelos de IA. Nos últimos anos, essas empresas estiveram envolvidas em uma guerra de lances por GPUs, especialmente as H100, padrão da indústria de IA, muitas vezes vencendo contratos ao prometer contratos maiores e mais longos. Isso deixa muitas startups de IA em uma situação difícil, já que podem não ser capazes de assumir os grandes contratos necessários para garantir GPUs, enquanto as OpenAIs e Anthropics do mundo podem.
“Isso começou a partir da percepção de que vários dos fundadores de IA que atendemos todos os dias tinham um problema comum: estávamos no meio de uma crise de oferta, onde a capacidade das H100 da Nvidia estava em falta”, disse o parceiro da A16Z, Anjney Midha, que ajudou a criar o programa Oxygen, em uma transcrição de podcast compartilhada com o TechCrunch. “Como startups, elas estavam sendo despriorizadas pelas grandes nuvens em favor de clientes maiores, o que era realmente difícil para elas.”
A infraestrutura também é uma boa maneira para a A16Z atrair novas startups. Empresas que constroem modelos de IA frequentemente precisam de acesso irrestrito a enormes clusters de computação para execuções de treinamento curtas, mas depois não precisam deles uma vez que os modelos estão treinados. A inferência de modelos de IA normalmente requer menos computação do que o treinamento, a menos que, é claro, o uso de um modelo de IA exploda. O cluster Oxygen da A16Z oferece flexibilidade às startups, dando acesso a GPUs quando precisam, sem um compromisso de longo prazo com um provedor de nuvem ou um grande desembolso de dinheiro. Em vez disso, elas dão à A16Z uma participação em seus negócios, em troca de (entre outras coisas) preços baixos para alugar GPUs.
Mas a A16Z não é a única investidora prometendo GPUs aos fundadores de startups, além de capital financeiro e orientação, em troca de participações em suas empresas. Os parceiros investidores Nat Friedman e Daniel Gross oferecem a suas startups acesso a um cluster de 4.000 GPUs chamado Andromeda Cluster, de acordo com a Forbes. O Y Combinator também oferece a startups um cluster de GPUs para execuções de treinamento através de parcerias com vários provedores de nuvem, mais recentemente, o Google Cloud.
Um porta-voz da Andreessen Horowitz se recusou a comentar sobre o tamanho do cluster Oxygen, no entanto, a A16Z pode ter o maior arsenal de GPUs de qualquer firma de capital de risco. O Information relatou em julho que o Oxygen poderia conter mais de 20.000 GPUs.
Em um momento do podcast, Midha diz que o cluster Oxygen pode aliviar a pressão sobre as startups de IA para arrecadar fundos a avaliações supervalorizadas a fim de pagar suas contas de computação. Essa é outra maneira pela qual o Oxygen beneficia a A16Z. Em vez de investir mais em uma startup para que ela possa comprar GPUs da Microsoft, a A16Z pode oferecer as GPUs e investir a um preço mais baixo.
A A16Z vê o Oxygen como uma proposta de valor central para suas startups no futuro, enquanto o boom da IA continuar conforme projetado. É provável que seja por isso que a startup fez o enorme investimento necessário para garantir esses chips.