Arm disse que, um ano após sua introdução, o ecossistema Arm Total Design dobrou de tamanho, promovendo inovação global em silício para sustentabilidade.
Os datacenters enfrentam constantemente o desafio de equilibrar as demandas de energia com o crescimento das cargas de trabalho de IA, o aumento do custo e da complexidade de desenvolvimento de chips e a necessidade de sustentabilidade, afirmou a Arm.
Eddie Ramirez, vice-presidente de go-to-market, linha de negócios de infraestrutura da Arm, disse em um post no blog que a empresa introduziu o Arm Total Design um ano atrás para enfrentar esses desafios, criando um ecossistema de parceiros para acelerar o desenvolvimento de silício personalizado, reunindo os principais players da indústria para construir soluções para os datacenters do futuro com Arm Compute Subsystems (CSS).
Ele rapidamente se transformou em um ecossistema multivendor de chiplets e SoC baseado em Arm, reunindo capacidades desde o design até a fabricação em fundições, e dobrou para mais de 30 empresas participantes, com Alcor Micro, Egis, PUF Security e SemiFive como as últimas empresas a se juntar ao ecossistema.
Novas soluções baseadas em Arm para alimentar o datacenter de IA de forma sustentável
O Arm Total Design gerou colaboração global, levando a soluções reais impulsionadas por CSS para computação GenAI. A Arm afirmou que um exemplo é a notícia de hoje de que Arm, Samsung Foundry, ADTechnology e Rebellions estão se unindo para trazer ao mercado uma plataforma de chiplet de CPU de IA.
Essa plataforma, voltada para cargas de trabalho de nuvem, HPC e treinamento e inferência de IA/ML, combina o acelerador Rebel AI da Rebellions, construído com um chiplet de computação alimentado pelo Neoverse CSS V3 da ADTechnology, a ser implementado com a tecnologia de processo avançada Gate-All-Around (GAA) de 2nm da Samsung Foundry.
A plataforma promete oferecer desempenho e eficiência de energia ideal, com uma vantagem estimada de duas a três vezes de eficiência para cargas de trabalho de GenAI (LLMs de 405B parâmetros Llama3.1).
“Os designs de IA e HPC exigem soluções tecnológicas que ofereçam desempenho máximo, alta densidade de transistores e eficiência energética”, disse Taejoong Song, chefe de desenvolvimento de negócios de fundição da Samsung Electronics, em um comunicado. “O processo GAA de 2nm da Samsung Foundry é projetado precisamente para satisfazer os requisitos mais rigorosos de design de HPC e IA, e estamos empolgados em aproveitar a flexibilidade do Arm CSS e o poder do ecossistema Arm Total Design para entregar uma plataforma de chiplet de CPU de IA, que acelerará ainda mais a adoção de nossa tecnologia de ponta e soluções de design para hyperscalers e provedores de serviços em nuvem.”
Isso exemplifica o valor único do Arm Total Design e subsistemas de computação baseados em padrões na aceleração do desenvolvimento de silício de IA, integrando ferramentas EDA otimizadas para Arm, expertise global em design e parcerias de fundição para facilitar a integração fácil por designers de aceleradores de IA, afirmou a Arm.
Com a rápida evolução das cargas de trabalho de IA, a computação CPU intimamente acoplada é essencial para suportar toda a pilha de IA. Pré-processamento de dados, orquestração, técnicas de aumento de banco de dados, como Geração Aumentada por Recuperação (RAG), e mais, todos se beneficiam da eficiência de desempenho dos CPUs Arm Neoverse. Incorporamos suporte para esses requisitos em nosso CSS e, através do Arm Total Design, o ecossistema já está se beneficiando dessas inovações.
Um novo padrão para infraestrutura de IA sob medida
CSS e Arm Total Design estão ajudando a criar a base de hardware para um datacenter de IA sustentável. O Arm Total Design já está acelerando o desenvolvimento de chips de teste baseados em Arm e produtos chiplet alimentados por Neoverse N-series ou V-series CSS. A diversidade de soluções de chiplet que vão da nuvem à borda e a velocidade com que estão sendo desenvolvidas é um resultado direto da redução das barreiras de entrada, permitindo amplo acesso preferencial às últimas CSS.
Hoje, a Alcor Micro anunciou que está construindo um chiplet alimentado por CSS e voltado para casos de uso de treinamento e inferência de IA/ML. E recentemente, a Alphawave anunciou seu próprio chiplet de computação avançada construído em CSS para aplicações de IA/ML, HPC, datacenter e 5G/6G. Esses chiplets baseados em Arm exemplificam a diversidade, flexibilidade e cadeia de suprimentos global que apenas a parceria da Arm pode oferecer.
Além disso, os parceiros do Arm Total Design, incluindo Alphawave, Cadence e proteanTecs, estão validando seus produtos de IP de terceiros com CSS em nós avançados para garantir conformidade com as especificações e padrões da Arm. Isso significa que os parceiros podem construir silício personalizado baseado em CSS em nós de ponta e ter uma experiência de software sem costura desde o início.
Esse tipo de prontidão de software continua sendo um portal crítico para o potencial da IA e, por mais de 30 anos, a Arm investiu para garantir que o software na Arm “funcione”. Hoje, todos os principais frameworks e sistemas operacionais rodam em Arm. Para o ecossistema Arm Total Design, isso significa que o conjunto diversificado de soluções de silício que os parceiros estão trazendo ao mercado pode aproveitar um ecossistema de software igualmente vibrante e coeso.
Um dos últimos exemplos desse investimento contínuo é a introdução da tecnologia Arm Kleidi, que otimiza a inferência baseada em CPU na Arm para projetos de código aberto como PyTorch e Llama.cpp. Isso é especialmente importante para os parceiros do Arm Total Design que estão construindo chiplets baseados em CSS para computação de IA na borda sem a necessidade de um acelerador.