NVIDIA combina NVLink Fusion e NVHBM para atrair criadores de aceleradores de IA

A NVIDIA detalhou uma nova aposta de infraestrutura voltada a empresas que constroem aceleradores de IA personalizados, combinando NVLink Fusion com uma tecnologia de memória chamada NVHBM. A publicação técnica de 26 de agosto mira uma tensão central do mercado de hardware de IA. Hyperscalers e empresas nativas de IA querem XPUs otimizadas para cargas específicas, mas esses chips ainda precisam de memória de alta largura de banda, comunicação em escala de rack, suporte de software e integração operacional para competir com a infraestrutura madura de GPUs.

NVLink Fusion é a tecnologia de conexão da NVIDIA para levar XPUs e CPUs personalizadas à sua plataforma de infraestrutura de IA. A ideia é permitir que aceleradores semipersonalizados usem a pilha scale-up e scale-out da NVIDIA, a arquitetura de racks MGX e seu ecossistema, em vez de obrigar cada comprador a montar um caminho isolado. Isso é estratégico porque o mercado de chips de IA está se fragmentando: grandes laboratórios e provedores de nuvem querem silício especializado, mas esses chips também precisam participar de treinamento, inferência e cargas com expert parallelism que dependem de comunicação rápida no rack.

NVHBM trata do problema no nível do pacote. A NVIDIA o descreve como uma tecnologia personalizada de base die HBM, projetada e validada com grandes fornecedores de memória. Os benefícios anunciados são expressivos: até 30% mais largura de banda de memória que HBM4e padrão, até 25% mais área de die de computação para funções adicionais de XPU e até 15% menos consumo de energia em HBM. A empresa também diz que reduz a área de PHY e suporte em até 67% frente ao JEDEC HBM4e, liberando mais espaço para computação ou lógica de aceleração.

Esses números importam porque sistemas modernos de IA muitas vezes são limitados por movimento de dados, não apenas por throughput aritmético. A inferência de grandes modelos lê repetidamente pesos e KV cache enquanto atende usuários com metas rígidas de latência. Treinamento e cargas agentic movem ativações entre dispositivos, especialmente quando modelos mixture-of-experts usam expert parallelism. Mais largura de banda mantém motores de computação alimentados; menor consumo de memória melhora desempenho por watt e reduz pressão térmica.

A NVIDIA também apresenta NVHBM como ferramenta de flexibilidade para equipes de silício personalizado. Área de pacote é uma das restrições mais difíceis em aceleradores, pois engenheiros precisam dividir espaço entre motores matriciais, unidades vetoriais, cache, SRAM, interfaces de memória, rede e lógica de controle. Ao diminuir a pegada da interface de memória, NVHBM pode permitir que mais área seja dedicada a recursos específicos de uma carga dentro do mesmo envelope físico.

O argumento em escala de rack é igualmente importante. A NVIDIA afirma que NVLink Fusion usa conectividade baseada em chiplets para ligar XPUs personalizadas a domínios NVLink, permitindo comunicação em um fabric scale-up compartilhado e conexão a CPUs via NVLink-C2C. Em inferência mixture-of-experts, tokens podem ser roteados para especialistas em dispositivos diferentes; esse fabric ajuda a determinar se o sistema se comporta como uma máquina coordenada ou como um conjunto de chips com gargalos.

O anúncio também tem caráter defensivo. A NVIDIA domina treinamento e inferência de IA com GPUs, mas alguns de seus maiores clientes desenham chips próprios para controlar custo, oferta e especialização. NVLink Fusion e NVHBM dão à empresa um caminho para continuar sendo a camada de infraestrutura mesmo quando racks incluem mais silício não GPU. Clientes avaliarão preço, disponibilidade, suporte de fornecedores de memória, maturidade de software, esforço de integração e desempenho real, mas a direção é clara: a infraestrutura de IA caminha para racks heterogêneos co-desenhados.