NVIDIA NVLink Fusion

Infraestrutura de IA semipersonalizada com desempenho de ampliação de IA comprovado pelo setor e arquitetura em escala de rack.

Visão Geral

Desempenho de Escalabilidade de Nível Mundial

O NVIDIA NVLink™ Fusion é uma plataforma de infraestrutura de IA em escala de rack que permite que os hiperescaladores e designers de ASICs personalizados integrem CPUs e XPUs personalizadas com a interconexão de escala NVLink e a arquitetura de servidor em escala de rack OCP MGX. Aproveite o stack de tecnologia de IA testado em batalha da NVIDIA e o design e o ecossistema comprovados em escala de rack para alcançar o mercado mais rapidamente, reduzir os custos de desenvolvimento e os riscos de implantação e alcançar um melhor desempenho para um maior retorno do investimento.

O portfólio de tecnologia modular do NVLink Fusion inclui GPUs NVIDIA, CPUs NVIDIA Vera™, redes NVLink para escalabilidade, switches de óptica compartilhados (CPO), NVIDIA ConnectX® SuperNICs, DPUs BlueField® e o software Mission Control. O ecossistema abrangente inclui designers de ASIC, provedores de CPU e IP, OEMs/ODMs e fornecedores de componentes, todos projetados para permitir a implantação rápida de silício de IA personalizado.

AWS integra a infraestrutura de IA com o NVIDIA NVLink Fusion para a implantação do Trainium4

Saiba como a AWS está usando o NVLink Fusion para acelerar a implantação do Trainium4.

Integração da Computação Semipersonalizada na Arquitetura em Escala de Rack com o NVIDIA NVLink Fusion.

Saiba como o NVIDIA NVLink Fusion permite que os hiperescaladores criem infraestrutura de IA semipersonalizada, integrando seus ASICs ou CPUs com as GPUs NVIDIA, padronizando em uma única infraestrutura de hardware escalável.

Com o NVLink Fusion, as fábricas de IA de alto desempenho podem escalar rapidamente, beneficiando-se de todos os componentes da solução que compõem a arquitetura em escala de rack da NVIDIA.

Vantagens

Benefícios do NVLink Fusion

Desempenho de Classe Mundial em Escalabilidade

Desbloquear todo o potencial das fábricas de IA requer uma comunicação rápida e perfeita entre todos os aceleradores. O NVIDIA NVLink 6 pode conectar 72 XPUs todas a todas a 3,6 TB/s por XPU para aumentar o desempenho da IA e o retorno do investimento.

Menores Custos de Desenvolvimento

O ecossistema estabelecido de fornecedores do NVLink Fusion fornece todos os componentes necessários para a implantação total em escala de rack com base na arquitetura OCP MGX, desde o rack e o chassi até os sistemas de fornecimento de energia e resfriamento, eliminando os custos de desenvolvimento e os riscos de implantação associados a um novo design de rack.

Tempo de Comercialização Acelerado

Ao aproveitar o Stack de tecnologia testado em batalha da NVIDIA e o ecossistema de designers de ASIC, provedores de CPU e IP e OEM/ODMs, os hiperescaladores podem alcançar um tempo mais rápido de lançamento no mercado e um tempo mais rápido de geração de receita.

Arquitetura Unificada Única

Como os hiperescaladores já implantam soluções completas de rack da NVIDIA, o NVLink Fusion permite ofertas de silício heterogêneas, padronizando em torno de um design de rack comum, acelerando a implantação de IA em fábricas e simplificando o gerenciamento.

Plataforma

Plataforma NVIDIA NVLink Fusion

NVIDIA NVLink

O NVIDIA NVLink 6 e o Chip de Switch NVLink permitem 260 TB/s de largura de banda em um único domínio NVLink de 72 aceleradores (NVL72) e oferecem eficiência 4 vezes maior de largura de banda com o suporte ao NVIDIA Scalable Hierarchical Aggregation and Reduction Protocol (SHARP)™ FP8.

NVIDIA NVLink-C2C

O NVIDIA NVLink-C2C estende a tecnologia NVLink líder do setor para uma interconexão de chip a chip. Isso permite a criação de uma nova classe de produtos integrados com parceiros da NVIDIA, criados por meio de chiplets, permitindo que as GPUs ou CPUs da NVIDIA tenham uma conexão coerente de alta largura de banda com silício personalizado.

Usuários

Ecossistema NVLink Fusion

Escalando o Desempenho de Inferência de IA com o NVLink Fusion

Saiba como o NVIDIA NVLink Fusion aborda as crescentes demandas de modelos de IA complexos.