NVIDIA DGX A100

Универсальная система для инфраструктуры ИИ

Первая в мире система с ИИ на базе NVIDIA A100

NVIDIA DGX A100 — это первая в мире универсальная система для всех задач ИИ с производительностью 5 петафлопс, которая обеспечивает высочайшую плотность вычислений и гибкость. NVIDIA DGX A100 оснащена самым мощным в мире графическим ускорителем NVIDIA A100 с тензорными ядрами, который позволяет компаниям объединить анализ данных, тренировку и инференс в унифицированной и простой в развертывании инфраструктуре ИИ с поддержкой экспертов NVIDIA в области ИИ.

Ключевой компонент дата-центра с ИИ

Универсальная система для любых задач ИИ

Универсальная система для любых задач ИИ

NVIDIA DGX A100 — это универсальная система для всей инфраструктуры ИИ: от анализа данных до тренировки и инференса. DGX A100 работает под управлением NVIDIA Base Command — операционной системы ускоренного дата-центра. Платформа устанавливает новый стандарт плотности вычислений и обладает производительностью в 5 петафлопс для задач ИИ в форм-факторе 6U, заменяя устаревшие архитектурные решения единой платформой для любых задач ИИ.

Эксперты по DGX: интегрированный доступ к экспертным знаниям в области ИИ

Эксперты по DGX: интегрированный доступ к экспертным знаниям в области ИИ

Эксперты NVIDIA по DGX — это более 20 000 специалистов в области ИИ, которые за десять лет накопили богатый опыт и готовы помочь вам максимизировать окупаемость вложений в систему DGX.

Быстрые результаты

Быстрые результаты

NVIDIA DGX A100 — это первая в мире система с ИИ на базе GPU NVIDIA A100 с тензорными ядрами. Система включает 8 GPU A100 с 320 или 640 ГБ видеопамяти и обеспечивает непревзойденное ускорение и полную оптимизацию для ПО NVIDIA CUDA-X™ и комплексного стека решений NVIDIA для дата-центра.

data center-scalability-icon

Исключительная масштабируемость дата-центра

NVIDIA DGX A100 оснащена сетевыми адаптерами NVIDIA® ConnectX®-7 InfiniBand/Ethernet с пиковой двунаправленной пропускной способностью 500 ГБ/с. Это одно из многих преимуществ, которые делают DGX A100 ключевым компонентом крупных кластеров ИИ, таких как референсная архитектура для масштабируемых инфраструктур ИИ NVIDIA DGX SuperPOD.

Простое и быстрое начало работы с ИИ

Простое и быстрое начало работы с ИИ

Набор инструментов NVIDIA AI Starter Kit обеспечивает все необходимое для вашей команды: от передовой платформы ИИ, оптимизированного ПО и инструментов до помощи экспертов, чтобы вы могли быстро начать работу над проектами ИИ. Не теряйте время и деньги на создание платформы ИИ. Настройте систему за один день, создайте проект за неделю и начните разработку моделей гораздо быстрее.

  • Разработчикам
  • IT-менеджерам
  • Бизнес-лидерам
Быстрое решение сложных задач обработки данных

Быстрое решение сложных задач обработки данных

Преимущества 

  • Откажитесь от долгой настройки и тестирования с использованием оптимизированного ПО для ИИ.
  • Создавайте более качественные модели быстрее с максимальной производительностью, которая обеспечивает больше итераций.
  • Не тратьте время на системную интеграцию и разработку ПО.
Развертывание инфраструктуры и начало работы с ИИ

Развертывание инфраструктуры и начало работы с ИИ

Преимущества 

  • Оцените простую инфраструктуру и планирование мощности с единой системой для всех задач ИИ.
  • Обеспечьте максимальную плотность вычислений и производительность с минимальными ресурсами.
  • Используйте встроенную технологию безопасности во всех слоях.

 

Ускорьте получение результатов и окупаемость инвестиций в ИИ

Ускорьте получение результатов и окупаемость инвестиций в ИИ

Преимущества 

  • Повысьте эффективность работы специалистов по data science и избавьтесь от действий, не дающих экономического эффекта
  • Ускорьте весь цикл разработки, от идеи до конечной версии.
  • Устраните трудности с помощью экспертов по DGX.
  •  

Революционная производительность

Обучение 

Обучение DLRM

Пропускная способность до 3 раз выше
для обучение крупнейших моделей ИИ

Инференс

Инференс RNN-T: один поток

Пропускная способность до 1,25 раза выше
для инференса ИИ

Анализ данных

Бенчмарк анализа больших данных

Пропускная способность до 83 раз выше по сравнению с CPU,
до 2 раз выше по сравнению с DGX A100 320 ГБ

Передовые компоненты системы DGX A100

18 GPU NVIDIA A100 с объемом памяти до 640 ГБ
12 NVLinks/GPU, пропускная способность между GPU 600 ГБ/с 

26 NVIDIA NVSwitch
Двунаправленная пропускная способность 4,8 ТБ/с, что вдвое выше, чем в предыдущем поколении 

3 СЕТЕВОЙ ИНТЕРФЕЙС NVIDIA CONNECTX-7 200 Гбит/с (до 10)
Пиковая двунаправленная пропускная способность 500 ГБ/с 

4 Два 64-ядерных CPU AMD и 2 ТБ системной памяти
В 3,2 раза больше ядер для самых ресурсоемких задач ИИ 

5 NVME SSD Gen4 30 ТБ
Пиковая пропускная способность 50 ГБ/с, что в 2 раза быстрее SSD NVME Gen3 

Дата-центр

Ознакомьтесь с подробным обзором новой системы NVIDIA DGX A100

Технологии NVIDIA DGX A100

  • GPU A100
  • Multi-Instance GPU
  • NVLink и NVSwitch
  • ConnectX-7
  • Оптимизированный Стек По
  • Безопасность

GPU NVIDIA A100 с тензорными ядрами

GPU NVIDIA A100 с тензорными ядрами обеспечивает непревзойденное ускорение для ИИ, анализа данных и высокопроизводительных вычислений (HPC) для решения самых сложных вычислительных задач. Благодаря тензорным ядрам NVIDIA третьего поколения, обеспечивающим значительный прирост производительности, A100 можно масштабировать до тысячи GPU, а с помощью технологии Multi-instance GPU разделить на семь инстансов для ускорения задач любого масштаба.

GPU NVIDIA A100 с тензорными ядрами

Multi-Instance GPU (MIG)

Технология MIG позволяет разделить 8 ускорителей в DGX A100 на 56 полностью изолированных инстансов, оснащенных памятью с высокой пропускной способностью, кэшем и вычислительными ядрами. Теперь администраторы могут предложить оптимальный размер GPU с гарантированным качеством обслуживания (QoS) для различных задач.

Multi-Instance GPU

NVLink и NVSwitch нового поколения

Третье поколение NVIDIA® NVLink в DGX A100 удваивает скорость обмена данными между GPU до 600 ГБ/с, что почти в 10 раз превосходит показатели PCIe Gen 4. DGX A100 также оснащен технологией NVIDIA NVSwitch™ следующего поколения, которая работает в 2 раза быстрее, чем предыдущее поколение.

NVLink и NVSwitch нового поколения

NVIDIA ConnectX-7 200Гб/с InfiniBand/Ethernet

DGX A100 включает в себя новые адаптеры NVIDIA ConnectX-7 InfiniBand и VPI (Infiniband или Ethernet) с пропускной способностью 200 Гбит/с, которые обеспечивают высокоскоростное соединение для задач ИИ.

Mellanox ConnectX-6 VPI HDR InfiniBand

Оптимизированный стек ПО

DGX A100 содержит протестированный и оптимизированный стек ПО DGX, включая базовую операционную систему для ИИ, все необходимое системное ПО, а также GPU-ускоренные приложения, предварительно обученные модели и другие ресурсы из NGC.

Программный стек DGX

Встроенная технология безопасности

DGX A100 обеспечивает наиболее надежную защиту для развертываний ИИ с многоуровневым подходом, охватывающим контроллер управления базовой платой (BMC), плату CPU, плату GPU, диски с самошифрованием и безопасную загрузку.

Встроенная технология безопасности

Узнайте больше о корпоративной поддержке для пользователей систем NVIDIA DGX.

NVIDIA DGX SuperPOD

Передовая инфраструктура ИИ

Купить NVIDIA DGX

Узнайте подробнее о системах NVIDIA DGX