Универсальная система для инфраструктуры ИИ
NVIDIA DGX™ A100 — это первая в мире универсальная система для всех задач ИИ с производительностью 5 петафлопс, которая обеспечивает высочайшую плотность вычислений и гибкость. NVIDIA DGX A100 оснащена самым мощным в мире графическим ускорителем NVIDIA A100 с тензорными ядрами, который позволяет компаниям объединить анализ данных, тренировку и инференс в унифицированной и простой в развертывании инфраструктуре ИИ с поддержкой экспертов NVIDIA в области ИИ.
NVIDIA DGX A100 — это универсальная система для всей инфраструктуры ИИ: от анализа данных до тренировки и инференса. Платформа устанавливает новый стандарт плотности вычислений и обладает производительностью в 5 петафлопс для задач ИИ в форм-факторе 6U, заменяя устаревшие архитектурные решения единой платформой для любых задач ИИ.
Эксперты NVIDIA по DGX — это более 20 000 специалистов в области ИИ, которые за десять лет накопили богатый опыт и готовы помочь вам максимизировать окупаемость вложений в систему DGX.
NVIDIA DGX A100 — это первая в мире система с ИИ на базе ускорителей NVIDIA A100 с тензорными ядрами. DGX A100 включает 8 ускорителей A100 с 640 ГБ видеопамяти и обеспечивает непревзойденное ускорение и полную оптимизацию для ПО NVIDIA CUDA-X™ и комплексного стека решений NVIDIA для дата-центра.
NVIDIA DGX A100 оснащена сетевыми адаптерами NVIDIA® ConnectX®-7 InfiniBand/Ethernet с пиковой двунаправленной пропускной способностью 500 ГБ/с. Это одно из многих преимуществ, которые делают DGX A100 ключевым компонентом крупных кластеров ИИ, таких как референсная архитектура для масштабируемых инфраструктур ИИ NVIDIA DGX SuperPOD™.
Набор инструментов NVIDIA AI Starter Kit обеспечивает все необходимое для вашей команды: от передовой платформы ИИ, оптимизированного ПО и инструментов до помощи экспертов, чтобы вы могли быстро начать работу над проектами ИИ. Не теряйте время и деньги на создание платформы ИИ. Настройте систему за один день, создайте проект за неделю и начните разработку моделей гораздо быстрее.
Обучение DLRM
Пропускная способность до 3 раз выше для обучение крупнейших моделей ИИ
DLRM on HugeCTR framework, precision = FP16 | 1x DGX A100 640GB batch size = 48 | 2x DGX A100 320GB batch size = 32 | 1x DGX-2 (16x V100 32GB) batch size = 32. Ускорение стандартизовано для количества GPU.
Инференс RNN-T: один поток
Пропускная способность до 1,25 раза выше для инференса ИИ
MLPerf 0.7 RNN-T measured with (1/7) MIG slices. Framework: TensorRT 7.2, dataset = LibriSpeech, precision = FP16.
Бенчмарк анализа больших данных
Пропускная способность до 83 раз выше по сравнению с CPU, до 2 раз выше по сравнению с DGX A100 320 ГБ
Бенчмарк анализа больших данных | 30 аналитических запросов по ритейлу, ETL, машинное обучение, обработка естественного языка на наборе данных 10 TБ | Процессор: 19x Intel Xeon Gold 6252 с тактовой частотой 2,10 ГГц, Hadoop | 16 DGX-1 (8 V100 32GB каждый), RAPIDS/Dask | 12 DGX A100 320GB и 6 DGX A100 640GB, RAPIDS/Dask/BlazingSQL. Ускорение стандартизовано для количества GPU.
1 8 GPU NVIDIA A100 с объемом памяти до 640 ГБ 12 NVLinks/GPU, пропускная способность между GPU 600 ГБ/с
2 6 NVIDIA NVSwitch Двунаправленная пропускная способность 4,8 ТБ/с, что вдвое выше, чем в предыдущем поколении
3 СЕТЕВОЙ ИНТЕРФЕЙС NVIDIA CONNECTX-7 200 Гб/с Пиковая двунаправленная пропускная способность 500 ГБ/с
4 Два 64-ядерных CPU AMD и 2 ТБ системной памяти В 3,2 раза больше ядер для самых ресурсоемких задач ИИ
5 NVME SSD Gen4 30 ТБ Пиковая пропускная способность 50 ГБ/с, что в 2 раза быстрее SSD NVME Gen3
Ознакомьтесь с подробным обзором новой системы NVIDIA DGX A100
GPU NVIDIA A100 с тензорными ядрами обеспечивает непревзойденное ускорение для ИИ, анализа данных и высокопроизводительных вычислений (HPC) для решения самых сложных вычислительных задач. Благодаря тензорным ядрам NVIDIA третьего поколения, обеспечивающим значительный прирост производительности, A100 можно масштабировать до тысячи GPU, а с помощью технологии Multi-instance GPU разделить на семь инстансов для ускорения задач любого масштаба.
Технология MIG позволяет разделить 8 ускорителей в DGX A100 на 56 полностью изолированных инстансов, оснащенных памятью с высокой пропускной способностью, кэшем и вычислительными ядрами. Теперь администраторы могут предложить оптимальный размер GPU с гарантированным качеством обслуживания (QoS) для различных задач.
Третье поколение NVIDIA® NVLink™ в DGX A100 удваивает скорость обмена данными между GPU до 600 ГБ/с, что почти в 10 раз превосходит показатели PCIe Gen 4. DGX A100 также оснащен технологией NVIDIA NVSwitch™ следующего поколения, которая работает в 2 раза быстрее, чем предыдущее поколение.
DGX A100 включает в себя новые адаптеры NVIDIA ConnectX-7 InfiniBand и VPI (Infiniband или Ethernet) с пропускной способностью 200 Гбит/с, которые обеспечивают высокоскоростное соединение для задач ИИ.
DGX A100 содержит протестированный и оптимизированный стек ПО DGX, включая базовую операционную систему для ИИ, все необходимое системное ПО, а также GPU-ускоренные приложения, предварительно обученные модели и другие ресурсы из NGC™.
DGX A100 обеспечивает наиболее надежную защиту для развертываний ИИ с многоуровневым подходом, охватывающим контроллер управления базовой платой (BMC), плату CPU, плату GPU, диски с самошифрованием и безопасную загрузку.
Узнайте больше о корпоративной поддержке для пользователей систем NVIDIA DGX.
Передовая инфраструктура ИИ
Положение о конфиденциальности NVIDIA