Процессор NVIDIA Grace

Создан специально для решения самых сложных вычислительных задач в мире.

Ускорение для крупнейших задач в области ИИ, высокопроизводительных и облачных вычислений, гипермасштабирования

Модели ИИ становятся больше и сложнее, так как предназначены таких задач, как улучшение разговорного ИИ с помощью сотни миллиардов параметров, совершенствование рекомендательных систем на базе алгоритмов глубокого обучения с помощью десятков терабайтов данных, а также для совершения новых научных открытий. Эти массивные модели расширяют возможности современных систем. Масштабирование этих моделей требует быстрого доступа к большому объему памяти и постоянного обмена данными между процессором и GPU.

Ведущие мировые производители систем ускоряют внедрение процессоров NVIDIA Grace и Grace Hopper

Продукты

Суперчип NVIDIA Grace Hopper

Суперчип NVIDIA Grace Hopper сочетает в себе архитектуры Grace и Hopper с использованием NVIDIA® NVLink-C2C, чтобы обеспечить общую модель памяти для центрального и графического процессоров и тем самым ускорить работу ИИ- и HPC-приложений.

  • Модуль CPU+GPU для масштабных ИИ- и HPC-проектов
  • Новый интерфейс 900 ГБ/с (в 7 раз быстрее, чем PCIe Gen 5)
  • Повышение общей пропускной способности памяти для графического процессора в 30 раз по сравнению с DGX A100
  • Поддержка всех программных стеков и платформ NVIDIA, в том числе NVIDIA HPC, NVIDIA AI и NVIDIA Omniverse
Суперчип NVIDIA Grace Hopper
Процессор NVIDIA Grace

Процессор NVIDIA Grace

Процессор NVIDIA Grace использует технологию NVLink-C2C для обеспечения работы 144 ядер Arm® v9 и пропускной способности памяти в 1 ТБ/с.

  • Высокопроизводительный процессор для облачных и HPC-вычислений
  • Суперчип, насчитывающий до 144 процессорных ядер Arm v9
  • Впервые в мире – память LPDDR5x с коррекцией ошибок, общая пропускная способность – 1 ТБ/с
  • SPECrate®2017_int_base – выше 740 (оценка)
  • Интерфейс 900 ГБ/с (в 7 раз быстрее, чем PCIe Gen 5)
  • В 2 раза более высокая плотность упаковки, чем у DIMM-решений
  • В 2 раза большая производительность на ватт по сравнению с ведущими современными процессорами
  • Поддержка всех программных стеков и платформ NVIDIA, в том числе NVIDIA RTX, NVIDIA HPC, NVIDIA AI и NVIDIA Omniverse

Предназначен для выполнения сложных задач

NVIDIA Grace использует гибкость Arm® для создания архитектуры процессора и сервера с нуля для ускоренных вычислений. Этот инновационный дизайн обеспечит увеличение пропускной способности до 30 раз по сравнению с современными серверами и до 10 раз более высокую производительность для приложений, обрабатывающих терабайты данных. NVIDIA Grace предназначена для того, чтобы дать возможность ученым и исследователям обучать самые большие в мире модели для выполнения сложных задач.

Последние технические инновации

Технология NVIDIA NVLink-C2C четвертого поколения

Выполнение самых сложных задач ИИ и HPC требует большой мощности и памяти с высокой пропускной способностью. Технология NVIDIA NVLink-C2C четвертого поколения обеспечивает пропускную способность канала обмена данными между процессором NVIDIA Grace и графическими процессорами NVIDIA на уровне 900 ГБ/с. Соединение гарантирует когерентную унифицированную память, объединяющую системную и HBM-память для упрощенной программируемости. Такое когерентное высокоскоростное соединение между процессором и GPU является ключом к ускорению нагрузок ИИ и HPC.

Новая подсистема высокоскоростной памяти, использующая LPDDR5x с ECC

Пропускная способность памяти является важным фактором для производительности сервера, а стандартная память с удвоенной скоростью передачи данных (DDR) потребляет значительную часть общей мощности. NVIDIA Grace CPU — это первый серверный процессор, который использует память LPDDR5x с надежностью серверного класса, возможной благодаря таким механизмам, как поддержка кодов коррекции ошибок (ECC). Это позволяет соответствовать требованиям современного дата-центра и обеспечить в 2 раза большую пропускную способность памяти и до 10 раз более высокую энергоэффективность по сравнению с современными технологиями серверной памяти. Решение NVIDIA Grace LPDDR5x в сочетании с большой высокопроизводительной кэш-памятью последнего уровня обеспечивает пропускную способность, необходимую для работы с большими моделями, и снижает энергопотребление для максимальной производительности в задачах следующего поколения.

Новое поколение ядер Arm v9

Поскольку возможности параллельных вычислений на графических процессорах продолжают развиваться, рабочие нагрузки все еще можно выполнять с помощью последовательных задач на CPU. Быстрый и эффективный процессор является важным компонентом системы, позволяющим обеспечить максимальное ускорение задач. Процессор NVIDIA Grace интегрирует ядра нового поколения Arm v9 для обеспечения высокой производительности в энергоэффективном дизайне, упрощая работу ученых и исследователей.

Partners

Asus
Atos logo
DELL logo
Fii logo
Gigabyte logo
H3c logo
Hewlett Packard Enterprise Logo
Inspur logo
Lenovo logo
Nettrix logo
Quanta-cloud
Supermicro
Wiwynn-logo
xfusion-logo

Ведущие мировые производители систем ускоряют внедрение процессоров NVIDIA Grace и Grace Hopper