Процессор NVIDIA Grace

Специально построен для обучения крупнейших моделей в мире.

Революционный процессор для крупнейших задач ИИ и HPC

Модели ИИ становятся больше и сложнее, так как предназначены таких задач, как улучшение разговорного ИИ с помощью сотни миллиардов параметров, совершенствование рекомендательных систем на базе алгоритмов глубокого обучения с помощью десятков терабайтов данных, а также для совершения новых открытий. Эти массивные модели расширяют возможности современных систем. Масштабирование этих моделей требует быстрого доступа к большому объему памяти и постоянного обмена данными между процессором и GPU.

Посмотрите приветственную речь основателя и генерального директора NVIDIA Дженсена Хуанга (Jensen Huang) на GTC, где он представляет новый процессор NVIDIA Grace.

 

Предназначен для выполнения сложных задач

NVIDIA Grace использует гибкость Arm® для создания архитектуры процессора и сервера с нуля для ускоренных вычислений. Этот инновационный дизайн обеспечит увеличение пропускной способности до 30 раз по сравнению с современными серверами и до 10 раз более высокую производительность для приложений, обрабатывающих терабайты данных. NVIDIA Grace предназначена для того, чтобы дать возможность ученым и исследователям обучать самые большие в мире модели для выполнения сложных задач.

Последние технические инновации

Технология NVIDIA NVlink четвертого поколения

Выполнение самых сложных задач ИИ и HPC требует большой мощности и памяти с высокой пропускной способностью. Четвертое поколение NVIDIA® NVLink® обеспечивает скорость обмена данными между процессором NVIDIA Grace и GPU NVIDIA до 900 Гбит/с. Соединение гарантирует когерентную унифицированную память, объединяющую системную и HBM-память для упрощенной программируемости. Такое когерентное высокоскоростное соединение между процессором и GPU является ключом к ускорению нагрузок ИИ и HPC.

Новая подсистема высокоскоростной памяти, использующая LPDDR5x с ECC

Пропускная способность памяти является важным фактором для производительности сервера, а стандартная память с удвоенной скоростью передачи данных (DDR) потребляет значительную часть общей мощности. NVIDIA Grace CPU — это первый серверный процессор, который использует память LPDDR5x с надежностью серверного класса, возможной благодаря таким механизмам, как поддержка кодов коррекции ошибок (ECC). Это позволяет соответствовать требованиям современного дата-центра и обеспечить в 2 раза большую пропускную способность памяти и до 10 раз более высокую энергоэффективность по сравнению с современными технологиями серверной памяти. Решение NVIDIA Grace LPDDR5x в сочетании с большой высокопроизводительной кэш-памятью последнего уровня обеспечивает пропускную способность, необходимую для работы с большими моделями, и снижает энергопотребление для максимальной производительности в задачах следующего поколения.

Новое поколение ядер Arm Neoverse

Поскольку возможности параллельных вычислений на графических процессорах продолжают развиваться, рабочие нагрузки все еще можно выполнять с помощью последовательных задач на CPU. Быстрый и эффективный процессор является важным компонентом системы, позволяющим обеспечить максимальное ускорение задач. Процессор NVIDIA Grace интегрирует ядра нового поколения Arm Neoverse™ для обеспечения высокой производительности в энергоэффективном дизайне, упрощая работу ученых и исследователей.

Посмотрите, как основатель и генеральный директор NVIDIA Дженсен Хуанг (Jensen Huang) представляет процессор NVIDIA Grace на своем выступлении на GTC, а также узнайте подробности о новом решении в пресс-релизе.