NVIDIA Virtual Compute Server

Выполнение самых ресурсоемких задач при помощи виртуальных GPU

Виртуализация вычислений для ИИ, глубокого обучения и обработки данных

NVIDIA Virtual Compute Server (vCS) обеспечивает ускоренную виртуализацию серверов при помощи инновационных GPU NVIDIA для дата-центра, в том числе NVIDIA A100 с тензорными ядрами¹, что позволяет выполнять самые ресурсоемкие рабочие задачи ИИ, глубокого обучения и обработки данных на виртуальной машине (VM).

Скачать обзор решения vCS

Возможности

Совместное использование GPU

Совместное использование GPU

Совместное использование GPU (частичное) возможно только с технологией NVIDIA vGPU. Ресурсы GPU можно распределить между несколькими виртуальными машинами, что повышает утилизацию для более легких нагрузок, требующих ускорения на GPU.

ПОДРОБНЕЕ
Объединение GPU

Объединение GPU

Виртуальная машина может получить доступ к мощности нескольких GPU, что часто необходимо для ресурсоемких задач. vCS поддерживает как вычисления на системах с несколькими vGPU, так и одноранговые вычисления. В системах с несколькими vGPU графические процессоры не объединяются напрямую. В одноранговой сети используется NVLink для более высокой пропускной способности.

ПОДРОБНЕЕ
Управление и мониторинг

Управление и мониторинг

vCS обеспечивает поддержку мониторинга на уровне приложений, гостевых ОС и серверов. Упреждающее управление позволяет проводить живую миграцию, приостанавливать и возобновлять работу и определять пороговые значения, которые отражают динамику использования – и все это при помощи SDK для управления vGPU.

ПОДРОБНЕЕ
NGC

NGC

NVIDIA GPU Cloud (NGC) – это реестр ПО, оптимизированного для GPU, для упрощения работы с задачами глубокого и машинного обучения и НРС. Теперь реестр поддерживает виртуализированные среды с NVIDIA vCS.

ПОДРОБНЕЕ
Одноранговые вычисления

Одноранговые вычисления

NVIDIA® NVLink™– это высокоскоростное прямое соединение между GPU. Технология обеспечивает более высокую пропускную способность, большее число соединений и улучшенную масштабируемость для для конфигураций с несколькими GPU. Теперь соединение поддерживает технология NVIDIA Virtual GPU (vGPU).

ПОДРОБНЕЕ
Код исправления ошибок и удаление страниц

Код исправления ошибок и удаление страниц

Код исправления ошибок и удаление страниц обеспечивают более высокую надежность для вычислительных приложений, которые чувствительны к повреждению данных. Это особенно важно в крупномасштабных кластерных вычислительных средах, где графические процессоры обрабатывают очень большие наборы данных и/или запускают приложения на длительный период.

ПОДРОБНЕЕ
Multi-Instance GPU (MIG)

Multi-Instance GPU (MIG)

Multi-Instance GPU (MIG) — это революционная технология, которая позволяет расширить возможности дата-центра и разделить каждый GPU NVIDIA A100 с тензорными ядрами на семь полностью изолированных и защищенных на аппаратном уровне инстансов. Каждый инстанс оснащен памятью с высокой пропускной способностью, кэшем и вычислительными ядрами. С ПО vCS запустить виртуальную машину можно на каждом инстансе MIG, поэтому компании могут использовать преимущества управления и эффективность виртуализации сервера с гипервизором.

ПОДРОБНЕЕ
GPUDirect

GPUDirect

Технология GPUDirect® RDMA (удаленный прямой доступ к памяти) позволяет сетевым устройствам напрямую получать доступ к памяти GPU без участия памяти процессора, снижая задержку при коммуникации между GPU и CPU и полностью разгружая процессор.

ПОДРОБНЕЕ

Рекомендуемые GPU

  NVIDIA A100¹ NVIDIA V100S NVIDIA A401 NVIDIA RTX 8000 NVIDIA RTX 6000 NVIDIA T4
Память 40 Гб HBM2 32 Гб HBM2 48 Гб GDDR6 48 Гб GDDR6 24 Гб GDDR6 16 Гб GDDR6
Пиковая производительность для FP32 19,5 ТЕРАФЛОПСА 16,4 ТЕРАФЛОПСА 38,1 ТЕРАФЛОПСА 14,9 ТЕРАФЛОПСА 14,9 ТЕРАФЛОПСА 8,1 ТЕРАФЛОПСА
Пиковая производительность для FP64 9,7 ТЕРАФЛОПСА 8,2 ТЕРАФЛОПСА - - - -
NVLink: число GPU на виртуальную машину До 8 До 8 2 2 2 -
Код коррекции ошибок и удаления страниц
Число vGPU на одну виртуальную машину1 До 16 До 16 До 16 До 16 До 16 До 16

1 Поддержка NVIDIA A40 будет доступна в следующей версии ПО NVIDIA Virtual GPU (GPU).

Партнеры по виртуализации

Citrix Logo
Nutanix Logo
RedHat Logo
NVMware Logo
Найти сертифицированный сервер

Часто задаваемые вопросы

  •

    Чем vCS отличается от GRID vPC/vApps и Quadro vDWS?

    GRID vPC/vApps и Quadro vDWS – клиентские вычислительные решения для виртуализации бизнеса и работы с графикой и видео. vCS разработан для ресурсоемких серверных нагрузок: задач ИИ, глубокого обучения и обработки данных.

  •

    Условия лицензии для vCS такие же, как для GRID vPC/vApps и Quadro vDWS?

    Нет, vCS лицензируется иначе. На GRID vPC/vApps и Quadro vDWS приобретается постоянная или годовая подписка по числу одновременных пользователей. Так как vCS предназначен для серверных нагрузок, лицензия привязана к GPU, а не к пользователю. На vCS приобретается годовая подписка по лицензии GPU. Подробнее о лицензии можно прочитать в руководстве «Комплектации, цены и лицензии NVIDIA Virtual GPU».

  •

    Какие GPU NVIDIA поддерживаются vCS?

    Пожалуйста, ознакомьтесь с таблицей по рекомендованным графическим процессорам выше. Помимо рекомендованных ускорителей NVIDIA V100, V100, T4, RTX 8000, RTX 8000 для vCS также поддерживаются NVIDIA P100, P40 и P6. В ближайшее время появится поддержка графического процессора NVIDIA A100 с тензорными ядрами.

  •

    Какие серверы сертифицированы для запуска vCS?

    Полный список сертифицированных серверов для всех продуктов vGPU можно посмотреть здесь.

  •

    Можно ли использовать контейнеры с vCS?

    Да, контейнеры можно запускать на виртуальных машинах с vCS. NVIDIA NGC предоставляет полноценный каталог контейнеров с ускорением на GPU для глубокого и машинного обучения и НРС. Нагрузки также можно выполнять прямо на виртуальной машине без контейнеров при помощи vCS.

Ознакомьтесь с информацией о выпуске и поддержке стороннего ПО

Читайте подробнее о ПО NVIDIA Virtual GPU.

СМОТРЕТЬ
ПРОДУКТЫ
ТЕХНОЛОГИИ
ПРОГРАММНОЕ ОБЕСПЕЧЕНИЕ
МАТЕРИАЛЫ