NVIDIA Virtual Compute Server

Выполнение самых ресурсоемких задач при помощи виртуальных GPU

Виртуализация вычислений для ИИ, глубокого обучения и обработки данных

NVIDIA Virtual Compute Server (vCS) обеспечивает ускоренную виртуализацию серверов при помощи инновационных GPU NVIDIA для дата-центра, в том числе NVIDIA A100 с тензорными ядрами¹, что позволяет выполнять самые ресурсоемкие рабочие задачи ИИ, глубокого обучения и обработки данных на виртуальной машине (VM).

Возможности

Совместное использование GPU

Совместное использование GPU

Совместное использование GPU (частичное) возможно только с технологией NVIDIA vGPU. Ресурсы GPU можно распределить между несколькими виртуальными машинами, что повышает утилизацию для более легких нагрузок, требующих ускорения на GPU.

Объединение GPU

Объединение GPU

Виртуальная машина может получить доступ к мощности нескольких GPU, что часто необходимо для ресурсоемких задач. vCS поддерживает как вычисления на системах с несколькими vGPU, так и одноранговые вычисления. В системах с несколькими vGPU графические процессоры не объединяются напрямую. В одноранговой сети используется NVLink для более высокой пропускной способности.

Управление и мониторинг

Управление и мониторинг

vCS обеспечивает поддержку мониторинга на уровне приложений, гостевых ОС и серверов. Упреждающее управление позволяет проводить живую миграцию, приостанавливать и возобновлять работу и определять пороговые значения, которые отражают динамику использования – и все это при помощи SDK для управления vGPU.

NGC

NGC

NVIDIA GPU Cloud (NGC) – это реестр ПО, оптимизированного для GPU, для упрощения работы с задачами глубокого и машинного обучения и НРС. Теперь реестр поддерживает виртуализированные среды с NVIDIA vCS.

Одноранговые вычисления

Одноранговые вычисления

NVIDIA® NVLink– это высокоскоростное прямое соединение между GPU. Технология обеспечивает более высокую пропускную способность, большее число соединений и улучшенную масштабируемость для для конфигураций с несколькими GPU. Теперь соединение поддерживает технология NVIDIA Virtual GPU (vGPU).

Код исправления ошибок и удаление страниц

Код исправления ошибок и удаление страниц

Код исправления ошибок и удаление страниц обеспечивают более высокую надежность для вычислительных приложений, которые чувствительны к повреждению данных. Это особенно важно в крупномасштабных кластерных вычислительных средах, где графические процессоры обрабатывают очень большие наборы данных и/или запускают приложения на длительный период.

Multi-Instance GPU (MIG)

Multi-Instance GPU (MIG)

Multi-Instance GPU (MIG) — это революционная технология, которая позволяет расширить возможности дата-центра и разделить каждый GPU NVIDIA A100 с тензорными ядрами на семь полностью изолированных и защищенных на аппаратном уровне инстансов. Каждый инстанс оснащен памятью с высокой пропускной способностью, кэшем и вычислительными ядрами. С ПО vCS запустить виртуальную машину можно на каждом инстансе MIG, поэтому компании могут использовать преимущества управления и эффективность виртуализации сервера с гипервизором.

Рекомендуемые GPU

  NVIDIA A100¹ NVIDIA V100S NVIDIA RTX 8000 NVIDIA RTX 6000 NVIDIA T4
Память 40 Гб HBM2 32 Гб HBM2 48 Гб GDDR6 24 Гб GDDR6 16 Гб GDDR6
Пиковая производительность для FP32 19,5 ТЕРАФЛОПСА 16,4 ТЕРАФЛОПСА 14,9 ТЕРАФЛОПСА 14,9 ТЕРАФЛОПСА 8,1 ТЕРАФЛОПСА
Пиковая производительность для FP64 9,7 ТЕРАФЛОПСА 8,2 ТЕРАФЛОПСА - - -
NVLink: число GPU на виртуальную машину До 8 До 8 2 2 -
Код коррекции ошибок и удаления страниц
Число vGPU на одну виртуальную машину1 До 16 До 16 До 16 До 16 До 16

Партнеры по виртуализации

Часто задаваемые вопросы

  • Чем vCS отличается от GRID vPC/vApps и Quadro vDWS?

    GRID vPC/vApps и Quadro vDWS – клиентские вычислительные решения для виртуализации бизнеса и работы с графикой и видео. vCS разработан для ресурсоемких серверных нагрузок: задач ИИ, глубокого обучения и обработки данных.

  • Условия лицензии для vCS такие же, как для GRID vPC/vApps и Quadro vDWS?

    Нет, vCS лицензируется иначе. На GRID vPC/vApps и Quadro vDWS приобретается постоянная или годовая подписка по числу одновременных пользователей. Так как vCS предназначен для серверных нагрузок, лицензия привязана к GPU, а не к пользователю. На vCS приобретается годовая подписка по лицензии GPU. Подробнее о лицензии можно прочитать в руководстве «Комплектации, цены и лицензии NVIDIA Virtual GPU».

  • Какие GPU NVIDIA поддерживаются vCS?

    Пожалуйста, ознакомьтесь с таблицей по рекомендованным графическим процессорам выше. Помимо рекомендованных ускорителей NVIDIA V100, V100, T4, RTX 8000, RTX 8000 для vCS также поддерживаются NVIDIA P100, P40 и P6. В ближайшее время появится поддержка графического процессора NVIDIA A100 с тензорными ядрами.

  • Какие серверы сертифицированы для запуска vCS?

    Полный список сертифицированных серверов для всех продуктов vGPU можно посмотреть здесь.

  • Можно ли использовать контейнеры с vCS?

    Да, контейнеры можно запускать на виртуальных машинах с vCS. NVIDIA NGC предоставляет полноценный каталог контейнеров с ускорением на GPU для глубокого и машинного обучения и НРС. Нагрузки также можно выполнять прямо на виртуальной машине без контейнеров при помощи vCS.

Ознакомьтесь с информацией о выпуске и поддержке стороннего ПО

Читайте подробнее о ПО NVIDIA Virtual GPU.