Virtual Compute Server (vCS)

Виртуализация вычислений для ИИ, глубокого обучения и обработки данных

NVIDIA Virtual Compute Server (vCS) обеспечивает ускоренную виртуализацию серверов при помощи инновационных GPU NVIDIA для дата-центра, в том числе NVIDIA A100 с тензорными ядрами¹, что позволяет выполнять самые ресурсоемкие рабочие задачи ИИ, глубокого обучения и обработки данных на виртуальной машине (VM).

Скачать обзор решения vCS

Возможности

Совместное использование GPU

Совместное использование GPU (частичное) возможно только с технологией NVIDIA vGPU. Ресурсы GPU можно распределить между несколькими виртуальными машинами, что повышает утилизацию для более легких нагрузок, требующих ускорения на GPU.

ПОДРОБНЕЕ

Объединение GPU

Виртуальная машина может получить доступ к мощности нескольких GPU, что часто необходимо для ресурсоемких задач. vCS поддерживает как вычисления на системах с несколькими vGPU, так и одноранговые вычисления. В системах с несколькими vGPU графические процессоры не объединяются напрямую. В одноранговой сети используется NVLink для более высокой пропускной способности.

ПОДРОБНЕЕ

Управление и мониторинг

vCS обеспечивает поддержку мониторинга на уровне приложений, гостевых ОС и серверов. Упреждающее управление позволяет проводить живую миграцию, приостанавливать и возобновлять работу и определять пороговые значения, которые отражают динамику использования – и все это при помощи SDK для управления vGPU.

ПОДРОБНЕЕ

NGC

NVIDIA GPU Cloud (NGC) – это реестр ПО, оптимизированного для GPU, для упрощения работы с задачами глубокого и машинного обучения и НРС. Теперь реестр поддерживает виртуализированные среды с NVIDIA vCS.

ПОДРОБНЕЕ

Одноранговые вычисления

NVIDIA^® NVLink^™– это высокоскоростное прямое соединение между GPU. Технология обеспечивает более высокую пропускную способность, большее число соединений и улучшенную масштабируемость для для конфигураций с несколькими GPU. Теперь соединение поддерживает технология NVIDIA Virtual GPU (vGPU).

ПОДРОБНЕЕ

Код исправления ошибок и удаление страниц

Код исправления ошибок и удаление страниц обеспечивают более высокую надежность для вычислительных приложений, которые чувствительны к повреждению данных. Это особенно важно в крупномасштабных кластерных вычислительных средах, где графические процессоры обрабатывают очень большие наборы данных и/или запускают приложения на длительный период.

ПОДРОБНЕЕ

Multi-Instance GPU (MIG)

Multi-Instance GPU (MIG) — это революционная технология, которая позволяет расширить возможности дата-центра и разделить каждый GPU NVIDIA A100 с тензорными ядрами на семь полностью изолированных и защищенных на аппаратном уровне инстансов. Каждый инстанс оснащен памятью с высокой пропускной способностью, кэшем и вычислительными ядрами. С ПО vCS запустить виртуальную машину можно на каждом инстансе MIG, поэтому компании могут использовать преимущества управления и эффективность виртуализации сервера с гипервизором.

ПОДРОБНЕЕ

Партнеры по виртуализации

Найти сертифицированный сервер

Часто задаваемые вопросы

Чем vCS отличается от GRID vPC/vApps и Quadro vDWS?

GRID vPC/vApps и Quadro vDWS – клиентские вычислительные решения для виртуализации бизнеса и работы с графикой и видео. vCS разработан для ресурсоемких серверных нагрузок: задач ИИ, глубокого обучения и обработки данных.
Условия лицензии для vCS такие же, как для GRID vPC/vApps и Quadro vDWS?

Нет, vCS лицензируется иначе. На GRID vPC/vApps и Quadro vDWS приобретается постоянная или годовая подписка по числу одновременных пользователей. Так как vCS предназначен для серверных нагрузок, лицензия привязана к GPU, а не к пользователю. На vCS приобретается годовая подписка по лицензии GPU. Подробнее о лицензии можно прочитать в руководстве «Комплектации, цены и лицензии NVIDIA Virtual GPU».
Какие GPU NVIDIA поддерживаются vCS?

Пожалуйста, ознакомьтесь с таблицей по рекомендованным графическим процессорам выше. Помимо рекомендованных ускорителей NVIDIA V100, V100, T4, RTX 8000, RTX 8000 для vCS также поддерживаются NVIDIA P100, P40 и P6. В ближайшее время появится поддержка графического процессора NVIDIA A100 с тензорными ядрами.
Какие серверы сертифицированы для запуска vCS?

Полный список сертифицированных серверов для всех продуктов vGPU можно посмотреть здесь.
Можно ли использовать контейнеры с vCS?

Да, контейнеры можно запускать на виртуальных машинах с vCS. NVIDIA NGC предоставляет полноценный каталог контейнеров с ускорением на GPU для глубокого и машинного обучения и НРС. Нагрузки также можно выполнять прямо на виртуальной машине без контейнеров при помощи vCS.

Ознакомьтесь с информацией о выпуске и поддержке стороннего ПО

Читайте подробнее о ПО NVIDIA Virtual GPU.

СМОТРЕТЬ

	NVIDIA A100¹	NVIDIA V100S	NVIDIA RTX 8000	NVIDIA RTX 6000	NVIDIA T4
Память	40 Гб HBM2	32 Гб HBM2	48 Гб GDDR6	24 Гб GDDR6	16 Гб GDDR6
Пиковая производительность для FP32	19,5 ТЕРАФЛОПСА	16,4 ТЕРАФЛОПСА	14,9 ТЕРАФЛОПСА	14,9 ТЕРАФЛОПСА	8,1 ТЕРАФЛОПСА
Пиковая производительность для FP64	9,7 ТЕРАФЛОПСА	8,2 ТЕРАФЛОПСА	-	-	-
NVLink: число GPU на виртуальную машину	До 8	До 8	2	2	-
Код коррекции ошибок и удаления страниц
Число vGPU на одну виртуальную машину1	До 16	До 16	До 16	До 16	До 16

NVIDIA Virtual Compute Server

Виртуализация вычислений для ИИ, глубокого обучения и обработки данных

Возможности

Совместное использование GPU

Объединение GPU

Управление и мониторинг

NGC

Одноранговые вычисления

Код исправления ошибок и удаление страниц

Multi-Instance GPU (MIG)

Рекомендуемые GPU

Партнеры по виртуализации

Часто задаваемые вопросы

Чем vCS отличается от GRID vPC/vApps и Quadro vDWS?

Условия лицензии для vCS такие же, как для GRID vPC/vApps и Quadro vDWS?

Какие GPU NVIDIA поддерживаются vCS?

Какие серверы сертифицированы для запуска vCS?

Можно ли использовать контейнеры с vCS?

Ознакомьтесь с информацией о выпуске и поддержке стороннего ПО