NVIDIA vComputeServer

Выполнение самых ресурсоемких задач при помощи виртуальных GPU

Виртуализация вычислений для ИИ, глубокого обучения и обработки данных

NVIDIA Virtual Compute Server (vComputeServer) обеспечивает ускоренную виртуализацию серверов при помощи инновационных GPU NVIDIA для дата-центра, в том числе NVIDIA A100 с тензорными ядрами, что позволяет выполнять самые ресурсоемкие рабочие задачи ИИ, глубокого обучения и обработки данных на виртуальной машине (VM).

Скачать обзор решения vComputeServer

Возможности

Совместное использование GPU

Совместное использование GPU

Совместное использование GPU (частичное) возможно только с технологией NVIDIA vGPU. Ресурсы GPU можно распределить между несколькими виртуальными машинами, что повышает утилизацию для более легких нагрузок, требующих ускорения на GPU.

ПОДРОБНЕЕ
Объединение GPU

Объединение GPU

Виртуальная машина может получить доступ к мощности нескольких GPU, что часто необходимо для ресурсоемких задач. vComputeServer поддерживает как вычисления на системах с несколькими vGPU, так и одноранговые вычисления. В системах с несколькими vGPU графические процессоры не объединяются напрямую. В одноранговой сети используется NVLink для более высокой пропускной способности.

ПОДРОБНЕЕ
Управление и мониторинг

Управление и мониторинг

vComputeServer обеспечивает поддержку мониторинга на уровне приложений, гостевых ОС и серверов. Упреждающее управление позволяет проводить живую миграцию, приостанавливать и возобновлять работу и определять пороговые значения, которые отражают динамику использования – и все это при помощи SDK для управления vGPU.

ПОДРОБНЕЕ
NGC

NGC

NVIDIA GPU Cloud (NGC) – это реестр ПО, оптимизированного для GPU, для упрощения работы с задачами глубокого и машинного обучения и НРС. Теперь реестр поддерживает виртуализированные среды с NVIDIA vComputeServer.

ПОДРОБНЕЕ
Одноранговые вычисления

Одноранговые вычисления

NVIDIA® NVLink™– это высокоскоростное прямое соединение между GPU. Технология обеспечивает более высокую пропускную способность, большее число соединений и улучшенную масштабируемость для для конфигураций с несколькими GPU. Теперь соединение поддерживает технология NVIDIA Virtual GPU (vGPU).

ПОДРОБНЕЕ
Код исправления ошибок и удаление страниц

Код исправления ошибок и удаление страниц

Код исправления ошибок и удаление страниц обеспечивают более высокую надежность для вычислительных приложений, которые чувствительны к повреждению данных. Это особенно важно в крупномасштабных кластерных вычислительных средах, где графические процессоры обрабатывают очень большие наборы данных и/или запускают приложения на длительный период.

ПОДРОБНЕЕ
Multi-Instance GPU (MIG)

Multi-Instance GPU (MIG)

Multi-Instance GPU (MIG) — это революционная технология, которая позволяет расширить возможности дата-центра и разделить каждый GPU NVIDIA A100 с тензорными ядрами на семь полностью изолированных и защищенных на аппаратном уровне инстансов. Каждый инстанс оснащен памятью с высокой пропускной способностью, кэшем и вычислительными ядрами. С ПО vComputeServer запустить виртуальную машину можно на каждом инстансе MIG, поэтому компании могут использовать преимущества управления и эффективность виртуализации сервера с гипервизором.

ПОДРОБНЕЕ

NVIDIA vComputeServer

Рекомендуемые GPU

  NVIDIA A100 NVIDIA V100S NVIDIA RTX 8000 NVIDIA RTX 6000 NVIDIA T4
Память 40 Гб HBM2 32 Гб HBM2 48 Гб GDDR6 24 Гб GDDR6 16 Гб GDDR6
Пиковая производительность для FP32 19,5 ТЕРАФЛОПСА 16,4 ТЕРАФЛОПСА 14,9 ТЕРАФЛОПСА 14,9 ТЕРАФЛОПСА 8,1 ТЕРАФЛОПСА
Пиковая производительность для FP64 9,7 ТЕРАФЛОПСА 8,2 ТЕРАФЛОПСА - - -
NVLink: число GPU на виртуальную машину До 8 До 8 2 2 -
Код коррекции ошибок и удаления страниц
Число vGPU на одну виртуальную машину1 До 16 До 16 До 16 До 16 До 16

Партнеры по виртуализации

Citrix Logo
Nutanix Logo
RedHat Logo
NVMware Logo
Найти сертифицированный сервер

Часто задаваемые вопросы

  •

    Чем vComputeServer отличается от GRID vPC/vApps и Quadro vDWS?

    GRID vPC/vApps и Quadro vDWS – клиентские вычислительные решения для виртуализации бизнеса и работы с графикой и видео. vComputeServer разработан для ресурсоемких серверных нагрузок: задач ИИ, глубокого обучения и обработки данных.

  •

    Условия лицензии для vComputeServer такие же, как для GRID vPC/vApps и Quadro vDWS?

    Нет, vComputeServer лицензируется иначе. На GRID vPC/vApps и Quadro vDWS приобретается постоянная или годовая подписка по числу одновременных пользователей. Так как vComputeServer предназначен для серверных нагрузок, лицензия привязана к GPU, а не к пользователю. На vComputeServer приобретается годовая подписка по лицензии GPU. Подробнее о лицензии можно прочитать в руководстве «Комплектации, цены и лицензии NVIDIA Virtual GPU».

  •

    Какие GPU NVIDIA поддерживаются vComputeServer?

    Пожалуйста, ознакомьтесь с таблицей по рекомендованным графическим процессорам выше. Помимо рекомендованных ускорителей NVIDIA V100, V100, T4, RTX 8000, RTX 8000 для vComputeServer также поддерживаются NVIDIA P100, P40 и P6. В ближайшее время появится поддержка графического процессора NVIDIA A100 с тензорными ядрами.

  •

    Какие серверы сертифицированы для запуска vComputeServer?

    Полный список сертифицированных серверов для всех продуктов vGPU можно посмотреть здесь.

  •

    Можно ли использовать контейнеры с vComputeServer?

    Да, контейнеры можно запускать на виртуальных машинах с vComputeServer. NVIDIA NGC предоставляет полноценный каталог контейнеров с ускорением на GPU для глубокого и машинного обучения и НРС. Нагрузки также можно выполнять прямо на виртуальной машине без контейнеров при помощи vComputeServer.

Ознакомьтесь с информацией о выпуске и поддержке стороннего ПО

Читайте подробнее о ПО NVIDIA Virtual GPU.

СМОТРЕТЬ
Продукты
Технологии
Материалы