Программный ускоритель приложений

Главная задача NVIDIA® — это ускорение обработки данных. С помощью правильного инструмента любое приложение может эффективно использовать ресурсы сервера, уменьшить задержки и увеличить свою пропускную способность. Выбор правильного инструмента для вашего приложения обеспечивает максимальную утилизацию сервера.

Приложения

DPDK

DPDK — это набор библиотек и оптимизированных драйверов NIC для быстрой обработки пакетов в пользовательском пространстве. DPDK предоставляет фреймворк и общий API для высокоскоростных сетевых приложений. Mellanox входит в сообщество разработчиков открытого программного обеспечения DPDK, занимаясь не только разработкой высокопроизводительных драйверов Mellanox, но и способствуя улучшению и расширению функциональных возможностей DPDK и сценариев использования.

HPC-X ScalableHPC

Суперкомпьютеры развиваются невиданными темпами на фоне растущих требований со стороны приложений для научных исследований и инженерного моделирования. Программный набор инструментов NVIDIA Mellanox HPC-X® — это комплексный пакет ПО MPI и SHMEM/PGAS для высокопроизводительных вычислительных систем. Расширенные возможности HPC-X позволяют значительно повысить масштабируемость и производительность систем обмена сообщениями в сети.

NVIDIA Mellanox Rivermax

Организация прямых трансляций в индустрии медиа и развлечений (M&E) находится в процессе перехода от традиционных последовательных цифровых интерфейсов (SDI) к инфраструктурам на базе IP-протокола, что позволяет улучшить масштабируемость и гибкость производства. Решения на базе IP-протокола также поддерживают требования к высокой пропускной способности форматов видео 4K UHD и 8K UHD.

Messaging Accelerator

NVIDIA Mellanox Messaging Accelerator (VMA) повышает производительность приложений на основе сообщений и стриминга в широком спектре отраслей. К ним относятся платформы высокочастотного трейдинга (HFT) рынка финансовых услуг, кластеры Web2 и другие инструменты. Для СМИ, развлекательного телерадиовещания и стриминга (с поддержкой SMPTE 2110-21) см. NVIDIA Mellanox Rivermax®.

Unified Communication X

Платформа UCX появилась в результате сотрудничества наших производственных предприятий, лабораторий и научно-исследовательских отделов, которые работали над созданием фреймворка связи промышленного уровня с открытым исходным кодом для высокопроизводительных приложений по обработке данных. Платформа UCX создана для поддержания высокой производительности и обеспечения низкого потребления ресурсов в канале связи, что позволяет использовать единый кросс-платформенный интерфейс API с различными сетевыми адаптерами Host Card Adaptor (HCA) и процессорами (x86, ARM и PowerPC). Платформа UCX входит в пакет программных инструментов HPC-X® ScalableHPC.

SparkRDMA

Apache Spark — это быстрый фреймворк общего назначения с открытым исходным кодом, предназначенный для обработки больших объемов данных. Spark предоставляет интерфейс для программирования целых кластеров с неявным параллелизмом данных и отказоустойчивостью.

Основные характеристики

  • Ускорение обработки данных для повышения производительности
  • Оптимизация сетей для ускоренной обработки пакетов
  • Общий фреймворк API для высокоскоростных сетей
  • Устранение прерываний в ядре

Преимущества

  • Уменьшение объема данных, проходящих через сеть
  • Более высокая утилизация сервера
  • Сокращение времени, требующегося для научных исследований и инженерного моделирования
  • Повышение масштабируемости и производительности функций передачи сообщений

Спецификации

  Задачи приложения Ethernet /InfiniBand Требуемое оборудование Серверная технология
DPDK — Data Plane Development Kit DPDK предоставляет API для быстрой обработки пакетов

Высокая пропускная способность (даже для небольших пакетов, например, 148 миллионов пакетов в секунду при размере пакета 64 байта на одном порте ConnectX-5 100GbE)

Аппаратные разгрузки на NIC
Ethernet ConnectX-3 Pro
ConnectX-4 / Lx
ConnectX-5 / Ex
x86,
Arm,
PPC
HPC-X — High Performance Computing X HPC-X — это пакет ПО MPI, SHMEM и UPC для HPC-приложений

Повышение масштабируемости и производительности обмена сообщениями в сети с помощью адаптеров и коммутаторов NVIDIA и технологии NVIDIA Mellanox SHARP.
Ethernet /InfiniBand ConnectX-3 Pro
ConnectX-4 / Lx
ConnectX-5 / Ex
x86,
Arm,
PPC,
GPU-Direct*
Rivermax — Видео-стриминг Rivermax — это API для приложений потоковой передачи мультимедиа

Использование готовых к использованию COTS-серверов для разрешения от HD до Ultra HD

Соответствие стандартам SMPTE 2110-21

Скорость 82 Гбит/с с одним ядром процессора
Ethernet ConnectX-5 / Ex x86
VMA — Messaging Accelerator Использование стандартных сокетов UDP и TCP, без изменений кода

Обеспечение низких задержек и высокой пропускной способности приложений через стандартный сокет API
Ethernet /InfiniBand ConnectX-3 Pro
ConnectX-4 / Lx
ConnectX-5 / Ex
x86
UCX — Unified Communication X Простой API для обмена сообщениями через RDMA

Транспортировка и разгрузка с помощью NIC NVIDIA
Ethernet /InfiniBand ConnectX-3 Pro
ConnectX-4 / Lx
ConnectX-5 / Ex
x86,
Arm,
PPC,
GPU-Direct
Плагин Apache Spark SparkRDMA Любое приложение, использующее Apache Spark, может быть ускорено с помощью плагина SparkRDMA. Ethernet /InfiniBand ConnectX-3 Pro
ConnectX-4 / Lx
ConnectX-5 / Ex
x86,
Arm,
PPC
*Примечание: Roadmap

Материалы

Настройка кластера

Курсы Academy Online

Готовы приобрести?