ПЛАТФОРМА NVIDIA EGX ДЛЯ ПЕРИФЕРИЙНЫХ ВЫЧИСЛЕНИЙ

Теперь компании используют периферийные устройства. На производстве. В магазинах. На улицах города. В пунктах неотложной помощи. На периферийные устройства поступают данные с миллиардов датчиков IoT-устройств, пограничные серверы обрабатывают их и принимают решения, если это необходимо. Интеллектуальная розничная торговля, здравоохранение, производство, логистика и умные города – все это становится реальностью благодаря платформе NVIDIA EGX, которая обеспечивает возможности ИИ в периферийных устройствах.

ОБЕСПЕЧЕНИЕ ИИ В ПЕРИФЕРИЙНЫХ УСТРОЙСТВАХ

Платформа NVIDIA EGX обеспечивает возможности ускоренных вычислений на периферийных устройствах с помощью простого в развертывании программного стека, сертифицированных серверов и устройств и широкой экосистемы партнеров, которые предлагают возможности EGX в своих продуктах и сервисах.

Запуск контейнеров ИИ

Репозиторий NGC размещает широкий спектр GPU-ускоренного ПО для EGX, в том числе пакеты Helm для развертывания на Kubernetes. Контейнеры NGC содержат ведущее ПО для работы с данными, которое настроено, протестировано и оптимизировано NVIDIA. Репозиторий также предоставляет пользователям доступ к сторонним, предварительно обученным моделям и пакетам Helm для Kubernetes, которые упрощают развертывание сложного ПО и разработку собственных решений.

Оптимизация для облака и периферийных устройств

NVIDIA EGX – это масштабируемый программный стек для облачных и периферийных вычислений, который позволяет быстро и легко подготовить серверы на GPU. Основной компонент EGX – NVIDIA GPU Operator, который стандартизирует и автоматизирует установку всех необходимых компонентов для подготовки кластеров на GPU для Kubernetes.

Серверы с поддержкой EGX

На одном краю EGX компактный модуль NVIDIA® Jetson Nano™, способный выполнять полтриллиона операций в секунду (TOPS) при энергопотреблении всего несколько Ватт в таких задачах, как распознавание изображений. Платформа масштабируется до полноценной стойки серверов NVIDIA T4, обеспечивающих свыше 10 000 TOPS для сотен пользователей в операциях распознавания речи в реальном времени и других ресурсоемких задачах ИИ.

Масштабируемость ИИ: от периферийных устройств до дата-центра

Масштабируемость ИИ: от периферийных устройств до дата-центра

Платформа NVIDIA EGX включает в себя сертифицированные для периферийных устройств серверы с поддержкой NGC. Это и Jetson Nano, который управляет дорожными камерами в умном городе, и единый сервер с GPU NVIDIA в магазине, и целый комплекс серверов с микродата-центром для операторов связи. Независимо от форм-фактора, стек NVIDIA EGX полностью совместим, что позволяет компаниям быстро и эффективно масштабировать операции на периферийных устройствах: от камер и устройств до удаленного крупного дата-центра.

Ускорение революции IoT с ИИ и 5G

Ускорение революции IoT с ИИ и 5G

5G открывает новую эру беспроводной связи, где задержки в 10 раз ниже, а пропускная способность в 1000 раз выше. В сетях 5G также появляется концепция Network slicing («Сегментация сети»), что позволит телекоммуникационным компаниям предоставлять сервисы для уникальных задач пользователей. По мере перехода на стандарт 5G компании будут стремиться работать с целым рядом программно-определяемых приложений: от ИИ и дополненной реальности до виртуальной реальности и игр. Благодаря NVIDIA EGX и новому SDK NVIDIA Aerial программно-определяемые виртуальные сети радиодоступа (vRAN) с ускорением на GPU появятся быстрее, чем вы думаете.

NVIDIA EGX Stack

Простая ИТ-инфраструктура для развертывания на периферийных устройствах

Стек NVIDIA EGX устраняет традиционные проблемы установки программного обеспечения на удаленных системах. С помощью пакетов Helm, контейнеров, непрерывной интеграции и доставки (CI/CD) организации могут развернуть обновленные контейнеры за считанные минуты.

NVIDIA GPU Operator на базе Kubernetes решает проблему уникальных образов ОС для узлов на GPU и на CPU. Инструмент содержит все необходимое для поддержки графического ускорителя Tesla: драйвер, среду исполнения контейнеров, плагин и управление с пакетом Helm для установки. Теперь единый образ подходит для узлов на CPU и GPU.

Hybrid Cloud Management

Совместимость с платформами управления Kubernetes

Возможность развертывания, масштабирования и управления промышленным кластером Kubernetes чрезвычайно важна. Архитектуру стека EGX поддерживают ведущие партнеры гибридных облачных платформ: Canonical, Cisco Container Platform (CCP), Microsoft Azure, Nutanix, Red Hat и VMware. Благодаря поддержке GPU Operator кластеры настроены для нагрузок GPU и работают без проблем совместимости.

ПЕРИФЕРИЙНЫЕ ВЫЧИСЛЕНИЯ В РАЗЛИЧНЫХ ОТРАСЛЯХ

NVIDIA EGX создает единую и унифицированную платформу для самых популярных приложений и фреймворков ИИ для периферийных устройств.

РОЗНИЧНАЯ ТОРГОВЛЯ

РОЗНИЧНАЯ ТОРГОВЛЯ

ПРОИЗВОДСТВО

ПРОИЗВОДСТВО

ТЕЛЕКОММУНИКАЦИИ

ТЕЛЕКОММУНИКАЦИИ

УМНЫЕ ГОРОДА

УМНЫЕ ГОРОДА

В Seagate мы используем решение для интеллектуального зрения на базе GPU для контроля качества головок записи и чтения наших жестких дисков. Платформа NVIDIA EGX значительно ускоряет инференс на периферийных устройствах, позволяя увидеть дефекты, незаметные человеческому глазу. Мы ожидаем роста производительности до 10% и до 300% окупаемости инвестиций за счет повышения эффективности и качества.

— Брюс Кинг (Bruce King), главный специалист по данным, Seagate Technology

ИИ является основополагающим фактором на пути к индивидуализированной медицине и должен быть доступен повсеместно: от облачных платформ до периферии, а также непосредственно на медицинских устройствах. С помощью NVIDIA EGX компания GE Healthcare может ускорить анализ снимков МРТ, повысить качество изображения и снизить вариативность благодаря встроенным ускорителям NVIDIA T4 в медицинских устройствах. Все это позволяет добиться нашей цели — улучшения результатов лечения. ИИ в периферийных устройствах необходим в случаях оказания экстренной помощи. Поэтому мы создали интеллектуальную платформу Edison и объединились с NVIDIA, чтобы обеспечить возможности ИИ в наши медицинских устройствах и устройствах на базе Edison. Именно для демократизации ИИ мы сотрудничаем с ACR AI-LAB.

— Джейсон Ползин (Jason Polzin), кандидат наук, главный менеджер приложений для МРТ в GE Healthcare.

Red Hat призвана обеспечить полноценные возможности для любых нагрузок и локаций: от гибридной облачной системы до периферийных устройств. Объединив платформы Red Hat OpenShift и NVIDIA EGX, пользователи смогут лучше оптимизировать свои распределенные операции в высокопроизводительном, ориентированном на контейнеры окружении.

— Крис Райт (Chris Wright), технический директор Red Hat

Производство ПК в Foxconn ограничено скоростью контроля: на данный момент требуется четыре секунды для ручной проверки каждого компонента. Наша цель — увеличить производительность конвейера до 40% с помощью платформы NVIDIA EGX, позволяющей ИИ принимать решения на периферийных устройствах. Наша модель распознает и классицифирует 16 типов и расположений дефектов одновременно, используя быстрые нейронные сети, работающие на GPU NVIDIA, и достигая точности 98% при сверхчеловеческой производительности.

— Марк Чин (Mark Chien), генеральный менеджер Foxconn D Group

Сетевые карты и переключатели Mellanox Smart обеспечивают идеальный интерфейс для доступа к данным, которые масштабируются до больших дата-центров. Сочетание высокой производительности, низких задержек и ускоренных сетевых соединений поднимает инфраструктурные вычисления на иной уровень, необходимый для эффективного доступа к данным и работы передовых ИИ-решений нового поколения на периферийных платформах, таких, как NVIDIA EGX.

— Майкл Каган (Michael Kagan), технический директор Mellanox Technologies

Программный стек корпоративного уровня для EGX

Программный стек корпоративного уровня для EGX

NVIDIA EGX – это оптимизированный стек ПО, который включает в себя драйверы NVIDIA, плагин CUDA® Kubernetes, среду исполнения для контейнеров CUDA Docker, библиотеки CUDA-X™ и контейнеризированные фреймворки и приложения ИИ, в том числе NVIDIA TensorRT™, TensorRT Inference Server и DeepStream. Стек NVIDIA EGX оптимизирован для пограничных серверов с поддержкой NGC. Пакеты Helm для установки доступны в репозитории контейнеров NVIDIA NGC.

ПАРТНЕРЫ ПО ПРОДАЖАМ EGX

  • ПРОИЗВОДИТЕЛИ ПОГРАНИЧНЫХ СЕРВЕРОВ
  • ПАРТНЕРЫ ПО ГИБРИДНЫМ ОБЛАЧНЫМ ПЛАТФОРМАМ
Acer
Advantech
ASRock Rack
Asus
Atos
Cisco
Dell EMC
Fujitsu
Gigabyte
Hewlett Packard Enterprise
Inspur
Ineventec
Lenovo
Mitac
Quanta Cloud Technology
Supermicro
Tyan
wiwynn
Canonical
Cisco
Microsoft Azure
Nutanix
Red Hat
VMware

NVIDIA EGX

Подпишитесь, чтобы узнать больше о платформе периферийных вычислений NVIDIA EGX.