Решения для периферийных вычислений

Современные компании стремятся использовать данные, полученные с миллиардов IoT-датчиков, расположенных в розничных магазинах, на улицах города и в больницах. Возможность более быстрого сбора информации с помощью решений для периферийных вычислений может сэкономить время, средства и даже спасти жизни. Но чтобы обеспечить это, решениям требуются большие объемы распределенных вычислений, надежное и простое удаленное управление и совместимость с ведущими технологиями.

Преимущества ускоренных периферийных вычислений

Умные встроенные датчики в IoT-устройствах

Чем ниже задержки, тем быстрее сбор данных

Так как периферийные вычисления обрабатывают данные локально, а не в облаке или дата-центре, они минимизируют задержки и требования к пропускной способности, обеспечивая обратную связь и принятие решений в реальном времени. Например, умные датчики, встроенные в IoT-устройства, могут обрабатывать данные с автономных машин и камер на производстве и мгновенно оповещать сотрудников о нарушениях, неисправностях и других ситуациях. Помимо встраиваемых устройств, компании могут размещать пограничные серверы в непосредственной близости от датчиков: в серверной или подсобном помещении магазина, в больнице или на складе, чтобы дополнительно снизить задержку.

Производительные масштабируемые вычисления

Физическое расстояние между данными и дата-центрами приводит к задержке. Периферийные вычисления уменьшают основной фактор задержки, так как осуществляются на границе сети — ближе к источнику данных. Так как огромные объемы данных постоянно генерируются, встраиваемым устройствам и пограничным серверам все еще необходимы возможности дата-центра для локальной обработки всей информации. Благодаря графическим процессорам и ПО NVIDIA компаниям не приходится жертвовать вычислениями для обеспечения масштабируемости или снижения задержки.

Графические процессоры и ПО NVIDIA
Платформа для периферийных вычислений NVIDIA EGX

Распределенная упрощенная инфраструктура

При размещении систем в разных местах компаниям приходится решать новые задачи подготовки, развертывания, управления и обслуживания. Для стабильной работы важно, чтобы ИТ-специалисты могли установить ПО на удаленных системах. Платформа периферийных вычислений NVIDIA EGX™ с пакетами Helm, контейнерами, непрерывной интеграцией и развертыванием (CI/CD) оптимизирует и ускоряет этот процесс.  Используя NVIDIA EGX, разработчики могут легко развернуть обновленные контейнеры ИИ за считанные минуты.

NVIDIA EGX содержит GPU Operator, который автоматизирует установку и настройку всех компонентов, необходимых для использования вычислений на GPU в кластере Kubernetes. Такие компоненты, как драйвер NVIDIA, среда выполнения контейнеров, плагин и ПО для управления, контейнеризированы и могут быть установлены на кластерах Kubernetes как сервисы, благодаря чему разработчики управляют только одним образом для узлов на CPU и GPU.

Ускоренные периферийные вычисления во всех отраслях

Платформа NVIDIA EGX для ИИ обеспечивает возможности ускоренных вычислений на периферийных устройствах с помощью простого в развертывании программного стека, сертифицированных серверов и устройств и широкой экосистемы партнеров, которые предлагают возможности EGX в своих продуктах и сервисах.

Здравоохранение

Производство

Розничная торговля

Умные города

Телекоммуникации

Ускорение ИИ на границе сети с EGX

Платформа NVIDIA EGX обеспечивает возможности безопасных ускоренных вычислений на периферийных устройствах с помощью простого в развертывании программного стека, сертифицированных серверов и устройств и широкой экосистемы партнеров, которые предлагают возможности EGX в своих продуктах и сервисах.

  • ПО для периферийных вычислений
  • Инфраструктура для периферийных вычислений
  • Управление для периферийных устройств
ПО для периферийных вычислений NVIDIA EGX

ПО для периферийных вычислений

Простая и быстрая подготовка серверов на базе GPU с помощью масштабируемого программного стека NVIDIA EGX, предназначенного для периферийных устройств и облака. NVIDIA GPU Operator — это основной компонент стека EGX, который стандартизирует и автоматизирует установку всех необходимых компонентов для кластеров Kubernetes с поддержкой GPU.

Каталог NVIDIA NGC™ содержит обширный спектр GPU-ускоренного ПО для периферийных вычислений, в том числе пакеты Helm для развертывания на Kubernetes. Каталог NGC предоставляет доступ к популярным контейнерам ПО для ИИ и data science, предварительно обученным моделям и SDK, которые настроены, протестированы и оптимизированы NVIDIA.  NGC упрощает разработку и развертывание производительных, защищенных и масштабируемых решений.

Платформа NVIDIA EGX

Инфраструктура для периферийных вычислений

Используйте мощность и универсальность GPU NVIDIA и сетевых технологий на границе сети с платформой NVIDIA EGX. Аппаратная часть EGX содержит линейку энергоэффективных решений NVIDIA® Jetson для таких задач, как распознавание изображений и объединение датчиков. Платформа масштабируется до полноценной стойки серверов NVIDIA T4, обеспечивающих свыше 10 000 трлн операций в секунду для сотен пользователей для распознавания речи в реальном времени и других ресурсоемких задачах ИИ.

NVIDIA EGX platform

Управление для периферийных устройств

NVIDIA Fleet Command — это гибридная облачная платформа для управления и масштабирования ИИ на периферийных устройствах. NVIDIA Fleet Command упрощает управление и масштабирование развертывания на периферийных устройствах. Вы можете обеспечить безопасное удаленное развертывание ИИ для всей сети за считанные минуты как для нескольких устройств, так и для миллионов.