NVIDIA NGC

ПО ИИ, оптимизированное под GPU, корпоративные услуги и поддержка.

Портал услуг, программного обеспечения и поддержки для искусственного интеллекта, машинного обучения и высокопроизводительных вычислений.

NVIDIA NGC предлагает набор полностью управляемых облачных сервисов, включая LLM NeMo, BioNemo и Riva Studio для решений NLU и ИИ для обработки речи. Специалисты по ИИ могут воспользоваться решениями NVIDIA Base Command для обучения моделей, NVIDIA Fleet Command для управления моделями и закрытым реестром NGC для безопасного обмена проприетарным программным обеспечением на базе ИИ. Кроме того, в NGC содержится каталог оптимизированного под GPU программного обеспечения на базе ИИ, SDK и записные книжки Jupyter, которые помогают ускорить рабочие процессы ИИ и обеспечивают поддержку через NVIDIA AI Enterprise.

Каталог NGC: оптимизированное под GPU программное обеспечение для ИИ, машинного обучения и высокопроизводительных вычислений

Каталог NGC ускоряет весь рабочий процесс благодаря контейнерам корпоративного класса, предварительно обученным моделям ИИ и специализированным SDK, которые можно развернуть на локальных, облачных или периферийных системах.

 

Нам доверяют компании любого размера.

Правительственные организации, крупнейшие компании мира из списка Fortune 500, суперкомпьютерные центры, университеты и даже стартапы в области ИИ используют ПО из каталога NGC для создания приложений нового поколения.

Сотни контейнеров для HPC и ИИ

Сотни предварительно обученных моделей

Сотни пользователей Jupyter Notebook

Более 10 миллионов скачиваний

Платформа для любых задач.

NGC предлагает готовые к использованию контейнеры, предварительно обученные модели, SDK и пакеты Helm для различных сценариев использования и отраслей: от HPC и разговорного ИИ до медицинской визуализации и рекомендательных систем. Все необходимые инструменты для ускорения разработки и внедрения приложений в одном месте.

Модели глубокого обучения для языкового моделирования

Языковое моделирование

Языковое моделирование — это задача обработки естественного языка (NLP), которая определяет вероятность появления слова или заданной последовательности слов в предложении.

Рекомендательные системы — программы для анализа информации

Рекомендательные системы

Рекомендательные системы — это программы и сервисы, которые пытаются предсказать, какие объекты будут интересны пользователю.

Сегментация изображения — это одна из основных задач обработки изображений

Сегментация изображений

Сегментация изображения — это процесс разбиения изображения на множество сегментов для определения отдельных объектов.

Машинный перевод — процесс перевода текстов с одного языка на другой

Перевод

Машинный перевод – процесс перевода текстов с одного языка на другой.

Обнаружение объектов — это способность распознавать объекты на изображениях

Обнаружение объектов

Обнаружение объектов — это способность не только распознавать объекты на изображениях и видео, но и классифицировать их.

Автоматическое распознавание речи — это процесс преобразования речевого сигнала в текст

ASR

Системы автоматического распознавания речи (ASR) включают голосовые команды для интерактивного виртуального помощника, преобразования аудио в субтитры для видео и расшифровки обращений клиентов в колл-центр для последующего архивирования.

Синтез речи или преобразование текста в речь — это формирование речевого сигнала из текста.

Преобразование текста в речь

Синтез речи или преобразование текста в речь — это задача искусственного формирования речевого сигнала по печатному тексту. Модели преобразования текста в речь используются, когда мобильное устройство преобразует текст на веб-странице в речь.

Высокопроизводительные вычисления стимулируют развитие науки

Высокопроизводительные вычисления

Высокопроизводительные вычисления (HPC) — один из самых важных инструментов, которые стимулируют развитие науки. Научные вычисления развиваются во всех направлениях.

Для предприятий.

Контейнеры проходят тщательную проверку на наличие общеизвестных уязвимостей

Производительность

Каталог NGC предлагает различные инструменты для быстрого получения результатов и сокращения времени выхода продуктов на рынок: от контейнеров для задач глубокого обучения, которые ежемесячно обновляются для извлечения максимальной производительности из ваших GPU, до современных моделей ИИ, обеспечивающих новые рекорды производительности в MLPerf.

Закрытый реестр NGC предоставляет безопасную и оптимизированную для облака среду

Безопасность

Перед публикацией в каталоге контейнеры проходят тщательную проверку на наличие общеизвестных уязвимостей (CVE), криптографических ключей, закрытых ключей и метаданных. Рейтинги безопасности и подробные отчеты о сканировании предоставляются для каждого контейнера. Это позволяет определить, соответствует ли он политике безопасности вашей компании.

Каталог NGC предлагает различные инструменты для быстрого получения результатов

Конфиденциальность

Закрытый реестр NGC предоставляет разработчикам безопасную облачную среду для хранения и обмена контейнерами, моделями, скриптами и пакетами Helm внутри компании. Доступ к закрытому реестру NGC предоставляется клиентам, которые приобрели услуги корпоративной поддержки и системы NVIDIA DGX или NVIDIA-Certified Systems (сертифицированные системы NVIDIA).

Работа на любой платформе

ПО из каталога NGC работает на физических серверах, Kubernetes или в виртуализированных средах и может быть развернуто на локальных системах, в облаке и на периферийных устройствах. Это позволяет максимально использовать ресурсы GPU, повышает мобильность и масштабируемость приложений. Пользователи могут управлять всем жизненным циклом разработки ИИ с помощью платформы NVIDIA Base Command.

nvidia-ngc-on-premises-3c33-d

В локальных системах

ПО из каталога NGC можно запускать на множестве платформ с ускорением на GPU NVIDIA: сертифицированных NVIDIA системах, системах NVIDIA DGX, рабочих станциях на базе графических процессоров NVIDIA TITAN и NVIDIA RTX™, в виртуализированных средах при помощи ПО NVIDIA Virtual Compute Server.

nvidia-ngc-in-the-cloud-3c33-d

В облаке

ПО из каталога NGC можно развернуть на инстансах на базе GPU. ПО может быть развернуто непосредственно на виртуальных машинах или в сервисах Kubernetes, предлагаемых ведущими провайдерами облачных услуг. ПО NVIDIA для ИИ упрощает разработку и развертывание решений в облаке.

nvidia-ngc-at-the-edge-3c33-d

На периферийных устройствах

Вычисления выходят за пределы традиционных дата-центров и смещаются на периферию сети. ПО из каталога NGC может быть развернуто на периферийных устройствах на базе Kubernetes, что позволяет обеспечить низкую задержку и высокую пропускную способность при проведении инференса. Безопасное развертывание, управление и масштабирование ИИ-приложений для периферийных вычислений из каталога NGC с NVIDIA Fleet Command.

Быстрое создание приложений для ИИ с NVIDIA TAO

NVIDIA TAO — это фреймворк для обучения, адаптации и оптимизации моделей ИИ. ПО не подразумевает наличие глубоких экспертных знаний в области ИИ, а также устраняет необходимость в больших наборах данных для обучения, что позволяет упростить создание корпоративных приложений и сервисов на базе ИИ.

Основные элементы приложений с ускорением на GPU.

Каталог NGC предоставляет инструменты, которые отвечают задачам специалистов по data science, разработчиков и исследователей с различным уровнем знаний в области ИИ. К ним относятся контейнеры, предварительно обученные модели, специализированные SDK, коллекции для различных сценариев использования и пакеты Helm для быстрого внедрения ИИ.

  • КОЛЛЕКЦИИ
  • КОНТЕЙНЕРЫ
  • МОДЕЛИ
  • JUPYTER NOTEBOOK
  • ПАКЕТЫ HELM
  • РЕШЕНИЯ ДЛЯ ОТРАСЛЕЙ

Примеры из практики.

DeepZen преобразует текст в естественную речь с помощью контейнеров NGC

DeepZen

Узнайте, как компания DeepZen из сферы ИИ, специализирующаяся на преобразовании текста в естественную речь, использует каталог NGC для автоматизации записи и озвучивания. 

Neurala ускоряет аннотирование видео с помощью контейнеров NGC

Neurala

Узнайте, как стартап в области ИИ Neurala ускоряет тренировку алгоритмов глубокого обучения и инференс в 8 раз для своей платформы Brain Builder.

Специалисты по HPC используют оптимизированные под GPU контейнеры

Университет Клемсона

Узнайте, как в университете Клемсона специалисты по НРС используют оптимизированные под GPU контейнеры, что позволяет ускорить процесс исследования.

Специалисты Аризонского университета создают 3D-модели из облака точек прямо на дронах.

Аризонский университет

Узнайте, как специалисты Аризонского университета используют контейнеры из каталога NGC для создания 3D-моделей из облака точек прямо на дронах и ускорения научных исследований.

Ускорение рабочих процессов с каталогом NGC

Партнеры по экосистеме.

Партнеры NVIDIA предлагают широкий спектр решений для data science, тренировки моделей ИИ и инференса, высокопроизводительных вычислений (HPC), а также визуализации.

Логотип Allegro
логотип cnvrg.io
Логотип DeepPavlov.ai
Логотип IBM
Логотип iguazio
Логотип MathWorks
Логотип NAMD

Узнайте, как опубликовать оптимизированное для GPU ПО в каталоге NGC.

Новости

Следите за обновлениями каталога NGC.

Вебинары

Просмотрите эти видеоуроки и узнайте, как использовать каталог NGC.

Сессии GTC

Смотрите записи лучших сессий, посвященных работе с каталогом NGC.

Блоги для разработчиков

Прочитайте пошаговую инструкцию по использованию каталога NGC.

Вопросы и ответы о каталоге ПО NGC.

  • Что входит в каталог NGC?

    Каталог NGC предоставляет полноценный реестр оптимизированных под GPU контейнеров для ИИ, машинного обучения и НРС, которые протестированы и готовы к запуску на поддерживаемых GPU NVIDIA в локальных и облачных системах, а также на периферийных устройствах. Кроме того, каталог содержит заранее обученные модели, скрипты для моделей и решения для отраслей, которые можно легко интегрировать в рабочие процессы.

  • Какие сложности устраняет каталог NGС?

    Компиляция и развертывание фреймворков глубокого обучения может занимать много времени, при этом часто возникают ошибки. Оптимизация программного обеспечения для ИИ требует профессиональных знаний. Для создания моделей также необходимы профессиональные знания, время и вычислительные ресурсы. Каталог NGC берет на себя эти задачи, предоставляя ПО и инструменты с ускорением на GPU и позволяя специалистам по data science, разработчикам и другим пользователям сосредоточиться на создании решений.

  • Что содержат контейнеры NGC?

    Каждый контейнер содержит предварительно интегрированный набор ПО, оптимизированного под GPU. Стек включает в себя выбранное приложение или фреймворк, NVIDIA CUDA® Toolkit, ускоренные библиотеки и необходимые драйверы. Все компоненты протестированы и подготовлены для совместной работы без дополнительной настройки.

  • Какое программное обеспечение для ИИ доступно в каталоге NGC?

    Каталог NGC содержит ведущее ПО для ИИ, в том числе TensorFlow, PyTorch, MxNet, NVIDIA TensorRT и RAPIDS. Полный список можно посмотреть в каталоге NGC.

  • Где можно запустить программное обеспечение NGC?

    Контейнеры из каталога NGC можно запустить на ПК, рабочих станциях, кластерах HPC, системах NVIDIA DGX, на графических процессорах NVIDIA в поддерживаемых облачных платформах и сертифицированных NVIDIA системах. Контейнеры запускаются в средах выполнения Docker и Singularity. Более подробную информацию можно посмотреть в документации по NGC.

  • Как запустить контейнеры из каталога NGC на облачной платформе?

    NVIDIA предлагает файлы образов виртуальных машин в разделе Marketplace для всех поддерживаемых поставщиков облачных услуг. Для запуска контейнеров необходимо выбрать один из типов инстансов, запустить файл с образом NGC и перенести в него контейнер из каталога NGC. Конкретные действия зависят от платформы и поставщика облачных услуг. Пошаговые инструкции можно посмотреть в документации по NGC.

  • Как часто в каталоге NGC обновляются контейнеры фреймворков ИИ?

    Самые популярные фреймворки глубокого обучения, например, TensorFlow, PyTorch и MXNet, разработчики NVIDIA обновляют ежемесячно, чтобы полностью оптимизировать программный стек и использовать все возможности графических процессоров NVIDIA.

  • Если загрузка контейнеров бесплатна, нужно ли платить за время вычислений?

    Контейнеры из каталога NGC доступны бесплатно (в соответствии с правилами использования). Однако каждый поставщик облачных услуг взимает плату за предоставление доступа к вычислительным инстансам GPU.

  • Является ли NGC платформой облачных вычислений?

    Нет, это портал, который предоставляет оптимизированное под GPU программное обеспечение, корпоративные сервисы и поддержку.

  • Что такое закрытый репозиторий NGC?

    Закрытый репозиторий NGC был призван предоставить пользователям безопасное пространство для хранения и обмена контейнерами, моделями, скриптами и пакетами Helm внутри компании. Закрытый репозиторий позволяет защищать IP-адреса пользователей и обеспечивает новые возможности для совместной работы.

  • Какую поддержку предлагает NVIDIA для контейнеров фреймворков ИИ?

    Пользователи получают доступ к форуму разработчиков NVIDIA, который поддерживается большим сообществом экспертов по ИИ и GPU из числа клиентов, партнеров и сотрудников NVIDIA.

    Кроме того, служба поддержки NVIDIA предоставляет помощь на уровнях L1–L3 на сертифицированных NVIDIA системах, которые доступны у наших OEM-партнеров.

  • Что такое NVIDIA-Certified Systems (сертифицированные NVIDIA системы)?

    Сертифицированные NVIDIA системы, состоящие из платформ NVIDIA EGX™ и HGX™, позволяют компаниям с уверенностью принимать решения по выбору аппаратных и программных решений с оптимизированной производительностью, которые позволяют безопасно и оптимально выполнять задачи ИИ — как в небольших конфигурациях, так и в большом масштабе. Ознакомьтесь с полным списком сертифицированных NVIDIA систем.

  • Каковы условия использования каталога NGC?

    Условия можно посмотреть на странице ngc.nvidia.com/legal/terms

Ускорение рабочих процессов с каталогом NGC