По мере того как мир продолжает развиваться и становиться все более цифровым, разговорный ИИ все чаще используется для облегчения взаимодействия человека с компьютером. Разговорный ИИ — это технология, которая лежит в основе приложений для автоматизированного информирования пользователей и голосовых приложений, а также используется в различных отраслях для повышения качества обслуживания клиентов.

Разработка систем разговорного ИИ с нуля достаточно трудоемка и затратна. На этом курсе вы узнаете, как создать систему разговорного ИИ с помощью фреймворка NVIDIA Riva. Riva имеет полноценный GPU-ускоряемый программный стек и инструменты, которые упрощают разработчикам задачу по созданию, развертыванию и запуску приложений разговорного ИИ, способных понимать специфическую для разных компаний терминологию. Фреймворк Riva включает в себя предварительно обученные модели разговорного ИИ, инструменты и оптимизированные сервисы для возможностей речи, зрения и понимания естественного языка.  С помощью Riva разработчики могут настраивать языковые сервисы на базе ИИ для работы интеллектуальных виртуальных помощников, виртуальных ассистентов службы поддержки, чат-ботов, создания транскрипций в реальном времени, диаризации и других функций разговорного ИИ.

На этом практикуме вы узнаете, как быстро создавать и развертывать приложения разговорного ИИ, готовые к промышленной эксплуатации, с возможностями транскрипции в реальном времени и обработки естественного языка (NLP). Вы интегрируете модели автоматического распознавания речи (ASR) и распознавания именованных сущностей (NER) NVIDIA Riva с веб-приложением и создадите транскрипции звуковых данных с выделением соответствующего текста. Затем с помощью NVIDIA TAO Toolkit вы кастомизируете модель NER и встроите специальные фрагменты для приложения. Наконец, вы узнаете подробнее о развертывании и рекомендациях по масштабированию сервисов Riva с пакетами Helm и кластерами Kubernetes.

 

Цели обучения


На этом практикуме вам предстоит узнать:
  • Как развернуть и запустить предварительно обученные модели ASR и NER для приложения разговорного ИИ на Riva.
  • Как с помощью TAO Toolkit настроить и развернуть специальные модели.
  • Как развернуть приложение разговорного ИИ с пакетами Helm для масштабирования в кластерах Kubernetes.

Скачать описание практикума (PDF, 318 KБ)

Краткое описание практикума

Введение
(15 мин)
Введение в разговорный ИИ
(120 мин)
    В этой части вы узнете подробнее о разговорном ИИ и получите более глубокое понимание основных компоненовт ASR и NLP.
    • Мы разберём пример инференса модели TAO Toolkit с распознаванием речи
    • Развернём модели ASR и NER Riva
    • Запустим приложение с ASR и NER
Перерыв (60 мин)
Кастомизация моделей
(120 мин)
    Здесь вы изучите детали архитектуры Riva и обсудите задачи, связанные с развертыванием настроенных моделей с помощью TAO Toolkit.
    • Мы настроим NER для конкретной области
    • Развернём настроенную модель NER в Riva
    • Запустим приложение с обновленными моделями
Перерыв (15 мин)
Проблемы, возникающие при инференсе и развертывании
(120 мин)
    Здесь вы изучите проблемы, связанные с производительностью, оптимизацией и масштабированием при развертывании приложений разговорного ИИ.
    • Изучим процесс инференса
    • Проанализируем нефункциональные требования и их импликации
    • Развернём приложение разговорного ИИ с помощью пакета Helm и кластера Kubernetes
Подведение итогов
(15 мин)
  • Подведем итоги практикума и разберем вопросы
  • Проведем финальное тестирование и выдадим сертификаты
  • Соберем обратную связь по практикуму
  • Узнаем, как настроить собственную среду для разработки приложений ИИ
 

Информация о практикуме

Продолжительность: 8 часов

Цена: для уточнения стоимости свяжитесь с нами.  

Необходимые требования:

Технологии: NVIDIA Riva, NVIDIA TAO Toolkit, Kubernetes

Метод контроля

  • Тестирования проводятся на основе навыков, полученных во время практикума, и оценивают способность студентов создавать приложения разговорного ИИ.
  • Вопросы с множественными вариантами ответов оценивают понимание учащимися основ разговорного ИИ, представленных во время практикума.

Сертификат: После успешного завершения тестирования вы получите сертификат NVIDIA DLI для подтверждения своей квалификации и возможностей дальнейшего карьерного роста.

Аппаратные требования: Вам потребуется ПК или ноутбук с поддержкой последней версии Chrome или Firefox. Вам будет предоставлен доступ к полностью настроенному облачному серверу с ускорением на GPU.

Языки: английский

Предстоящие практикумы

Предстоящие практикумы

Северная Америка/Латинская Америка

вторник, 24 августа 2021 г.
9:00–17:00 (тихоокеанское время)

Европа/Ближний Восток/Африка

вторник, 31 августа 2021 г.
10:00–18:00 (МСК)

Если ваша компания заинтересована в развитии навыков в работе с ИИ, анализом данных и ускоренными вычислениями, начните комплексное обучение с помощью решений от NVIDIA DLI.

Продолжите обучение с другими практикумами от DLI

У вас возникли вопросы?