This site requires Javascript in order to view all its content. Please enable Javascript in order to access all the functionality of this web site. Here are the instructions how to enable JavaScript in your web browser.

Практикум под руководством инструктора
Ускорение CUDA для приложений на C++ с помощью нескольких GPUs

Подать заявку на проведение практикума для вашей компании

Сообщите мне о доступности практикумов

Приложения CUDA^® на C++ требуют значительных вычислительных ресурсов и могут быть ускорены с помощью нескольких GPU в области высокопроизводительных вычислений, информатики, биоинформатики и глубокого обучения для увеличения пропускной способности и/или уменьшения общего времени выполнения. В сочетании с одновременным перекрытием вычислений и передачи данных в памяти вычисления можно масштабировать на несколько GPU без увеличения стоимости передачи данных в памяти. Для компаний с несколькими GPU-серверами, как в облаке, так и в системах NVIDIA DGX^™, эти методы позволяют достичь пиковой производительности приложений с GPU-ускорением. И важно внедрить эти технологии с одним узлом и несколькими GPU перед масштабированием приложений на несколько узлов.

Этот практикум рассказывает о том, как писать приложения CUDA на C++, которые эффективно и правильно используют все доступные GPU в одном узле, значительно повышая производительность ваших приложений и делая экономичным использование систем с несколькими GPU.

Цели обучения

На этом практикуме вам предстоит:

Использовать параллельные потоки CUDA для перекрытия передачи памяти с вычислениями на GPU
Использовать все доступные GPU на одном узле для масштабирования рабочих нагрузок на всех доступных GPU
Комбинировать использование копирования/вычислений с несколькими GPU
Положитесь на визуальный профилировщик NVIDIA Nsight^™ Systems, чтобы увидеть улучшения и влияние техник, рассмотренных в рамках практикума

Скачать описание практикума (PDF, 243 KБ)

Краткое описание практикума

Введение (15 мин)	Знакомство с инструктором Создание аккаунта на courses.nvidia.com/join
Использование JupyterLab (15 мин)	Ознакомьтесь со интерактивной средой JupyterLab с ускорением на GPU
Обзор приложений (15 мин)	Ориентируйтесь с помощью одного приложения CUDA на C++на GPU, которое станет отправной точкой для курса Наблюдайте за текущей производительностью одного приложения CUDA на C++ на GPUс помощью Nsight Systems
Введение в CUDA Streams (90 мин)	Узнайте правила, регулирующие поведение одновременных потоков CUDA Используйте несколько потоков CUDA для одновременной передачи памяти от хоста к устройству и от устройства к хосту Используйте несколько потоков CUDA для запуска ядер GPU Наблюдайте за несколькими потоками на временной шкале визуального профилировщика Nsight Systems
Перерыв (60 мин)
Копирование/вычисление перекрытия с потоками CUDA (90 мин)	Ознакомьтесь с ключевыми концепциями эффективного выполнения копирования/вычислений перекрытий Изучите надежные стратегии индексирования для гибкого использования перекрытия копирования/вычисления в приложениях Преобразуйте single-GPU CUDA на C++ для выполнения копирования/вычисления перекрытия Ознакомьтесь с временной шкалой визуального профилировщика Nsight Systems для копирования/вычислений
Несколько GPU с CUDA C++ (60 мин)	Узнайте о ключевых концепциях эффективного использования нескольких GPU на одном узле с CUDA C++. Изучите надежные стратегии индексирования для гибкого использования нескольких GPU в приложениях. Преобразуйте одно приложение CUDA C++ на GPU для использования нескольких GPU Ознакомьтесь с информацией об использовании нескольких GPU в визуальном профилировщике Nsight Systems
Перерыв (15 мин)
Копирование/вычисление перекрытия с помощью нескольких GPU (60 мин)	Узнайте о ключевых концепциях эффективного выполнения копирования/вычисления перекрытия на нескольких GPU Изучите стратегии индексирования для гибкого использования копирования/вычисления перекрытия на нескольких GPU Преобразуйте приложения CUDA C++ с одним GPU для выполнения копирования/вычисления перекрытия на нескольких GPU Наблюдайте за ростом производительности при копировании/вычислении перекрытий на нескольких GPU Ознакомьтесь с временной шкалой визуального профилировщика Nsight Systems при копировании/вычислении перекрытий на нескольких GPU.
Оценка практикума (30 мин)
Окончательный анализ (30 мин)	Еще раз ознакомьтесь с основными выводами Научитесь создавать собственную среду для тренировки из базового контейнера DLI Пройдите опрос

Информация о практикуме

Продолжительность: 8 часов

Цена: для уточнения стоимости свяжитесь с нами.

Необходимые требования:

Опыт программирования приложений CUDA на C/C++, включая использование компилятора nvcc, запуск ядра, циклы grid-stride, передачу памяти от хоста к устройству и устройства к хосту, а также обработку ошибок CUDA
Знание командной строки Linux
Опыт использования makefiles для компиляции C/C++ кода

Предлагаемые материалы для подготовки к участию в тренинге: Основы ускоренных вычислений с CUDA C/C++, Командная строка Ubuntu для начинающих (1-5), Обучение Makefile (через раздел Простые примеры)

Технологии: CUDA C, Nsight Systems

Сертификат: После успешного завершения тестирования участники получат сертификат NVIDIA DLI для подтверждения своей квалификации и дальнейшего карьерного роста.

Аппаратные требования: ПК или ноутбук с поддержкой последней версии Chrome или Firefox. Каждому участнику будет предоставлен доступ к полностью настроенному облачному серверу с ускорением на GPU.

Языки: английский, упрощенный китайский

У вас возникли вопросы?

Свяжитесь с нами, если у вас есть вопросы
о курсах по глубокому обучению

Section

Section

Имя

Фамилия

Рабочий адрес электронной почты

Название организации/университета

Отрасль

Должность

Занимаемая должность

Страна

Город

State

Причина обращения:

本人知悉且同意 NVIDIA 基于调研、活动组织的目的对本人的上述信息的收集和处理，并已经阅读并同意 <a href="https://www.nvidia.cn/about-nvidia/privacy-policy/" target="_blank">NVIDIA 隐私政策</a>。

本人知悉且同意，因调研、活动组织的必须，以及相对应的 NVIDIA 内部管理和系统操作的需要，上述信息会被传输到位于美国的 NVIDIA Corporation 按照符合 <a href="https://www.nvidia.cn/about-nvidia/privacy-policy/" target="_blank">NVIDIA 隐私政策</a>的方式进行存储，您可以通过发送邮件至 <a href="mailto:privacy@nvidia.com">privacy@nvidia.com</a> 进行联系以解决相关问题，实现可适用的数据保护法所规定的权利。

Практикум под руководством инструктора
Ускорение CUDA для приложений на C++ с помощью нескольких GPUs

Цели обучения

Краткое описание практикума

Информация о практикуме

У вас возникли вопросы?

Свяжитесь с нами, если у вас есть вопросы
о курсах по глубокому обучению

Читайте часто задаваемые вопросы

Узнайте об услугах Института глубокого обучения (DLI) NVIDIA

Ответы на технические вопросы можно найти на форумах разработчиков NVIDIA.

Практикум под руководством инструктора Ускорение CUDA для приложений на C++ с помощью нескольких GPUs

Цели обучения

Краткое описание практикума

Информация о практикуме

У вас возникли вопросы?

Свяжитесь с нами, если у вас есть вопросы о курсах по глубокому обучению

Читайте часто задаваемые вопросы

Узнайте об услугах Института глубокого обучения (DLI) NVIDIA

Ответы на технические вопросы можно найти на форумах разработчиков NVIDIA.

Практикум под руководством инструктора
Ускорение CUDA для приложений на C++ с помощью нескольких GPUs

Свяжитесь с нами, если у вас есть вопросы
о курсах по глубокому обучению