This site requires Javascript in order to view all its content. Please enable Javascript in order to access all the functionality of this web site. Here are the instructions how to enable JavaScript in your web browser.

インストラクタによるワークショップ
複数の GPU で CUDA C++ アプリケーションを高速化する

ハイパフォーマンスコンピューティング、データサイエンス、生命情報科学、ディープラーニングにおいて大量の計算処理能力を必要とする CUDA^® C++ アプリケーションは、複数の GPU を利用することで高速化できます。これにより、スループットが向上し、総実行時間が短縮されます。計算とメモリ転送の同時オーバーラップと組み合わせることで、メモリ転送のコストを増やすことなく、複数の GPU をまたいで計算をスケールできます。クラウド内でも、NVIDIA DGX^™ システム上でも、マルチ GPU サーバーを使用している組織の場合、これらの技術によって GPU 対応アプリケーションから、最高のパフォーマンスを達成することができます。また、複数のノードにまたがるアプリケーションをスケールする前に、これらのシングルノード、マルチGPU 技術を実装することが重要です。

このワークショップでは、シングルノードで利用できるすべての GPU を効率的かつ正しく活用する CUDA C++ アプリケーションの記述方法を取り上げます。アプリケーションのパフォーマンスが劇的に上がり、複数の GPU を持つシステムから最大限の費用対効果を得ることができます。

学習目標

このワークショップでは、次のことを行います。

同時 CUDA ストリームを使用し、メモリ転送と GPU 計算をオーバーラップさせる
シングルノードで利用できるすべての GPU を活用し、利用できるすべての GPU をまたいでワークロードをスケールする
コピー/計算オーバーラップの使用を複数の GPU と組み合わせる
NVIDIA Nsight^™ Systems Visual Profiler タイムラインを利用し、改善機会と、ワークショップで取り上げる手法の影響を観察する

ワークショップデータシートをダウンロードする (PDF 243 KB)

ワークショップの概要

序論 (15 分)	インストラクターの紹介。 courses.nvidia.com/join でアカウントを作成する
JupyterLab の使用 (15 分)	GPU で高速化するインタラクティブ JupyterLab 環境に慣れる。
アプリケーション概要 (15 分)	コースの出発点となるシングル GPU CUDA C++ アプリケーションに慣れる。 Nsight Systems を利用し、シングル GPU CUDA C++ アプリケーションの現在のパフォーマンスを観察する。
CUDA Streams 入門 (90 分)	同時 CUDA ストリームの動作を制御するルールを知る。複数の CUDA ストリームを使用し、ホストからデバイスへの同時メモリ転送とデバイスからホストへの同時メモリ転送を実行する。 GPU カーネルを起動する目的で複数の CUDA ストリームを活用する。 Nsight Systems Visual Profiler タイムラインビューで複数のストリームを観察する。
休憩 (60 分)
CUDA Streams によるコピー/計算オーバーラップ (90 分)	コピー/計算オーバーラップを効果的に実行するための主要な概念を知る。アプリケーションでコピー/計算オーバーラップを柔軟に使用するための堅牢なインデックス作成方針を学習する。シングル GPU CUDA C++ アプリケーションをリファクタリングし、コピー/計算オーバーラップを実行する。 Nsight Systems Visual Profiler タイムラインでコピー/計算オーバーラップを確認する。
CUDA C++ によるマルチ GPU (60 分)	CUDA C++ を利用し、シングルノード上で複数の GPU を効果的に使用するための主要な概念を知る。アプリケーションで複数の GPU を柔軟に使用するための堅牢なインデックス作成方針を学習する。シングル GPU CUDA C++ アプリケーションをリファクタリングし、複数の GPU を使用する。 Nsight Systems Visual Profiler タイムラインでマルチ GPU の利用状況を確認する。
休憩 (15 分)
マルチ GPU によるコピー/計算オーバーラップ (60 分)	マルチ GPU でコピー/計算オーバーラップを効果的に実行するための主要な概念を知る。マルチ GPU でコピー/計算オーバーラップを柔軟に使用するための堅牢なインデックス作成方針を学習する。シングル GPU CUDA C++ アプリケーションをリファクタリングし、マルチ GPU でコピー/計算オーバーラップを実行する。マルチ GPU でコピー/計算オーバーラップのパフォーマンス面での長所を観察する。 Nsight Systems Visual Profiler タイムラインでマルチ GPU のコピー/計算オーバーラップを確認する。
コース評価 (30 分)
最終確認休憩 (30 分)	主な学習内容をおさらいする。 DLI ベース環境コンテナーから独自のトレーニング環境を構築する方法を学習する。ワークショップアンケートに回答する。

ワークショップの詳細

時間: 8 時間

価格: 価格についてはお問い合わせください。

参加条件:

nvcc コンパイラ、カーネル起動、grid-stride ループ、ホストからデバイスへのメモリ転送、デバイスからホストへのメモリ転送、CUDA エラー処理など、プロフェッショナルとして CUDA C/C++ アプリケーションをプログラミングした経験
Linux コマンドラインの知識
makefile で C/C++ コマンドをコンパイルした経験

前提条件を満たすためのおすすめリソース: CUDA C/C++ によるアクセラレーテッドコンピューティングの基礎、初心者のための Ubuntu コマンドライン (セクション 1 ～ 5)、Makefile チュートリアル (Simple Examples セクションまで)

テクノロジ: CUDA C++、Nsight Systems

証明書: 評価の正常完了後、NVIDIA DLI 証明書が参加者に贈られます。これは内容領域の能力を証明するものであり、プロフェッショナルとしてのキャリア育成を助けます。

ハードウェア要件: 最新版の Chrome または Firefox を実行できるデスクトップコンピューターまたはノート PC。参加者は全員、完全に設定が終わっている状態でクラウドに置かれている GPU 対応サーバーに専用アクセスできます。

言語: 英語、中国語 (簡体字)

Upcoming Workshops

Central European Time

GTC

Thu, Apr 15, 2021

9:00 a.m.–5:00 p.m.

Register now

Pacific Time

GTC

Fri, Apr 16, 2021

9:00 a.m.–5:00 p.m.

Register now

Pacific Time

Wed, Jun 23, 2021

9:00 a.m.–5:00 p.m.

Register now

お客様の組織が、AI、アクセラレーテッドデータサイエンス、アクセラレーテッドコンピューティングの主要なスキルの向上と開発にご興味をお持ちの場合、NVIDIA Deep Learning Institute (DLI) にインストラクターによるワークショップをリクエストしていただけます。

ワークショップをリクエストする

NVIDIA に問い合わせる

Contact Us for Questions on
Deep Learning Training

Section

Section

名

姓

仕事用メールアドレス

組織名/大学名

業種

肩書

役職

居住地域

市区町村

State

問い合わせ理由:

本人知悉且同意 NVIDIA Corporation 基于调研、活动组织的目的对本人的上述信息的收集和处理，并已经阅读并同意 <a href="https://www.nvidia.cn/about-nvidia/privacy-policy/" target="_blank">NVIDIA 隐私政策</a>。

本人知悉且同意，因调研、活动组织的必须，以及相对应的 NVIDIA 内部管理和系统操作的需要，上述信息会被传输到位于美国的 NVIDIA Corporation 按照符合 <a href="https://www.nvidia.cn/about-nvidia/privacy-policy/" target="_blank">NVIDIA 隐私政策</a>的方式进行存储，您可以通过发送邮件至 <a href="mailto:privacy@nvidia.com">privacy@nvidia.com</a> 进行联系以解决相关问题，实现可适用的数据保护法所规定的权利。

インストラクタによるワークショップ
複数の GPU で CUDA C++ アプリケーションを高速化する

学習目標

ワークショップの概要

ワークショップの詳細

Upcoming Workshops

Thu, Apr 15, 2021

Fri, Apr 16, 2021

Wed, Jun 23, 2021

NVIDIA に問い合わせる

Contact Us for Questions on
Deep Learning Training

よくある質問と回答をご覧ください。

NVIDIA Deep Learning Institute のサービスについてお問い合わせください。

技術的な質問については、 NVIDIA 開発者フォーラムをご覧ください。

インストラクタによるワークショップ 複数の GPU で CUDA C++ アプリケーションを高速化する

学習目標

ワークショップの概要

ワークショップの詳細

Upcoming Workshops

Thu, Apr 15, 2021

Fri, Apr 16, 2021

Wed, Jun 23, 2021

NVIDIA に問い合わせる

Contact Us for Questions on Deep Learning Training

よくある質問と回答をご覧ください。

NVIDIA Deep Learning Institute のサービスについてお問い合わせください。

技術的な質問については、 NVIDIA 開発者フォーラムをご覧ください。

インストラクタによるワークショップ
複数の GPU で CUDA C++ アプリケーションを高速化する

Contact Us for Questions on
Deep Learning Training