自然言語処理 (NLP) の応用がここ 10 年間で急増しています。AI アシスタントが浸透し、対話型のヒューマン エクスペリエンスやマシン エクスペリエンスが業務に投入される中、NLP 手法を利用してテキストベースのデータを操作、分析、生成する方法を理解することが、きわめて重要になっています。最新の手法では、言葉のニュアンス、文脈、複雑さを人間と同等にとらえることができます。そして、適切な設計が伴えば、開発者はこれらの手法を利用して、チャットボット、AI 音声エージェントなどにおいて自然でシームレスな人間とコンピューターとの対話を実現する、パワフルな NLP アプリケーションを構築することができます。

ディープラーニング モデルは、広範な文脈と言語に対する正確な汎用化が可能なことから、NLP 向けに広く普及してきました。トランスフォーマーからの双方向エンコーダー表現 (BERT) などのトランスフォーマーベースのモデルは、質問応答、存在物の認識、意図の認識、感情分析などについて SQuAD などのベンチマークで人間のベースラインに匹敵する精度を実現することで、NLP に革命をもたらしてきました。

このワークショップでは、ドキュメントの類別などのテキスト分類タスクにトランスフォーマーベースの自然言語処理モデルを使用する方法を学びます。また、固有表現抽出 (NER) タスクにトランスフォーマーベースのモデルを活用する方法や、さまざまなモデルの機能、制約、特性を分析し、メトリック、ドメインの特異性、利用可能なリソースに基づいて特定のユース ケースに最適なモデルを判断する方法についても学びます。

 

学習目標


このワークショップでは、次のことを行います。
  • Word2Vec、リカレント ニューラル ネットワーク (RNN) ベースの埋め込み、トランスフォーマーなどの NLP タスクにおいて、テキスト埋め込みがいかに急速に進歩してきたかを理解する
  • トランスフォーマー アーキテクチャ機能 (特にセルフアテンション) を使用して RNN なしで言語モデルを作成する方法を確認する
  • セルフスーパービジョンを使用して BERT や Megatron などその他バリエーションのトランスフォーマー アーキテクチャを改善し、優れた NLP 結果を得る
  • 事前トレーニング済みの最新 NLP モデルを活用して、テキスト分類、NER、質問応答などの複数のタスクを解決する
  • 推論の課題を管理し、ライブ アプリケーション向けの精密なモデルを展開する

ワークショップ データシートをダウンロードする (PDF 71.9 KB)

ワークショップの概要

序論
(15 分)
  • インストラクターの紹介。
  • courses.nvidia.com/join でアカウントを作成する
Transformer 入門
(120 分)
    Transformer アーキテクチャの仕組みを詳しく学習する:
    • PyTorch で Transformer アーキテクチャを構築する。
    • 自己注意行列を計算する。
    • 事前にトレーニングした Transformer モデルで英語をドイツ語に翻訳する。
休憩 (60 分)
自己教師、BERT、その先
(120 分)
    NVIDIA NeMo を利用し、自己教師付きのトランスフォーマーベース モデルを具体的な NLP タスクに応用する方法について学習する:
    • 抽象を分類するテキスト分類プロジェクトを構築する。
    • テキスト内の病名を識別する NER プロジェクトを構築する。
    • 分野固有モデルでプロジェクトの精度を上げる。
休憩 (15 分)
NLP の推論と展開
(120 分)
  • NVIDIA Triton のライブ推論のために NLP プロジェクトを展開する方法について学習する:
  • 展開のためにモデルを準備する。
  • NVIDIA® TensorRT™ でモデルを最適化する。
  • モデルを展開し、試験する。
最終確認
(15 分)
  • 主要な学習事項をおさらいし、質問に答える。
  • 評価を完了し、認定証を取得する。
  • ワークショップ アンケートを受ける。
  • 独自の環境を設定する方法について学習し、追加のリソースとトレーニングについて話し合う。
 

ワークショップの詳細

時間: 8 時間

価格: 価格についてはお問い合わせください。 

参加条件:

  • Python コーディングの経験と、ライブラリ関数およびパラメーターの使用経験があること
  • TensorFlow、PyTorch、または Keras などのディープラーニング フレームワークの基礎を理解していること
  • ニューラル ネットワークの基本を理解していること

前提条件を満たすためのおすすめ資料: Python チュートリアルディープラーニング フレームワークの概要PyTorch チュートリアルNutshell のディープラーニングディープラーニング解明

テクノロジ: PyTorch、pandas、NVIDIA NeMo™、NVIDIA Triton™ Inference Server

評価の種類:

  • 技能基準のコーディング評価では、ニューラル モジュール パイプラインやトレーニングなど、NLP タスクを受講生が構築する能力を評価します。
  • 複数選択式の質問では、クラスで紹介された NLP 概念に対する受講生の理解度を評価します。

証明書: 評価が正常に完了すると、NVIDIA DLI 証明書が参加者に贈られます。これは専門分野の能力を証明するものであり、プロフェッショナルとしてのキャリアアップを支援します。

ハードウェア要件: 最新版の Chrome または Firefox を実行できるデスクトップ コンピューターまたはノート PC。参加者は全員、完全に設定が終わっている状態でクラウドに置かれている GPU 対応サーバーに専用アクセスできます。

言語: 英語、中国語 (簡体字)

Upcoming Workshops

お客様の組織が、AI、アクセラレーテッド データ サイエンス、アクセラレーテッド コンピューティングの主要なスキルの向上と開発にご興味をお持ちの場合、NVIDIA Deep Learning Institute (DLI) にインストラクターによるワークショップをリクエストしていただけます。

NVIDIA に問い合わせる