エッジ コンピューティング向けの NVIDIA EGX プラットフォーム

現代の企業経営はエッジで行われています。工場で。店舗で。街路で。急病診療所で。エッジでは大量の IoT センサーからデータが流れ、エッジ サーバーで処理され、必要なところでリアルタイムの意思決定が行われています。スマート リテール、 スマート ヘルスケア、 スマート マニュファクチャリング、 スマート トランスポーテーション、 スマート シティ。高速 AI のパワーをエッジに与える NVIDIA EGX プラットフォームでは、これがすべて可能になります。

リアルタイム AI をエッジにもたらす

NVIDIA EGX プラットフォームは高速な AI 計算処理のパワー、展開が簡単なクラウドネイティブ ソフトウェア スタック、有効性が検証されたさまざまなサーバーとデバイス、製品またはサービスを介して EGX を提供するパートナーの広大なエコシステムをエッジに届けます。

AI コンテナーを実行する

NGC レジストリは、Kubernetes で展開するための Helm チャートなど、EGX 向けの GPU 対応ソフトウェアを広範囲に備えています。NGC コンテナーは主要な AI/データ サイエンス ソフトウェアを対象としており、NVIDIA によって調整、テスト、最適化されています。このレジストリからは、サードパーティの領域特化型の学習済みモデルや、パワフルなソフトウェアの展開やカスタマイズしたソリューションの構築を簡単にする Kubernetes 対応 Helm チャートを利用できます。

クラウド ネイティブ、エッジファースト

NVIDIA EGX はクラウド ネイティブでエッジファースト、かつスケーラブルなプラットフォームであり、IT 部門は GPU サーバーを短時間で簡単にプロビジョニングできます。EGX の主要コンポーネントは NVIDIA GPU Operator です。これは GPU 対応 Kubernetes クラスターをプロビジョニングするために必要なすべてのコンポーネントの配備を標準化し、自動化します。

EGX-Ready サーバー

EGX ハードウェア ポートフォリオの NVIDIA® Jetson Nano™ は、わずかな電力で 0.5 TOPS の演算で画像認識などの作業を処理します。これを徐々にスケールアップしたのが、フルラックの NVIDIA T4 サーバーです。10,000 TOPS (秒あたりの兆単位演算) を超える性能を提供し、リアルタイムの音声認識やその他の複雑な AI 体験を多くのユーザーに届けます。

エッジからデータ センターに至る AI のスケーラビリティ

エッジからデータ センターに至る AI のスケーラビリティ

NVIDIA EGX プラットフォームには、スマート シティの信号機カメラを処理する Jetson Nano から、小売店の控え室に取り付けた NVIDIA GPU 内蔵のシングル エッジ サーバー、さらには長距離通信事業向けのマイクロ データ センターを構成するサーバー群全体まで、 NGC-Ready for Edge での有効性が確認されたさまざまなサーバーがスケーラブルに含まれています。いずれのフォーム ファクターであっても、NVIDIA EGX スタックは一律に互換性があり、企業は、カメラやデバイスから離れた場所にある大規模なデータ センターまで、エッジ オペレーションの規模を短時間かつ効率的に変更できます。

AI と 5G による IoT 革命を加速する

AI と 5G による IoT 革命を加速する

5G は 10 分の 1 の遅延時間と 1,000 倍の帯域幅で無線通信の新時代を牽引しています。また、ネットワーク スライシングの概念を導入しており、長距離通信事業者 (Telco) は独自のサービスを顧客に動的に提供できます。Telco は 5G 移行にともない、AI と拡張現実から仮想現実とゲーミングまで、さまざまなソフトウェア デファインド アプリケーションをエッジで運用する方法を探しています。NVIDIA EGX と新しい NVIDIA Aerial SDK の登場により、GPU 対応のソフトウェア デファインド 仮想化無線アクセス ネットワーク (vRAN) は、予想よりも早く実現します。

NVIDIA EGX Stack

IT による簡単なエッジ展開

NVIDIA EGX スタックを利用することで、離れた場所にあるシステムにソフトウェアをインストールするときに発生していた、IT 上の問題が解消されました。Helm チャート、コンテナー、CI/CD (継続的統合と継続的配信) を利用することで、組織はアップデートした AI コンテナーを数分で簡単に展開できるようになりました。

Kubernetes ベースの NVIDIA GPU Operator は、GPU ノードと CPU ノードの間で独自の OS (オペレーティング システム) イメージが必要になる問題を解決します。GPU Operator ではそのようなイメージが不要で、ドライバー、コンテナー ランタイム、デバイス プラグイン、監視機能、Helm チャートによる展開など、Tesla GPU をサポートするために必要なものがすべてバンドルされています。これで 1 つのゴールド マスター イメージで CPU ノードと GPU ノードの両方に対応できるようになりました。

Hybrid Cloud Management

Kubernetes 管理プラットフォームとの互換性

運用レベルかつ企業クラスの Kubernetes クラスターを展開、拡張、管理できる機能は非常に重要です。 EGX スタック アーキテクチャを支えているのは、Canonical、Cisco Container Platform (CCP)、Nutanix、Microsoft Azure、Red Hat、VMware など、業界をリードするハイブリッドクラウド プラットフォーム パートナーです。このような企業が GPU Operator を支えていることで、そのクラスターは GPU ワークロードに耐えられるように構成され、一貫性があり、最適化された手法で実行されます。

業界の垣根を越えるエッジ コンピューティング

NVIDIA EGX プラットフォームからは、業界をリードするエッジ AI アプリケーションとフレームワークのために、統一された基盤が 1 つ与えられます。

小売業

小売業

製造業

製造業

長距離通信

長距離通信

スマート シティ

スマート シティ

Seagate では、生産工場でハード ディスクの読み書きヘッドの品質を検査するために GPU ベースのインテリジェント エッジ ビジョン ソリューションを配備しました。NVIDIA EGX プラットフォームはエッジ側の推論を劇的に高速化し、これまで人が見落としていたようなわずかな欠陥も見逃しません。改善された効率とより良い品質により、最大 10% の生産スループットの改善と最大 300% のROI の実現が可能になるでしょう。

— Bruce King 氏 (Seagate Technology シニア プリンシパル データ サイエンティスト)

AI は精密な診断のための基盤であり、クラウドからエッジまで、さらに医療デバイスで直接利用できなければなりません。GE Healthcare は NVIDIA の EGX を導入し、MR (磁気共鳴) 撮影時間を短縮し、画質を上げ、NVIDIA T4 GPU を医療デバイスに直接埋め込むことでばらつきを減らしました。それらはすべて、より良い医療を提供するという目標を追求するものです。リアルタイムの救命救急治療にて、エッジでの AI の需要が高まっています。そのため、Edison というインテリジェンス サービスを開発し、NVIDIA と業務提携し、AI を医療機器と Edison エッジ アプライアンスに導入しました。また、同じ理由から、ACR AI-LAB と業務提携し、AI の民主化に取り組んでいます。

— Jason Polzin 博士 (GE ヘルスケア MR アプリケーション ゼネラル マネージャー)

Red Hat は、ワークロード、フットプリント、所在地に関係なく、ハイブリッド クラウドからエッジに同じエクスペリエンスを提供することにコミットしています。お客様は Red Hat OpenShift と NVIDIA EGX 対応プラットフォームを組み合わせることで、一貫性のあるハイパフォーマンスなコンテナーによる環境で、分散したオペレーションを最適化できます。

— Chris Wright 氏 (Red Hat CTO)

Foxconn の PC 生産ラインでは、現在、部品を手作業で検査するのに 4 秒かかるため、生産スピードが制限されています。当社の目標は、NVIDIA EGX プラットフォームでエッジにリアルタイムのインテリジェントな意思決定機能を導入することで、PC 生産ラインのスループットを 40% 以上増やすことです。当社のモデルでは、NVIDIA GPU で実行されている高速のニューラル ネットワークを利用し、欠陥における 16 の種類と場所を同時に検出し、分類します。極めて高いスループット レートで 98% の精度を達成しています。

— Mark Chien 氏 (Foxconn D Group ゼネラル マネージャー)

Mellanox の SmartNIC とスイッチからは、データ アクセスに最適な I/O (入力/出力) 接続が与えられます。この接続性は、エッジからハイパースケール データ センターにまで拡張できます。ハイパフォーマンス、低いレイテンシ、高速ネットワークの組み合わせで、コンピューティングのインフラストラクチャの新たな層を提供します。つまり、アクセス効率が高く、NVIDIA EGX のようなエッジ プラットフォーム上の次世代型高度 AI ソリューションに必要なデータの供給に欠かせないインフラストラクチャです。

— Michael Kagan 氏 (Mellanox Technologies CTO)

EGX 向けの企業クラスのソフトウェア スタック

EGX 向けの企業クラスのソフトウェア スタック

NVIDIA EGX は、NVIDIA ドライバー、Kubernetes プラグイン、コンテナー ランタイムが含まれ、NVIDIA TensorRT™、TensorRT Inference Server、DeepStream など、コンテナー化された AI フレームワーク/アプリケーションを展開し、管理するための基盤となる最適化されたソフトウェア スタックです。NVIDIA EGX スタックは NGC-Ready for Edge サーバー向けに最適化されており、インストールのための Helm チャートは NVIDIA NGC レジストリで利用できます。

EGX パートナー

  • エッジ サーバー メーカー
  • ハイブリッド クラウド プラットフォーム パートナー
Acer
Advantech
ASRock Rack
Asus
Atos
Cisco
Dell EMC
Fujitsu
Gigabyte
Hewlett Packard Enterprise
Inspur
Ineventec
Lenovo
Mitac
Quanta Cloud Technology
Supermicro
Tyan
wiwynn
Canonical
Cisco
Microsoft Azure
Nutanix
Red Hat
VMware

稼働中の NVIDIA EGX

新規登録すると、NVIDIA EGX エッジ コンピューティング プラットフォームの詳細をご覧いただけます。