NVIDIA H100 Tensor コア GPU

予想パフォーマンスは変更される場合があります。3D FFT (4K^3) スループット | A100 クラスター: HDR IB ネットワーク | H100 クラスター: NVLink Switch System、NDR IB | ゲノム シーケンシング (Smith-Waterman) | 1 A100 | 1 H100

NVIDIA データ センター プラットフォームはムーアの法則以上に、パフォーマンスを継続的に向上させます。また、H100 の新しい画期的な AI 機能は、HPC+AI のパワーをさらに増大させ、世界の最重要課題の解決に取り組む科学者や研究者が発見に至るまでの時間が高速化されます。

H100 は、倍精度 Tensor コアの毎秒浮動小数点演算 (FLOPS) を 3 倍にし、HPC で 60 TFLOPS の FP64 コンピューティングを実現します。AIと 融合した HPC アプリケーションでは、H100 の TF32 精度を活用し、単精度行列乗算演算で 1 PFLOP のスループットを実現します。コードの変更はゼロです。

H100 はまた、新しい DPX 命令を搭載しており、DNA 配列の Smith-Waterman や、たんぱく質構造予測のたんぱく質配列など、動的プログラミング アルゴリズムで A100 と比較して 7 倍のパフォーマンスアップを、CPU と比較して 40 倍のスピードアップを実現します。

DPX 命令比較: NVIDIA HGX™ H100 4-GPU 対 デュアル ソケット 32 コア IceLake

IT マネージャーはデータ センターにおけるコンピューティング リソース利用率の最大化 (ピーク時と平均値の両方)を求めています。多くの場合、使用中のワークロードに合わせてリソースを適切なサイズに設定するために、コンピューティングの動的な再構成を採用しています。

MIG を搭載した H100 なら、インフラストラクチャ管理者は GPU アクセラレーテッド インフラストラクチャを標準化でき、同時に、GPU リソースを非常に細かくプロビジョニングできます。正しい量のアクセラレーテッド コンピューティングが安全に開発者に提供され、GPU リソースの使用量を最適化します。

Hopper Tensor コア GPU は、テラバイト規模のアクセラレーテッド コンピューティング向けに開発された NVIDIA Grace Hopper CPU+GPU アーキテクチャを強化し、大規模モデルの AI と HPC において 10 倍のパフォーマンス向上を実現します。NVIDIA Grace CPU は Arm® アーキテクチャの柔軟性を活用するものです。アクセラレーテッド コンピューティング向けにゼロから設計された CPU とサーバーのアーキテクチャを実現します。Hopper GPU は NVIDIA の超高速チップ間相互接続を使用して Grace CPU とペアリングされます。PCIe Gen5 と比較して 7 倍の速さとなる、毎秒 900GB の帯域幅を実現します。この革新的な設計によって、現行の最速サーバーと比較し、GPU への合計システムメモリ帯域幅が最大 30 倍になり、テラバイト単位のデータを処理するアプリケーションのパフォーマンスが最大 10 倍向上します。