最新のデータセンター向けに革新をもたらすCPU。
NVIDIA Grace™ CPU は、大量のデータを高速に処理し、最大限の電力効率で知的情報を生成するという、新しい形態のデータセンター向けに設計されています。これらのデータセンターは、AI、データ解析、ハイパースケール クラウド アプリケーション、ハイパフォーマンス コンピューティング (HPC) など、多様なワークロードを処理します。最も要求の厳しいデータ センターのニーズに応えるため、Grace は現在の主要サーバーと比較して、ワットあたり 2 倍の性能、2 倍の実装密度、そして業界最高水準のメモリ帯域幅を実現ます。
Grace CPU は、高性能かつ電力効率に優れたArm®Neoverse™V2 コアを72基搭載し、3.2TB/秒のバイセクション帯域幅を実現する NVIDIA 独自のScalable Coherency Fabric (SCF)で相互接続されています。これは従来CPU の2倍に相当し、Armエコシステムとの完全な互換性を維持しながら、最大限のパフォーマンスを引き出します。Grace は、サーバークラスの高速 LPDDR5X メモリを採用した初のデータセンター CPUであり、広帯域のメモリサブシステムを通じて、従来のDDRメモリと同様のコストで、最大500GB/秒の帯域幅を5分の1の消費電力で実現します。
ハイライト
NVIDIA Grace Superchip(LPDDR5X) メモリ480GB、AMD EPYC 9654 DDR5 メモリ768 GB。 OS: Ubuntu 22.04 コンパイラー: 特記がない限りGCC12.3を使用。エネルギー効率の評価に用いる電力には、CPUとメモリの実測消費電力が含まれます。グラフ解析:GAPベンチマーク スイート にBFS (幅優先探索)arXiv:1508.03619 [cs.DC], 2015。 データ分析 : HiBench+K-means Spark (HiBench 7.1.1、Hadoop 3.3.3、Spark 3.3.0; Grace: NVHPC 24.5、x86: Intel 2021.4) 気象シュミレーション:ICON QUBICC 80 km 解像度 NVHPC 24.5 (Grace) ICC 2021.4 (x86) マイクロサービス: Google Protobufs (コミット 7cd0b6fbf1643943560d8a9fe553fd206190b27f | N インスタンスを並列に実行)
特長
仕様
| NVIDIA Grace CPU C1 | NVIDIA Grace CPU Superchip | |
| Configuration | 1x Grace CPU | 2x Grace CPU |
| Core Count | 72 Arm Neoverse V2 Cores with 4x 128b SVE2 | 144 Arm Neoverse V2 Cores with 4x 128b SVE2 |
| L1 cache | 64KB i-cache + 64KB d-cache per core | 64KB i-cache + 64KB d-cache per core |
| L2 cache | 1MB per core | 1MB per core |
| L3 cache | 114MB | 228MB |
| LPDDR5X size | 120GB, 240GB and 480GB on-module memory options available | 240GB, 480GB and 960GB options available |
| Memory bandwidth | Up to 384 GB/s for 480GB Up to 512 GB/s for 120GB, 240GB |
Up to 768 GB/s for 960GB Up to 1024 GB/s for 240GB, 480GB |
| NVLink-C2C bandwidth | n/a | Up to 900 GB/s |
| PCIe Links | Up to 4x PCIe Gen 5x16 with option to bifurcate | Up to 8x PCIe Gen 5x16 with option to bifurcate |