NVIDIA Grace CPU

AI と HPC に関する最大級の問題を解決するには、大容量メモリと高帯域幅メモリ (HBM) の両方が必要です。第 4 世代の NVIDIA NVLink-C2C では、NVIDIA Grace CPU と NVIDIA GPU 間の双方向帯域幅が 1 秒あたり 900 ギガバイト (900GB/秒) にもおよびます。この接続により、システムと HBM GPU メモリを組み合わせて、シンプルなプログラム性を実現する、統合されたキャッシュコヒーレント メモリ アドレス空間が提供されます。CPU と GPU 間のこのコヒーレントな高帯域幅接続は、AI と HPC に関して将来直面する非常に複雑な問題を解決するための鍵となります。

メモリ帯域幅はサーバーのパフォーマンスにとって重要な要素であり、標準の DDR (Double Data Rate) メモリはソケット電力全体の大部分を消費します。NVIDIA Grace CPU は、データ センターの要件を満たすために、エラー修正コード (ECC) などのメカニズムによってサーバー クラスの信頼性を持った LPDDR5x メモリを活用した初のサーバー CPU です。また、現行のサーバー メモリに比べて 2 倍のメモリ帯域幅と、最大 10 倍のエネルギー効率を実現します。NVIDIA Grace LPDDR5x ソリューションは、大規模で高性能な最高レベルのキャッシュと相まって、大規模モデルに必要な帯域幅を提供すると同時に、システム電力を削減して次世代のワークロードのパフォーマンスを最大化します。

GPU の並列計算機能は進歩し続けており、CPU で実行されるシリアル タスクによってワークロードを調整できます。高速で効率的な CPU は、ワークロードを最大限に高速化するために、システム設計にとって重要な要素です。NVIDIA Grace CPU は、次世代の Arm v9 コアを統合し、電力効率に優れた設計で高性能を実現し、科学者や研究者は自分たちの仕事をより簡単に行うことができます。