NVIDIA Vera CPU ラック

強化学習 (RL) とエージェント型 AI システムは、モデル生成コード、ツール、データ操作を実行し、結果を評価し、次のステップに進む前にフィードバックを返す、モデル外部のソフトウェア環境に依存しています。各環境は通常、専用の CPU コアで動作し、大規模運用では数千から数百万の環境が並列実行されます。フルロード時のコアあたりのパフォーマンスが、アクセラレーターの処理続行速度を直接左右します。

NVIDIA Vera CPU ラックは、こうした環境の大規模運用を支えるために設計されています。単一の液冷ラックに最大 256 基の Vera CPU を統合し、22,500 以上の CPU 環境を同時にサポートします。持続的なコアあたりのパフォーマンスと最大 2 倍のエネルギー効率を実現するように設計されており、評価サイクルを短縮し、AI ファクトリーをピーク スループットで稼働させ続けます。