より速く、より正確な AI 推論

NVIDIA NIM は、クラウド、データ センター、ワークステーションにまたがって、高性能な AI モデル推論を安全かつ確実にデプロイするように設計された、使いやすいマイクロサービスです。

NVIDIA Triton Inference Server は、オープンソースの推論サービング ソフトウェアです。企業がカスタマイズされた AI モデルのサービング インフラを統合し、新たな AI モデルを本番環境に展開する時間を短縮するのに役立ち、AI 推論と予測能力を高めます。

NVIDIA TensorRT には、推論ランタイムとモデル最適化が含まれており、本番環境アプリケーションに低遅延と高スループットを提供します。TensorRT エコシステムには、TensorRT、TensorRT-LLM、TensorRT Model Optimizer、TensorRT Cloud が含まれます。

NVIDIA Blackwell アーキテクチャは、生成 AI とアクセラレーテッド コンピューティングの次の発展を特徴づけるものであり、比類のないパフォーマンス、効率性、拡張性を備えています。 Blackwell は、データ処理、電子設計自動化、コンピュータ支援エンジニアリング、量子コンピューティングにおいて画期的な進歩をもたらす 6 つの変革的なテクノロジを備えています。

NVIDIA H200 Tensor コア GPU は、市場を一変させるパフォーマンスとメモリ機能で生成 AI と高パフォーマンス コンピューティング (HPC) ワークロードを強化します。H200 は HBM3e を搭載した初の GPU であり、この大容量かつ高速なメモリが、HPC ワークロードで科学計算処理を進化させる一方で、生成 AI と大規模言語モデル (LLM) を大幅に高速化します。

NVIDIA の推論サービング ソフトウェアのフルスタックと L40S GPU を組み合わせることで、推論用にトレーニングされたモデルに適した強力なプラットフォームが実現します。構造化されたスパース性と幅広い精度をサポートする L40S は、NVIDIA A100 Tensor コア GPU の最大 1.7 倍の推論性能を発揮します。

NVIDIA RTX テクノロジは、ビジュアル コンピューティングに AI をもたらし、タスクを自動化して計算負荷の高いプロセスを最適化することで創造性を高速化します。CUDA® コアの強力な機能により、RTX はリアルタイムのレンダリング、AI、グラフィックス、コンピューティング性能を向上させます。