運用人工智慧應用程式和服務，提升突破性效能。
將人工智慧用於推論，可以推動各產業的創新。但隨著資料科學家和工程師突破電腦視覺、語音、自然語言處理 (NLP) 和推薦系統可能性的極限，人工智慧模型的規模、複雜性和多樣性也同時迅速進化並擴大範圍。為了充分利用這個機會，組織必須採用全方位的人工智慧推論方法。
NVIDIA 提供完整的端對端堆疊產品和服務，無論在雲端、資料中心、網路邊緣或嵌入式裝置，都能在運用新一代人工智慧推論時，滿足最關鍵的效能、效率和靈敏度需求。專為具備不同程度人工智慧專業知識和經驗的資料科學家、軟體開發人員，以及基礎架構工程師所設計。
減少等待流程完成的時間，就能省下更多時間進行迭代，解決眼前的業務問題。業界領導者正採用此平台，為一系列廣泛的工作負載執行人工智慧推論。
輕鬆將更大更好的模型投入生產，進而提升結果準確度。
部署時可減少需要使用的伺服器和功耗，且擴充更有效率，也能以更快速度取得見解，並大幅降低成本。
標準化各種應用程式、人工智慧框架、模型架構和平台的模型部署。
輕鬆與公用雲端、本機資料中心和邊緣端的工具與平台整合。
從人工智慧基礎架構獲得高輸送量和使用率，進而降低成本。
輕鬆將加速推論整合至應用程式中。
獲得最佳模型效能，並且更符合客戶需求。NVIDIA 推論平台在人工智慧的頂尖業界基準 MLPerf 中，持續為多個類別樹立效能標竿記錄。
根據應用程式需求流暢擴充推論。
NVIDIA 的全方位架構方法可確保人工智慧應用程式透過最佳效能、更少的伺服器和更低的功耗進行部署，進而加快取得見解的速度，並大幅降低成本。
NVIDIA Omniverse 不僅加速了複雜的 3D 工作流程，還利用突破性的新方法為新一代的想法和創新進行視覺化、模擬及撰寫程式碼。將光線追蹤、人工智慧和運算等複雜技術整合至 3D 流程這件事不再是成本負擔，反而為您帶來競爭優勢。
NVIDIA 提供全方位的 GPU、系統和網路組合，為每個資料中心帶來前所未有的效能、可擴充性和安全性。NVIDIA H100、A100、A30 和 A2 Tensor 核心 GPU 可在雲端、資料中心和邊緣端提供領先業界的推論效能。NVIDIA 認證系統™ 為頂尖 NVIDIA 合作夥伴的系統提供 NVIDIA GPU 和 NVIDIA 高速又安全的網路，以及經過最佳效能、效率和可靠性驗證的設定。
瞭解 NVIDIA 加速運算平台 >
NVIDIA Triton™ 推論伺服器是一款開放原始碼的推論服務軟體。Triton 在任何地點的部署平台上，都支援所有主要的深度學習和機器學習框架、任何模型架構、即時批次和串流處理、GPU，以及 x86 和 Arm® CPU。也為大型語言模型進行多 GPU 與多節點推論。這是在各應用程式中支援快速且可擴充推論的關鍵。
瞭解 NVIDIA Triton >
NVIDIA TensorRT™ 是高效能的深度學習推論 SDK，其中包含深度學習推論最佳化工具與執行階段，可為推論應用程式提供低延遲度和高輸送量。相較於僅使用 CPU 的平台，TensorRT 不只可以大幅提升輸送量，還能大幅降低延遲情況。使用 TensorRT 能讓您從任何框架著手作業，還能快速地最佳化、驗證並在生產環境中部署訓練完成的神經網路。
瞭解 NVIDIA TensorRT >
NVIDIA NGC™ 目錄是加速軟體的中樞。此平台提供預先訓練的模型、人工智慧軟體容器以及 Helm 圖表，可在本機或雲端上讓人工智慧應用程式輕鬆且快速地進入生產階段。
深入瞭解 NVIDIA NGC 目錄 >
Triton 和 TensorRT 也是 NVIDIA AI Enterprise 的一部分，而 NVIDIA AI Enterprise 是一款端對端軟體套件，可簡化人工智慧的開發和部署，並提供企業支援。NVIDIA AI Enterprise 保證有保障的服務等級協定 (SLA)，直接與 NVIDIA 專家聯絡以處理設定、技術和效能問題、優先解決案例、長期支援選項，以及獲得訓練和知識庫資源。此計畫適用於本機和雲端的使用者。
深入瞭解 NVIDA AI Enterprise 支援 >
適合專業人士的 NVIDIA Studio 筆記本電腦結合可攜性、龐大記憶體容量、企業級可靠性以及最新的 RTX 技術。
採用 NVIDIA RTX 技術的工作站可為全球設計與視覺化專業人員提供先進繪圖運算功能與人工智慧。
NVIDIA 認證伺服器™ 讓企業能夠為 Omniverse Enterprise 部署可擴充的硬體和軟體。
NVIDIA OVX 是一款資料中心規模運算系統，專門在 NVIDIA Omniverse 內支援工業數位孿生。
隨時掌握 NVIDIA Triton 推論伺服器和 NVIDIA TensorRT 產品更新、內容、最新消息等更多資訊。
查看 NVIDIA GTC 關於人工智慧推論的最新隨選演講。
深入瞭解不斷演變的推論使用領域、最佳推論加速器的架構考慮因素，以及適用於推論的 NVIDIA 人工智慧平台。