概覽
NVIDIA Nemotron 是什麼？
NVIDIA Nemotron™ 是包含開放式模型、資料集與技術的系列，能讓您打造高效準確的專業化 AI 代理系統。Nemotron 模型是專為進階推理、編碼、視覺理解、代理任務、安全、口語與資訊檢索而設計，以開放方式提供，並整合至整個 AI 生態系統，因此可部署於從邊緣到雲端的任何地方。
Nemotron 透過透明的訓練資料和廣泛的平台支援 (包括 NVIDIA RTX PRO 和 NVIDIA DGX Spark™)，讓您更輕鬆地建立及部署值得信賴的高效能 AI 代理。
影片
NVIDIA 為什麼打造 Nemotron
聆聽 NVIDIA 應用深度學習研究副總裁 Bryan Catanzaro 分享 Nemotron 的願景，以及為何開放技術是打造可信賴企業級 AI 的必要條件。
優勢
NVIDIA Nemotron 模型可為代理 AI 帶來哪些優勢？
高精準度
Nemotron 模型奠基於各大熱門開放式推理模型，具備卓越的知識表現，並以高品質的訓練資料進行後期訓練，其推理方式更貼近人類思維，在各項重要基準測試中達最高精準度。
高運算效率
Nemotron 模型系列對大型模型進行精簡，在最高運算效率實現最佳化，並利用 NVIDIA TensorRT™-LLM 軟體提供更高的傳輸量，且可選擇要開啟或關閉推理功能。
可實現商業化
NVIDIA 的後期訓練資料與最佳化技術，可確保為開發人員及企業提供強大、透明且具優異適應性的模型。這些模型與訓練資料已透過 Hugging Face 平台公開發布。
安全、簡單的部署作業
Nemotron 模型系列以最佳化 NVIDIA NIM™ 微服務的形式提供，提供極致的推論效能和彈性部署選項，確保卓越的安全性、隱私與可移植性。
技術
代理型 AI 的建置組件
NVIDIA NeMo™ 可打造客製化的代理型 AI、NVIDIA NIM 可迅速實現企業級部署，而 NVIDIA Blueprints 則提供可客製化的參考工作流程加速開發，是開始建置及最佳化 AI 代理的利器。
入門選項
如何開始使用 NVIDIA Nemotron 模型
使用案例
使用 NVIDIA Nemotron 模型的企業
常見問題
NVIDIA Nemotron 不僅是開放式模型，更是真正開源。NVIDIA 發布訓練資料集、技術與模型權重，讓開源社群能從我們的學習成果受益，運用這些資源自行打造模型。
NVIDIA 開放模型授權屬於寬容式授權，允許使用者在不需標註 NVIDIA 的情況下，使用、修改、散佈及商業部署這些模型及其衍生產品，以鼓勵生成式 AI 的創新及持續發展。
是的，您可以從 Hugging Face 下載 NVIDIA Nemotron 模型，在正式環境免費執行。
NVIDIA 亦提供 Nemotron 模型作為 NVIDIA NIM 微服務，實現安全可擴充的部署，但使用此服務需具備 NVIDIA AI Enterprise 授權。您可以試用 Nemotron 模型，並從 build.nvidia.com 下載 NIM 微服務。
是的，NVIDIA 致力於發布更多 Nemotron 模型、資料集和技術，實現開源生態系。
NVIDIA Nemotron 模型以最尖端的開放式模型為建置基礎，可更快打造更優異的模型。此外，NVIDIA 還發布模型權重、訓練資料集和訓練技術，讓開發人員社群能利用 Nemotron 的不同部分自行訓練模型。
是。NVIDIA 在 Llama 模型系列上，運用 NVIDIA 開放式資料集和神經架構搜尋 (NAS) 等先進技術打造 Llama Nemotron 模型。Llama Nemotron 模型沿用原始 Llama 模型授權。
NVIDIA 提供各種工具，例如 NVIDIA Dynamo、TensorRT-LLM 和 NIM，在正式環境大規模執行 Nemotron 模型。您也可以使用熱門的開源函式庫，例如 SGLang 與 vLLM。
下一步
準備好開始了嗎？
利用正確的工具與技術，將 NVIDIA Nemotron 模型從開發階段推向實際生產。
聯絡我們
歡迎諮詢 NVIDIA 產品專家，討論如何利用 NVIDIA AI Enterprise 的安全性、API 穩定性與支援服務，讓您的產品從測試階段推向正式生產。
掌握 NVIDIA 代理型 AI 的最新消息
直接透過您的電子信箱接收有關代理型 AI 的最新消息、技術資訊與重大進展。