NVIDIA NeMo

打造
準備 AI 就緒的資料處理現有的多模態資料集，將其轉化為開發流程用的高品質 AI 就緒格式，並生成合成資料，縮小關鍵的資料差距。	NeMo Anonymizer 執行情境感知資料匿名化，在保護個人識別資訊 (PII) 的同時，保留資料分析價值。 NeMo Curator 為代理式使用案例與模型訓練清理、篩選並準備安全的多模態資料。 NeMo Data Designer 從頭開始建立特定領域的合成資料集，用於建構及評估專用代理程式。 NeMo Safe Synthesizer 建立敏感資料集的安全合成版本，且不會與原始資料記錄形成一對一對應關係。 NeMo User Sim 生成多輪使用者軌跡，評估並改善代理與模型。
選擇合適的模型挑選或打造適合使用案例的模型：從 Nemotron 模型、專有模型或其他開放選項中選擇，或者從頭開始訓練。透過評估執行來驗證，並根據需要微調。	NVIDIA Nemotron 最先進的開放式 NVIDIA 模型，用於推理、檢索、語音、視覺與安全。 NeMo Evaluator 透過學術評測、以 LLM 作為評審，以及自訂評估方式，對模型與代理進行基準測試與驗證。 NeMo Switchyard 根據成本、延遲與品質，將每個 AI 要求動態路由至合適的模型。
部署與治理
以最高效能部署代理程式利用高傳輸量低延遲的推論，為正式環境將代理最佳化，確保能隨著企業需求擴充，並提供快速可靠的回應。	NVIDIA NIM 在最佳化容器中執行 AI 模型，透過與 OpenAI 相容的 API 形式開放使用。
確保資料關聯性並套用防護措施利用檢索增強生成 (RAG) 將代理程式回應固定於可信賴的知識，同時套用安全、合規與內容審核防護措施。	NeMo Guardrails 強化 AI 互動的安全性、合規性與控制能力。
發佈前驗證代理程式與模型的安全性在模型與代理程式投入正式生產環境前，識別並修補安全性與資安漏洞。	garak 大型語言模型與代理漏洞掃描器。
訓練與最佳化
透過強化學習訓練您的模型使用 NeMo Gym 打造 RL 環境、大規模收集展開 (rollouts)，並設定可驗證的獎勵 — NeMo Framework 能根據模型所學內容進行訓練。	NeMo AutoModel 用於 Day-zero Hugging Face 模型客製化的微調函式庫。 NeMo Gym 模擬 RL 訓練環境，生成高品質的代理式 RL 訓練資料/軌跡資料。 NeMo Megatron Bridge 使用 Megatron-core 進行大規模高效能模型訓練。 NeMo RL 使用先進的強化學習技術，大規模進行後期訓練並校準模型。
最佳化您的 AI 代理從端到端觀察每個代理的執行過程，然後將這些追蹤記錄轉化為改良項目。在不變更框架的情況下，更快偵錯、找出瓶頸，並最佳化成本、延遲與準確性。	NeMo Compass 分析代理證據，並優先排序要修復的內容。 NeMo Eval Author 為實際代理工作流程打造特定領域的評估。 NeMo Fabric 開源轉接層，讓平台能夠透過單一介面跨不同測試框架執行代理。 NeMo Helix 透過一次安裝、一個 CLI 以及適用於 NeMo 和第三方程式庫的外掛程式，即可評估、最佳化並保護 AI 代理。 NeMo Relay 捕捉代理程式在工具、模型、記憶體與交接過程中的軌跡，用於偵錯、治理及最佳化執行。