如何開始使用 NVIDIA NeMo
利用正確的工具與技術，將物流最佳化專案從開發推向部署。
從 AI 模型邁向生成式 AI 深入見解的歷程
體驗生成式人工智慧的端對端企業級平台。
1. 試用人工智慧模型。
體驗最佳化的生成式人工智慧模型部署
使用由 NVIDIA 打造，經調整成高效能和高效率的頂尖開源生成式人工智慧模型，展開原型設計。您可以使用 NVIDIA NIM™ 微服務部署來自 NVIDIA API 目錄的人工智慧模型，並使用 NeMo 將其客製化。
2. 運用 NeMo 工具與微服務。
利用 NeMo 微服務和框架進行客製化
3. 開始快速建置您的 AI 解決方案。
利用 NVIDIA Blueprints 加速發展為生成式 AI
NVIDIA Blueprints 是利用 NVIDIA AI 和 Omniverse™ 函式庫、SDK 和微服務建置的全方位參考工作流程。 每個 Blueprint 都包括參考代碼、部署工具、客製化指南和參考架構，加速 AI 代理和數位孿生等 AI 解決方案從原型設計到部署。
4. 在部署環境中執行。
部署 NVIDIA AI Enterprise 至生產環境
NVIDIA AI Enterprise 是一款端對端軟體平台，可將生成式人工智慧導入各個企業，為生成式人工智慧基礎模型提供最快、最高效的執行時間。它包括 NeMo 和 NVIDIA NIM，可透過安全性、穩定性、可管理性和支援來簡化採用流程。
立即申請免費的 90 天授權，使用生成式人工智慧解決方案與企業支援。
資源
常見問題
NVIDIA NeMo 是一款端對端雲端原生框架，不受地域限制，可建構、客製化及部署生成式 AI 模型的微服務。其中包括大規模資料管理、運用先進客製化技術的加速訓練、防護措施和最佳化推論，為企業提供了一種簡單、經濟實惠且快速的方式來採用生成式人工智慧。
NeMo 可作為 NVIDIA AI Enterprise™ 的一部分使用。請在此處查看完整的定價與授權詳細資訊。
NeMo 可用於客製化大型語言模型 (LLM)、視覺語言模型 (VLM)、自動語音辨識 (ASR) 和文字轉語音 (TTS) 模型。
客戶可透過包括 NeMo 服務的 NVIDIA AI Enterprise 訂閱取得 NVIDIA Business-standard Support。NVIDIA Business-Standard Support 提供服務等級協議、聯繫 NVIDIA 專家，以及跨內部和雲端部署的長期支援。
NVIDIA AI Enterprise 包含 NVIDIA 企業支援服務。 如需其他可用的支援與服務，例如 NVIDIA Business-Critical Support、技術客戶經理、訓練和專業服務，請參閱 NVIDIA 企業支援與服務指南。
NeMo Curator 透過策劃高品質多模態資料集，提升生成式 AI 模型的準確度。 其中包含一組以 API 形式表示的 Python 模組，運用 Dask、cuDF、cuGraph 和 Pytorch 將資料管理任務 (例如資料下載、文字擷取、清理、篩選、精確/模糊重複資料刪除以及文字分類) 擴充至數千個運算中心。
NeMo Guardrails 是一款微服務，可確保大型語言模型智慧適當且安全使用。 它能保護監督 LLM 系統的組織。
NeMo Guardrails 可讓開發人員設定三種限制：
- 主題護欄可防止應用程式進入不必要的區域。 例如，它們使客服助理無須回答有關天氣的問題。
- 安全護欄可確保應用程式以準確、適當的資訊作出回應。 它們可過濾掉不需要的語言，並規定僅參考可信的來源。
- 安全護欄可確保應用程式僅連接至已知安全的外部第三方應用程式。
NeMo Retriever 是一組由 NVIDIA NIM 打造的生成式人工智慧微服務，可讓企業將客製化模型順暢地連結至各種業務資料，並提供高度準確的回應。NeMo Retriever 提供頂尖的訊息檢索，提供最低延遲、最高輸送量以及最高的資料隱私權，讓企業更加善用資料並生成即時的商業深入見解。NeMo Retriever 使用企業級檢索增強生成功能來強化人工智慧應用，並將其連接至業務資料的所在之處。
NVIDIA NIM 是 NVIDIA AI Enterprise 的一環，也是一款專為加速企業間生成式 AI 部署且容易使用的執行階段。這款多用途的微服務支援各種人工智慧模型，包括開放原始碼社群模型、NVIDIA AI 基礎模型，以及客製化的人工智慧模型。 這項微服務以推論引擎作為穩健的基礎，可大規模實現流暢的 AI 推論，確保 AI 應用可部署至雲端、資料中心和工作站。
NeMo Evaluator 是一款專為客製化 LLM 與 RAG 進行快速、可靠評估所設計的微服務。它涵蓋預先定義指標的各項評測基準，包括人類評估與 LLM 即判斷技術。透過 API 呼叫可在偏好的雲端平台或是資料中心的 Kubernetes 上同時部署多項評估工作，達到高效的彙總結果。
NeMo Customizer 是一款高效能、可擴充的微服務，可簡化特定領域使用案例之 LLM 的微調與對齊。
檢索增強生成這項技術可讓 LLM 透過連接至公司的知識庫，從最新的資訊中建立回應。NeMo 可與各種第三方與社群工具搭配，包括 Milvus、Llama Index 與 LangChain，並從向量資料庫中擷取相關訊息片段，將其輸入至 LLM 以生成自然語言回應。探索使用 RAG 工作流程的 AI 聊天機器人頁面，開始建立生產品質的 AI 聊天機器人，其能準確回答有關企業資料的問題。
NVIDIA 提供人工智慧工作流程是雲端原生的套件參考範例，呈現如何利用 NVIDIA 人工智慧框架打造人工智慧解決方案。 人工智慧工作流程利用預先訓練的模型、訓練與推論流程、Jupyter Notebook 與 Helm Charts，加速提供人工智慧解決方案的速度。
利用以下端對端工作流程快速建置生成式 AI 解決方案：
NVIDIA Blueprints 是利用 NVIDIA AI 和 Omniverse 函式庫、SDK 和微服務建置的全方位參考工作流程。 每個 Blueprint 都包括參考代碼、部署工具、客製化指南和參考架構，加速 AI 代理和數位孿生等 AI 解決方案從原型設計到部署。
NVIDIA AI Enterprise 是一款安全的端對端雲端原生軟體平台，可加速資料科學流程、簡化部署級人工智慧應用的開發和部署，其中包括生成式 AI、電腦視覺、語音 AI 等等。其中包括適用於人工智慧從業人員的最佳開發工具、框架、預先訓練的模型與微服務，以及適用於 IT 專員的可靠管理功能，可確實兼顧效能、API 穩定性和安全性。
NVIDIA API 目錄提供可用於部署環境的生成式 AI 模型及持續最佳化的推論執行階段，同時以封裝方式供應 NVIDIA NIM 微服務，這些微服務可透過任何 GPU 加速系統上的標準化工具輕鬆部署。
掌握 NVIDIA 生成式人工智慧技術的最新消息。