生成式人工智慧

NVIDIA NeMo

建置、自訂和部署大型語言模型。

NVIDIA NeMoTM 是一款端對端的雲端原生框架,可用於在任何地方建置、自訂和部署生成式人工智慧模型。其中包含訓練和推論框架、防護工具組、資料統籌工具和預先訓練模型,能讓企業以符合成本效益且簡單快速的方式採用生成式人工智慧。

探索 NVIDIA NeMo 的優點。

從資料處理到推論

LLM 流程的完整解決方案,從資料處理、訓練到生成式人工智慧模型推論,一應俱全。

企業級

NVIDIA AI Enterprise 提供支援、安全性和 API 穩定性,是安全的最佳化全方位解決方案,專為加速企業效能而設計。

提高投資報酬率

NeMo 能協助組織快速訓練、自訂和大規模部署 LLM,縮短獲得解決方案的時間,進而提高投資報酬率。

彈性

端對端框架能夠統籌資料、訓練高達數兆個參數的大規模模型,並在推論中加以部署。

開放原始碼

可透過 GitHub 與 NVIDIA NGC 軟體目錄以開放原始碼的形式提供,讓開發人員和研究人員更輕鬆地建置新的 LLM。

加速訓練和推論

多節點和多顯示卡訓練與推論,可將輸送量提升到最高,將 LLM 訓練時間縮減到最短。

打造企業級大型語言模型的完整解決方案

隨著生成式人工智慧模型及其開發作業的快速演進和拓展,人工智慧堆疊及其相依性也越來越複雜。NVIDIA AI Enterprise 針對使用人工智慧營運業務的企業,提供安全的生產級端對端軟體平台,其中包括 NeMo、生成式人工智慧參考應用程式和企業支援,以簡化採用流程。

頂尖訓練技術

NeMo 為大型語言模型 (LLM) 提供分散式訓練工具,以達到頂級的規模、速度和效率。

頂尖訓練技術

NeMo 為大型語言模型 (LLM) 提供分散式訓練工具,以達到頂級的規模、速度和效率。

進階 LLM 自訂工具

NeMo 可以通過 Inform 整合即時、特定領域的資料。這有助於針對您企業的獨特需求做出量身客制的回覆,並允許嵌入專業技能來滿足特定的客戶和企業需求。

NeMo Guardrails 幫助定義操作邊界,使模型保持在預期範圍內並避免不適當的輸出。

NeMo 支援人類反饋強化學習 (RLHF) 技術,使企業模型隨著時間的推移變得更加聰明,與人類的意圖保持一致。

NVIDIA Triton 最佳化人工智慧推論

使用 NVIDIA Triton Inference Server™ 部署生成式 AI 模型進行推理。通過強大的優化,您可以在單 GPU、多 GPU 和多節點配置上實現最先進的準確性、延遲和吞吐量推理性能。

NVIDIA Triton 最佳化人工智慧推論

使用 NVIDIA Triton Inference Server™ 部署生成式 AI 模型進行推理。通過強大的優化,您可以在單 GPU、多 GPU 和多節點配置上實現最先進的準確性、延遲和吞吐量推理性能。

大規模資料處理

引入您自己的資料集並將資料標記為易於理解的格式。 NeMo 包括用於資料過濾、重複資料刪除、混合和語言資料集格式化的全面預處理功能,可幫助開發人員和工程師節省數月的開發和計算時間。

易於使用的生成式人工智慧方法和工具

NeMo 框架從第一天起就通過整個流程中的預打包腳本、參考示例和文檔使生成式 AI 成為可能。

此外,自動設定工具會自動搜尋最佳超參數設定,以便為任何多顯示卡設定、訓練或部署限制最佳化訓練和推論,讓建置基礎模型也變得無比輕鬆。

易於使用的生成式人工智慧方法和工具

NeMo 框架從第一天起就通過整個流程中的預打包腳本、參考示例和文檔使生成式 AI 成為可能。

此外,自動設定工具會自動搜尋最佳超參數設定,以便為任何多顯示卡設定、訓練或部署限制最佳化訓練和推論,讓建置基礎模型也變得無比輕鬆。

同級最佳的預先訓練模型

透過 NeMo,開發人員可以使用 NVIDIA 預先訓練的模型以及熱門的開放原始碼模型,再根據需求自訂。這可減少對資料和基礎架構的需求,並加速獲得解決方案的時間。

NeMo 提供預先訓練的模型,可透過 NGC 與 Hugging Face 取得。這些模型都經過測試和最佳化,可提供最佳效能。

從雲端到 PC 皆可使用

NeMo 框架相當具有彈性,無論在雲端、資料中心,甚至是搭載 NVIDIA RTX™ GPU 的 PC 與工作站上,都可以執行。有意打造自訂 LLM 即服務的組織可以善加利用 NVIDIA AI Foundations。這套由 NVIDIA DGX™ Cloud 提供技術支援的模型製作服務,不僅可強化企業級生成式人工智慧,還能在文字 (NVIDIA NeMo)、視覺內容 (NVIDIA Picasso) 與生物學 (NVIDIA BioNeMo™) 等領域的使用案例中進行自訂。

從雲端到 PC 皆可使用

NeMo 框架相當具有彈性,無論在雲端、資料中心,甚至是搭載 NVIDIA RTX™ GPU 的 PC 與工作站上,都可以執行。有意打造自訂 LLM 即服務的組織可以善加利用 NVIDIA AI Foundations。這套由 NVIDIA DGX™ Cloud 提供技術支援的模型製作服務,不僅可強化企業級生成式人工智慧,還能在文字 (NVIDIA NeMo)、視覺內容 (NVIDIA Picasso) 與生物學 (NVIDIA BioNeMo™) 等領域的使用案例中進行自訂。

開始使用 NVIDIA NeMo

下載 NVIDIA NeMo 框架

立即開始使用訓練和推論工具,讓企業能夠以符合成本效益且簡單快速的方式開發生成式人工智慧模型。

註冊 NVIDIA NeMo Foundry 搶先體驗

申請提前體驗 NVIDIA NeMo Cloud Foundry(NVIDIA AI Foundations 的一部分),為企業級 AI 應用程序打造客製化的大型語言模型並進行大規模部署。

申請 NeMo 框架多模式搶先體驗

使用以數十億個參數建置、自訂及部署的多模式生成式人工智慧模型。申請審核時間可能需要 2 週以上。

客戶使用 NeMo 構建定制 LLM

運用 LLM 加速產業應用程式

AI Sweden 可讓使用者輕鬆存取具有 1000 億個參數的強大模型,進而推動區域語言模型應用程式的使用。這些應用程式會將歷史紀錄數位化,以開發商業用的語言模型。

Image Courtesy of Korea Telecom

使用 LLM 創造全新的客戶體驗

南韓行動營運商龍頭利用 NVIDIA DGX SuperPOD 平台和 NeMo 框架訓練並建置有數十億參數的 LLM,以提升智慧型喇叭和客服中心的效能。

建置跨企業 IT 生成式人工智慧

ServiceNow 在他們的 ServiceNow 平台上開發自訂 LLM,以實現智慧工作流程自動化,並提升跨企業 IT 流程的生產力。

為企業產生自訂內容

Writer 使用生成式人工智慧為行銷、訓練、支援等企業使用案例建立自訂內容。

運用企業資料建置生成式人工智慧

Snowflake 讓企業使用 Snowflake Data Cloud 中的專屬資料建置自訂生成式人工智慧應用程式。

查看 NeMo 資源

NeMo 簡介及最新消息

NVIDIA 剛剛宣布 NeMo 全面上市。觀看部落格,了解新增的內容以及並開始大規模的構建、客制和部署 LLM。

開始閱讀 NeMo 文件

取得使用 NVIDIA NeMo 所需的一切,包括教學、Jupyter Notebook 和文件。

探索 LLM 相關的技術部落格

閱讀這些 NeMo 技術逐步說明,瞭解如何大規模建置、自訂和部署生成式人工智慧模型。

下載企業用 LLM 電子書

瞭解一切 LLM 須知,包括運作方式、LLM 發掘出的可能性,以及實際案例研究。

立即開始使用 NVIDIA NeMo