生成式人工智慧

NVIDIA NeMo

建置、自訂和部署大型語言模型。

什麼是 NVIDIA NeMo?

NVIDIA NeMo™ 是一款端對端的雲端原生框架,可用於在任何地方建置、自訂和部署生成式人工智慧模型。其中包含訓練和推論框架、防護工具組、資料統籌工具和預先訓練模型,能讓企業以符合成本效益且簡單快速的方式採用生成式人工智慧。

建立和部署生成式人工智慧模型

探索 NVIDIA NeMo 的優點

端對端

LLM 流程的完整解決方案,從資料處理、訓練到生成式人工智慧模型推論,一應俱全。

企業級

NVIDIA AI Enterprise 提供支援、安全性和 API 穩定性,是安全的最佳化全方位解決方案,專為加速企業效能而設計。

提高投資報酬率

NeMo 能協助組織快速訓練、自訂和大規模部署 LLM,縮短獲得解決方案的時間,進而提高投資報酬率。

彈性

端對端框架能夠統籌資料、訓練高達數兆個參數的大規模模型,並在推論中加以部署。

開放原始碼

可透過 GitHub 與 NVIDIA NGC 軟體目錄以開放原始碼的形式提供,讓開發人員和研究人員更輕鬆地建置新的 LLM。

加速訓練和推論

多節點和多顯示卡訓練與推論,可將輸送量提升到最高,將 LLM 訓練時間縮減到最短。

打造企業級大型語言模型的完整解決方案

隨著生成式人工智慧模型及其開發作業的快速演進和拓展,人工智慧堆疊及其相依性也越來越複雜。NVIDIA AI Enterprise 針對使用人工智慧營運業務的企業,提供安全的生產級端對端軟體平台,其中包括 NeMo、生成式人工智慧參考應用程式和企業支援,以簡化採用流程。

頂尖訓練技術

NeMo 為大型語言模型 (LLM) 提供分散式訓練工具,以達到頂級的規模、速度和效率。

進階 LLM 自訂工具

透過 NeMo Retriever 整合即時、特定領域的數據。這有助於針對您企業的獨特需求做出量身客制的回覆,並允許嵌入專業技能來滿足特定的客戶和企業需求。

NeMo Guardrails 幫助定義操作邊界,使模型保持在預期範圍內並避免不適當的輸出。

NVIDIA Triton 最佳化人工智慧推論

使用 NVIDIA Triton 推論伺服器部署具有強大優化功能的生成式人工智慧模型。透過 Triton 管理式服務使用節省資源的模型編排,在 Kubernetes 中自動部署多個 Triton 推論伺服器執行個體。

易於使用的生成式人工智慧方法和工具

NeMo 框架從第一天起就通過整個流程中的預打包腳本、參考示例和文檔使生成式 AI 成為可能。

此外,自動設定工具會自動搜尋最佳超參數設定,以便為任何多 GPU 設定、訓練或部署限制最佳化訓練和推論,讓建置基礎模型也變得無比輕鬆。

同級最佳的預先訓練模型

使用 NeMo 和 NVIDIA AI Foundation 模型打造自訂的企業模型:社群和 NVIDIA 攜手建立了預先訓練模型,讓開發人員能夠更快速地建立自訂模型。這些 NVIDIA 最佳化模型整合了最新的訓練和推論技術,可提供最佳效能。

檢索增強生成功能最佳化

建立強大的生成式人工智慧應用程式,從企業資料來源中提取資訊和洞見。 NeMo Retriever 提供商業化的 NVIDIA AI 基礎模型和微服務,幫助客戶建立加速的企業 AI 應用程式。

檢索增強生成功能最佳化 檢索增強生成功能最佳化 檢索增強生成功能最佳化 檢索增強生成功能最佳化

開始使用 NVIDIA NeMo

下載 NVIDIA NeMo 框架

立即開始使用訓練和推論工具,讓企業能夠以符合成本效益且簡單快速的方式開發生成式人工智慧模型。

具備檢索增強生成功能的人工智慧聊天機器人

此工作流程可加速建立和部署企業解決方案,使用即時資訊來準確回應。

立即體驗生成式人工智慧模型

透過 API 或瀏覽器中的使用者介面,可使用容易上手的介面來試用 NVIDIA AI Foundation 模型。

申請 NeMo 框架多模式搶先體驗

使用以數十億個參數建置、自訂及部署的多模式生成式人工智慧模型。申請審核時間可能需要 2 週以上。

註冊以搶先體驗 NVIDIA AI Workbench

透過這款容易上手的整合式工具套件,開發人員可以在 PC 或工作站上快速建立、測試和自訂預先訓練的生成式人工智慧模型和 LLM,接著再擴充至任何資料中心、公用雲端或 NVIDIA DGX Cloud。

註冊以搶先體驗 NVIDIA NeMo 服務

申請搶先體驗 NVIDIA NeMo 服務,為企業人工智慧應用程式提供並大規模部署超級個人化大型語言模型。

各產業採用此功能的頂尖企業

查看 NeMo 資源

NeMo 簡介與最新資訊

NVIDIA 近日宣佈 NeMo 已全面上市。查看部落格文章瞭解最新消息,並開始大規模建立、自訂和部署 LLM。

開始閱讀 NeMo 文件

取得使用 NVIDIA NeMo 所需的一切,包括教學、Jupyter Notebook 和文件。

探索 LLM 相關的技術部落格

閱讀這些 NeMo 技術逐步說明,瞭解如何大規模建置、自訂和部署生成式人工智慧模型。

下載企業用 LLM 電子書

瞭解一切 LLM 須知,包括運作方式、LLM 發掘出的可能性,以及實際案例研究。

立即開始使用 NVIDIA NeMo

AI Sweden

運用 LLM 加速產業應用程式

AI Sweden 讓使用者可輕鬆使用具有千億參數的強大模型,進而推動區域語言模型應用程式的使用。這些應用程式會將歷史紀錄數位化,以開發商業用的語言模型。

Amdocs

NVIDIA 和 Amdocs 為全球電信業提供客製化生成式 AI

Amdocs 計劃使用 Microsoft Azure 上的 NVIDIA AI foundry 服務,為價值 1.7 兆美元的全球電信業打造客製化 LLM。

Dropbox

從企業應用程式汲取深入解析資料

Dropbox 將生成式人工智慧帶入 Dash 通用搜尋工具,為數百萬名客戶提供來自公開和私人資料的客製化情報,並提高生產力。

KT

使用 LLM 創造全新的客戶體驗

南韓行動營運商龍頭利用 NVIDIA DGX SuperPOD 平台和 NeMo 框架訓練並建置有數十億參數的 LLM,以提升智慧型喇叭和客服中心的效能。

Palo Alto Networks

Bringing Generative AI to Cybersecurity

Palo Alto Networks builds security copilot enabling customers to use its platform to the best of its capabilities, optimizing security, configuration, and operations.

ServiceNow

建置跨企業 IT 生成式人工智慧

ServiceNow 在他們的 ServiceNow 平台上開發自訂 LLM,以實現智慧工作流程自動化,並提升跨企業 IT 流程的生產力。

Writer

新創公司運用 NVIDIA NeMo 編寫生成式人工智慧的成功案例

Writer 使用 NVIDIA NeMo 打造出 LLM,協助數百家公司為行銷、培訓、支援等企業使用案例建立自訂內容。

AWS

Amazon 利用 NVIDIA 訓練巨型的 Amazon Titan 基礎模型

Amazon 利用 NVIDIA NeMo 框架、GPU 和 AWS EFA 來訓練其下一代 LLM,為一些最大的 Amazon Titan 基礎模型客戶提供了更快、更易於使用的生成 AI 解決方案。

Azure

在 AzureMachine Learning 上運用 NVIDIA AI Enterprise 的強大功能

在 Microsoft Azure 上使用專為企業環境量身打造的完整生態系,包含工具、函式庫、框架和支援服務。

Dell

搭載 NVIDIA 的 Dell 驗證生成式人工智慧設計

Dell Technologies 和 NVIDIA 合作宣布一項計劃,旨在讓企業更輕鬆、快速且安全地在本機建立和使用生成式人工智慧模型。

Deloitte

在企業軟體平台上釋放生成式人工智慧的價值

Deloitte 將運用 NVIDIA 人工智慧技術和專業知識,為企業軟體平台打造高效能的生成式人工智慧解決方案,協助創造龐大的商業價值。

Domino Data Lab

Domino 採用 NVIDIA 技術,提供可用於實際生產環境的生成式人工智慧

透過 NVIDIA NeMo,資料科學家需從頭開始,即可在 Domino 平台根據專屬資料和 IP 針對特定領域的使用案例微調 LLM。

Google Cloud

人工智慧巨頭攜手合作,打造令人驚艷的生成式人工智慧

Google 雲端在 Next 大會中宣布推出採用 NVIDIA H100 Tensor 核心 GPU 的 A3 執行個體。兩家公司的工程團隊攜手合作,將 NVIDIA NeMo 導入 A3 執行個體,以加快訓練和推論速度。

Lenovo

以 LLM 為基礎的全新生成式人工智慧參考架構

此解決方案讓全球合作夥伴和客戶能夠在各垂直產業中大規模開發、訓練和部署人工智慧,以最安全且有效率的方式加速創新。

Quantiphi

讓企業快速展開人工智慧驅動的旅程

Quantiphi 不僅專精於使用 NVIDIA NeMo 框架訓練和微調基礎模型,還能使用 NVIDIA AI Enterprise 軟體平台來大規模最佳化部署,同時遵守負責任的人工智慧原則。

VMware

VMware 和 NVIDIA 為企業開啟生成式 AI 時代

VMware Private AI Foundation with NVIDIA 將使企業能夠自訂模型並運行各種生成式 AI 應用,如智慧聊天機器人、助理、搜尋和摘要等。

Weight & Biases

偵錯、最佳化和監測 LLM 流程

Weights & Biases 協助處理生成式人工智慧使用案例或使用 LLM 的團隊,追蹤並視覺化所有提示工程實驗,以幫助使用者偵錯和最佳化 LLM 流程,並為 LLM 提供監控和觀察功能。