開放模型 (open model) 是指發佈的 AI 模型,同時提供可公開存取的權重、資料或訓練方法,讓開發人員能檢查、客製並部署於自己的基礎架構。
任何 AI 模型的核心都是權重。 權重是模型在訓練過程中學習到的數值參數,決定了模型如何處理輸入並產生輸出。 在封閉模型中,這些權重仍屬於專有資產:使用者透過 API 或應用程式與模型互動,但無法下載、檢查或修改其內部結構。
開放模型讓部分或全部模型元件公開。 根據模型與授權,版本可能包括:
| 模型材質 | 意義何在 | 為何重要 |
|---|---|---|
| 模型權重 | 塑造模型行為的訓練參數 | 讓團隊執行、檢查並自訂模型 |
| 訓練資料 | 用於訓練或客製化模型的資料集 | 協助團隊瞭解品質、覆蓋範圍與侷限性 |
| 訓練方法 | 建置模型的方法、程式碼與設定 | 支援可重現性與進一步自訂 |
| 評估資產 | 基準測試、模型卡與技術報告 | 協助比較品質、安全性、成本與契合度 |
存取模型權重,可讓開發人員更有效控制 AI 的客製、評估、最佳化與部署方式。 團隊可根據專用需求調整模型,並在可控制的基礎架構上執行模型,並保留隨著時間發展的能力與知識。
大部分組織兩者都採用。 現代 AI 應用程式通常以模型系統的方式運作,並針對最合適的任務選擇各個模型。
| 決策因素 | 何時使用開放模型 | 何時使用專有模型 |
|---|---|---|
| 最佳契合度 | 您需要專門針對領域、工作流程、語言或模態的 AI。 | 您需要廣泛的推理、研究、內容整合或快速原型設計。 |
| 信任與控制 | 您需要更深入瞭解模型素材、行為、部署或治理。 | 託管模型符合您對安全性、隱私與支援的需求。 |
| 客製化 | 您需要利用企業資料、政策或工作流程,自訂模型。 | 對於任務而言,提示或配置已經足夠。 |
| 部署 | 您需要在私人環境、內部部署環境、邊緣端或低延遲環境執行 AI。 | 您希望供應商管理基礎架構、規模調整及更新。 |
| 成本與效能 | 您可以為重複的大量任務最佳化專門模型。 | 您需要在無須管理模型的情況下,立即存取尖端功能。 |
最佳的方法通常是混合式:可為特定任務使用客製開放模型,而專有模型則可用於通用功能。
這些術語相關,但不可互換。 傳統軟體的開源要求釋出研究、修改及重新發布系統所需的所有程式碼。完全開放的 AI 版本則包含權重、訓練資料、程式碼與說明文件。
許多模型描述為開放:釋出權重與有限的文件,並採用寬鬆授權條款,但並未分享完整的訓練資料集或程式碼。開放權重與開放模型這兩個術語更能精準反映實際可用的內容,以及開發人員可檢查、重製或調整的內容。
快速連結
開放模型廣泛應用於各產業,適用於開發人員需要掌控 AI 如何調適、在何處執行,以及處理哪些資料的場景。最高效的 AI 系統通常會結合為特定領域專用任務打造的開放模型,以及複雜推理的尖端模型,為每項工作挑選合適的模型。
開放模型通常透過 Hugging Face 與 GitHub 等平台提供,開發人員可藉此瀏覽、下載及分享模型權重、資料集與訓練程式碼。這些平台已成為開放模型生態系統的核心基礎架構,讓社群能快速採用並執行實驗。
採用開放模型可帶來顯著優勢。 實作時,請留意這些注意事項。
快速連結
開放模型生態系統包括 Mistral、Sarvam 與 NAVER Cloud 等公司打造的模型;LangChain、Hermes Agent 與 OpenClaw 等社群工具;WideLabs、Pleias 與 FPT Corporation 的資料集;以及協助團隊打造、客製、評估及部署 AI 的其他開放技術。
NVIDIA 將開放模型最佳化,讓模型更快速、更輕鬆且更可靠地部署至正式環境。 NVIDIA NIM™ 支援 NVIDIA 自建模型及社群自建模型,具備加速推論、可移植性,並可在雲端、資料中心、工作站與邊緣環境中進行企業就緒部署。
這些資源結合在一起,可讓開發人員、企業與國家政府在代理 AI、物理 AI、機器人技術、生命科學與自主系統領域擁有更多選擇。
快速連結
| 專門任務 | 開放技術範例 |
|---|---|
| 用於解決複雜問題、編寫程式碼、推理與數學的推理 | <a href="https://huggingface.co/collections/nvidia/nvidia-nemotron-v3" target="_blank">NVIDIA Nemotron 3</a> |
| 語音 | <a href="https://huggingface.co/collections/nvidia/nemotron-speech" target="_blank">NVIDIA Nemotron Speech</a><br> <div class="nv-text"><ul><li><a href="https://huggingface.co/nvidia/nemotron-speech-streaming-en-0.6b" target="_blank">Nemotron Speech Streaming EN 0.6B</a></li> <li><a href="https://huggingface.co/collections/nvidia/parakeet-asr" target="_blank">NVIDIA Parakeet ASR 模型</a></li> <li><a href="https://huggingface.co/collections/nvidia/canary-asr-ast" target="_blank">NVIDIA Canary 多任務、ASR/NMT 模型</a></li> <li><a href="https://huggingface.co/nvidia/magpie_tts_multilingual_357m" target="_blank">NVIDIA Magpie TTS 多語言</a></li> <li><a href="https://huggingface.co/datasets/nvidia/Granary" target="_blank">Granary 資料集</a></li></ul></div> |
| 多模態檢索增強生成 (<a href="https://www.nvidia.com/en-us/glossary/retrieval-augmented-generation/">RAG</a>) | <a href="https://huggingface.co/collections/nvidia/nemotron-rag" target="_blank">NVIDIA Nemotron RAG</a><br> <div class="nv-text"><ul><li><a href="https://huggingface.co/nvidia/llama-nemotron-rerank-vl-1b-v2" target="_blank">Llama Nemotron Rerank VL 1B V2</a></li> <li><a href="https://huggingface.co/nvidia/llama-nemotron-embed-vl-1b-v2" target="_blank">Llama Nemotron Embed VL 1B V2</a></li> <li>Llama Embed Nemotron <a href="https://huggingface.co/datasets/nvidia/embed-nemotron-dataset-v1" target="_blank">資料集</a></li> <li><a href="https://build.nvidia.com/nvidia/build-an-enterprise-rag-pipeline" target="_blank">RAG Blueprint</a></li> </ul> </div> |
| 資料隱私與模型安全 | <a href="https://huggingface.co/collections/nvidia/nemoguard" target="_blank">NVIDIA Nemotron Safety </a><br><div class="nv-text"><ul><li><a href="https://huggingface.co/nvidia/Llama-3.1-Nemotron-Safety-Guard-8B-v3" target="_blank">Llama Nemotron Content Safety 8B V3 </a><ul><li><a href="https://huggingface.co/datasets/nvidia/Nemotron-Safety-Guard-Dataset-v3" target="_blank">資料集 </a></li></ul></li><li><a href="https://huggingface.co/nvidia/gliner-PII" target="_blank">Nemotron PII </a><ul><li><a href="https://huggingface.co/datasets/nvidia/Nemotron-PII" target="_blank">資料集 </a></li></ul></li><li><a href="https://huggingface.co/nvidia/Nemotron-Content-Safety-Reasoning-4B" target="_blank">Nemotron Content Safety Reasoning 4B </a><ul><li><a href="https://huggingface.co/datasets/nvidia/Nemotron-Content-Safety-Reasoning-Dataset" target="_blank">資料集</a></li></ul></li></ul></div> |
| 打造可在任何環境中安全運作、以您的資料為依據的客製化 AI 研究助理 | <a href="https://build.nvidia.com/nvidia/aiq" target="_blank">適用於企業搜尋的 NVIDIA AI-Q Blueprint</a> |
| 生成合成資料以訓練物理 AI <br><br>建置專門的世界動作模型 <br><br>開發用於智慧基礎架構分析與安全性的視覺 AI 代理<br><br>後期訓練<a href="https://www.nvidia.com/en-us/glossary/world-models/"></a>的世界模型,以進行推理或針對機器人或自駕車 (AV) 進行政策評估。 | <a href="https://www.nvidia.com/en-us/ai/cosmos/">NVIDIA Cosmos™ 3</a><br><br><a href="https://github.com/nvidia/Cosmos" target="_blank">Cosmos 框架</a> |
| 用於處理、分析及整理影片內容的影像策劃系統 | <a href="https://github.com/nvidia-cosmos/cosmos-curate" target="_blank">Cosmos Curator</a> |
| 使用視覺-語言-動作模型,實現自駕車感知、規劃與控制 | <a href="https://github.com/NVlabs/alpamayo" target="_blank">Alpamayo 1</a> |
| 推理型自駕車模型的閉迴路訓練與評估 | <a href="https://github.com/NVlabs/alpasim" target="_blank">AlpaSim</a> |
| 使用開放視覺-語言-動作模型,泛化機器人技能、推理與全身控制 | <a href="https://github.com/NVIDIA/Isaac-GR00T" target="_blank">NVIDIA Isaac™ GR00T N 模型</a> |
| <a href="https://www.nvidia.com/en-us/use-cases/video-analytics-ai-agents/">視覺 AI 代理</a>,用於分析大量錄製與直播影片內容 | <a href="https://build.nvidia.com/nvidia/video-search-and-summarization" target="_blank">適用於影像搜尋與摘要 (VSS) 的 NVIDIA Blueprint</a> |
| 開放式 AI 模型與工具,用於天氣與氣候應用,涵蓋全球預測、預測惡劣天氣、同化資料與縮小規模 | <a href="https://www.nvidia.com/en-us/high-performance-computing/earth-2/">NVIDIA Earth-2</a> |
| 生物學與藥物研發的開放模型、資料集與函式庫,例如生物基礎模型建置、分子設計、虛擬篩選、蛋白質結構預測與蛋白質結合劑設計 | <a href="https://github.com/NVIDIA-BioNeMo" target="_blank">NVIDIA BioNeMo™</a> |
並非所有的開放模型都是一樣的。 要評估的關鍵因素:
Artificial Analysis、Open LLM Leaderboard、Physics-IQ、Robolab、VANTAGE-Bench 等排行榜可為多種開放式大型語言模型提供標準化基準測試比較。
開放模型授權差異很大,並決定了您使用模型可以合法從事哪些用途。 常見類型包括:
將模型部署至正式環境或商業情境前,請務必先閱讀特定授權。 授權條款也可在模型版本之間變更。
當發佈內容包含訓練資料、方法或其他可檢查的產出物時,透明度可讓系統化安全性評估變得更切實可行。
評估與控制措施包括:
訓練資料與方法的透明度是開放模型的一項核心優勢,這使得系統化安全性評估比封閉系統更為可行。
可以,不過所需的投入程度取決於使用案例:
模型系列包含訓練方法、快速入門指南與預先建置部署配置,可減少開始部署所需的專業知識。
大部分組織兩者都採用。 開放模型與專有模型相輔相成,並根據最合適的任務選擇每個模型。
許多正式環境系統結合兩者,在客製化的開放模型與前沿模型之間進行路由;前者用於專業任務,後者則在其更廣泛的能力適合時派上用場。最佳架構取決於對控制、成本、資料隱私、延遲、準確度與效能的要求。
開源 AI 透過共享模型、資料集、基準測試、方法與社群協作而推動。NVIDIA 透過聯盟式工作支援這個生態系統,協助開發人員、企業與組織打造值得信賴且可客製的模型系統,並將 AI 轉化為差異化來源。
探索 NVIDIA Nemotron 開放式模型如何與尖端模型協同運作,以提供客製化且專業的 AI 功能,同時維持頂尖效能。
NVIDIA Cosmos 是具備開放式世界基礎模型 (WFM)、防護措施與資料處理函式庫的平台,可加速自駕車 (AV)、機器人與專用影像分析 AI 代理的模型客製。