開放模型是什麼?

開放模型 (open model) 是指發佈的 AI 模型,同時提供可公開存取的權重、資料或訓練方法,讓開發人員能檢查、客製並部署於自己的基礎架構。

開放模型如何運作?

任何 AI 模型的核心都是權重。 權重是模型在訓練過程中學習到的數值參數,決定了模型如何處理輸入並產生輸出。 在封閉模型中,這些權重仍屬於專有資產:使用者透過 API 或應用程式與模型互動,但無法下載、檢查或修改其內部結構。

開放模型讓部分或全部模型元件公開。 根據模型與授權,版本可能包括:

  • 模型權重:定義模型行為的訓練參數
  • 訓練資料:用於建置或客製模型的資料集
  • 訓練方法:生成模型的方法、超參數與程式碼
  • 評估資產:記錄效能與限制的基準測試與模型卡

哪些模型元件可開放?

模型材質 意義何在 為何重要
模型權重 塑造模型行為的訓練參數 讓團隊執行、檢查並自訂模型
訓練資料 用於訓練或客製化模型的資料集 協助團隊瞭解品質、覆蓋範圍與侷限性
訓練方法 建置模型的方法、程式碼與設定 支援可重現性與進一步自訂
評估資產 基準測試、模型卡與技術報告 協助比較品質、安全性、成本與契合度

存取模型權重,可讓開發人員更有效控制 AI 的客製、評估、最佳化與部署方式。 團隊可根據專用需求調整模型,並在可控制的基礎架構上執行模型,並保留隨著時間發展的能力與知識。

如何在專有模型與開放模型之間做出選擇?

大部分組織兩者都採用。 現代 AI 應用程式通常以模型系統的方式運作,並針對最合適的任務選擇各個模型。

決策因素 何時使用開放模型 何時使用專有模型
最佳契合度 您需要專門針對領域、工作流程、語言或模態的 AI。 您需要廣泛的推理、研究、內容整合或快速原型設計。
信任與控制 您需要更深入瞭解模型素材、行為、部署或治理。 託管模型符合您對安全性、隱私與支援的需求。
客製化 您需要利用企業資料、政策或工作流程,自訂模型。 對於任務而言,提示或配置已經足夠。
部署 您需要在私人環境、內部部署環境、邊緣端或低延遲環境執行 AI。 您希望供應商管理基礎架構、規模調整及更新。
成本與效能 您可以為重複的大量任務最佳化專門模型。 您需要在無須管理模型的情況下,立即存取尖端功能。

最佳的方法通常是混合式:可為特定任務使用客製開放模型,而專有模型則可用於通用功能。

這些術語相關,但不可互換。 傳統軟體的開源要求釋出研究、修改及重新發布系統所需的所有程式碼。完全開放的 AI 版本則包含權重、訓練資料、程式碼與說明文件。

許多模型描述為開放:釋出權重與有限的文件,並採用寬鬆授權條款,但並未分享完整的訓練資料集或程式碼。開放權重與開放模型這兩個術語更能精準反映實際可用的內容,以及開發人員可檢查、重製或調整的內容。

開放模型如何驅動各產業的 AI

觀看 NVIDIA 開放模型如何驅動全球最多元化的 AI 生態系統之一,涵蓋語言、視覺、生物、物理與自主系統。

快速連結

開放模型有哪些應用與使用案例?

開放模型廣泛應用於各產業,適用於開發人員需要掌控 AI 如何調適、在何處執行,以及處理哪些資料的場景。最高效的 AI 系統通常會結合為特定領域專用任務打造的開放模型,以及複雜推理的尖端模型,為每項工作挑選合適的模型。

開放模型通常透過 Hugging Face 與 GitHub 等平台提供,開發人員可藉此瀏覽、下載及分享模型權重、資料集與訓練程式碼。這些平台已成為開放模型生態系統的核心基礎架構,讓社群能快速採用並執行實驗。

專用 AI 代理

企業透過開放模型,打造專為特定領域客製的專用代理。 在法律服務方面,Harvey 根據法律基準測試對 NVIDIA Nemotron™ 3 Ultra 進行後期訓練,並達到頂尖的準確度,在複雜法律任務上的表現與主流封閉模型相當,同時執行成本降低至少 10 倍。

機器人技術與物理 AI

機器人與自動駕駛車輛等物理 AI 系統,需要能理解世界如何與時俱進的模型。 開放世界模型、精選資料集、基準測試與訓練方法可協助團隊模擬實際環境、在數位環境中測試具體化 AI,並在部署前為特定硬體客製模型。

醫療照護與生命科學

醫療照護與生命科學團隊透過開放模型,為生物學、化學、臨床研究與藥物研發工作流程客製專用的 AI 代理。代理程式可呼叫蛋白質結構預測、分子對接、生成式化學、基因組學分析、蛋白質設計與生物標誌物探索等工具,協助科學家蒐集證據、進行數位實驗,並決定下一步要測試什麼。

全球國家與研究

政府、研究機構與區域組織透過開放模型,打造適合特定語言、文化情境與地方治理框架的 AI。 YTL AI Labs 對 Nemotron 模型進行後期訓練,以馬來西亞文為該國提供在地化客製 AI,使其以自己的方式打造 AI。

電信業

電信供應商為客戶服務、現場維修與網路營運客製開放模型。 例如,AdaptKey 透過電信產業資料集微調 NVIDIA Nemotron 3 Nano,藉此提升電信專用推理任務的準確度。

趨勢分析與預測

開放式模型處理私有帳簿、預測資料與合約,使分析過程能精確地以組織內部的資料為依據。模型系統結合複雜的市場訊號與非結構化文字,例如新聞、SEC 申報與監管文件,從中挖掘趨勢、量化風險,並協助加速投資決策。

程式碼生成

模型系統透過大型上下文推理能力理解原始檔案、相依關係與相關任務,加速程式碼生成與審查。 開放式模型接著會彙整儲存庫並擷取結構化情境,讓前沿模型能大規模偵測問題、建議修正方式,並維持程式碼品質。

網路安全

安全團隊運用開放模型與開放式安全機制,檢查、客製,並在自己控制的基礎架構上執行 AI。 如此可擴展防禦能力,支援快速鑑識分析,同時保護敏感資料。

開放模型有哪些優勢?

信任

開放模型工件可進行稽核與測試。 團隊可驗證行為、辨識偏差,並將輸出結果與內部標準保持一致。

客製化

團隊可透過資料、工作流程與政策,客製開放模型。 這能協助企業為基礎受限或尚未建立基礎的領域打造專用 AI,涵蓋物理 AI、氣候預測與自駕車。

控制

開放模型可在私人基礎架構上執行。 敏感資料保存在企業、機構與研究團隊可控制的環境中。

效率與彈性部署

開放權重代表團隊可以將模型與適當的任務及成本配對。 然後便可將最佳化的工作負載部署至資料中心、雲端環境、工作站或邊緣裝置。

挑戰與解決方案

採用開放模型可帶來顯著優勢。 實作時,請留意這些注意事項。

技術專業能力需求

部署及微調開放模型,需要具備豐富的工程專業知識。 組織需要有能力管理訓練基礎架構、資料管線與模型評估的團隊。

解決方案

  • 從模型系列開始,包含訓練方法、快速入門指南與社群資源。
  • 若團隊需要部署而無須完整訓練工作流程,可使用 Coreweave、Nebius、Deepinfra 與 Baseten 等託管推論平台,以減輕營運負擔。

運算與基礎架構成本

大型模型後期訓練需要 GPU 資源,而大規模推論需要能滿足模型需求的硬體。

解決方案

  • LoRA 等參數高效微調方法可降低調整大型模型所需的運算能力。
  • 量化可縮小模型規模,以便部署於低成本硬體。 最佳化推論軟體可進一步降低每 token 的成本。

安全與治理

開放模型權重需要像任何 AI 技術一樣,精心打造的防護機制。 這些風險並非開放系統所獨有的。 安全性取決於完整的專用 AI 堆疊。 這包括身分識別、權限、隔離、測試框架、防護機制、日誌記錄與評估。

解決方案

  • 模型卡與負責任的使用準則可協助團隊在部署前瞭解模型的侷限性。
  • 可在基礎模型之上安裝安全分類器與防護機制模型,以執行內容政策。

授權與法規遵循清晰度

開放模型授權多種多樣,有些限制商業用途,有些限制修改後權重的重新分配,且不同模型版本的條款可能有所變更。

解決方案

  • 部署前,請仔細查看模型授權。
  • 優先考慮那些發佈清晰且寬鬆授權的模型系列,並明確列出商業用途與微調條款。

適用於開發的開放式技術類型

開放模型生態系統包括 Mistral、Sarvam 與 NAVER Cloud 等公司打造的模型;LangChain、Hermes Agent 與 OpenClaw 等社群工具;WideLabs、Pleias 與 FPT Corporation 的資料集;以及協助團隊打造、客製、評估及部署 AI 的其他開放技術。

NVIDIA 將開放模型最佳化,讓模型更快速、更輕鬆且更可靠地部署至正式環境。 NVIDIA NIM™ 支援 NVIDIA 自建模型及社群自建模型,具備加速推論、可移植性,並可在雲端、資料中心、工作站與邊緣環境中進行企業就緒部署。

這些資源結合在一起,可讓開發人員、企業與國家政府在代理 AI、物理 AI、機器人技術、生命科學與自主系統領域擁有更多選擇。

NVIDIA Open Technologies

此 AI 生態系統包含數百種頂尖的開放式模型、資料集與藍圖,適用範圍涵蓋代理 AI、物理 AI、機器人技術與自駕車。

專門任務 開放技術範例
用於解決複雜問題、編寫程式碼、推理與數學的推理 <a href="https://huggingface.co/collections/nvidia/nvidia-nemotron-v3" target="_blank">NVIDIA Nemotron 3</a>
語音 <a href="https://huggingface.co/collections/nvidia/nemotron-speech" target="_blank">NVIDIA Nemotron Speech</a><br> <div class="nv-text"><ul><li><a href="https://huggingface.co/nvidia/nemotron-speech-streaming-en-0.6b" target="_blank">Nemotron Speech Streaming EN 0.6B</a></li> <li><a href="https://huggingface.co/collections/nvidia/parakeet-asr" target="_blank">NVIDIA Parakeet ASR 模型</a></li> <li><a href="https://huggingface.co/collections/nvidia/canary-asr-ast" target="_blank">NVIDIA Canary 多任務、ASR/NMT 模型</a></li> <li><a href="https://huggingface.co/nvidia/magpie_tts_multilingual_357m" target="_blank">NVIDIA Magpie TTS 多語言</a></li> <li><a href="https://huggingface.co/datasets/nvidia/Granary" target="_blank">Granary 資料集</a></li></ul></div>
多模態檢索增強生成 (<a href="https://www.nvidia.com/en-us/glossary/retrieval-augmented-generation/">RAG</a>) <a href="https://huggingface.co/collections/nvidia/nemotron-rag" target="_blank">NVIDIA Nemotron RAG</a><br> <div class="nv-text"><ul><li><a href="https://huggingface.co/nvidia/llama-nemotron-rerank-vl-1b-v2" target="_blank">Llama Nemotron Rerank VL 1B V2</a></li> <li><a href="https://huggingface.co/nvidia/llama-nemotron-embed-vl-1b-v2" target="_blank">Llama Nemotron Embed VL 1B V2</a></li> <li>Llama Embed Nemotron <a href="https://huggingface.co/datasets/nvidia/embed-nemotron-dataset-v1" target="_blank">資料集</a></li> <li><a href="https://build.nvidia.com/nvidia/build-an-enterprise-rag-pipeline" target="_blank">RAG Blueprint</a></li> </ul> </div>
資料隱私與模型安全 <a href="https://huggingface.co/collections/nvidia/nemoguard" target="_blank">NVIDIA Nemotron Safety </a><br><div class="nv-text"><ul><li><a href="https://huggingface.co/nvidia/Llama-3.1-Nemotron-Safety-Guard-8B-v3" target="_blank">Llama Nemotron Content Safety 8B V3 </a><ul><li><a href="https://huggingface.co/datasets/nvidia/Nemotron-Safety-Guard-Dataset-v3" target="_blank">資料集 </a></li></ul></li><li><a href="https://huggingface.co/nvidia/gliner-PII" target="_blank">Nemotron PII </a><ul><li><a href="https://huggingface.co/datasets/nvidia/Nemotron-PII" target="_blank">資料集 </a></li></ul></li><li><a href="https://huggingface.co/nvidia/Nemotron-Content-Safety-Reasoning-4B" target="_blank">Nemotron Content Safety Reasoning 4B </a><ul><li><a href="https://huggingface.co/datasets/nvidia/Nemotron-Content-Safety-Reasoning-Dataset" target="_blank">資料集</a></li></ul></li></ul></div>
打造可在任何環境中安全運作、以您的資料為依據的客製化 AI 研究助理 <a href="https://build.nvidia.com/nvidia/aiq" target="_blank">適用於企業搜尋的 NVIDIA AI-Q Blueprint</a>
生成合成資料以訓練物理 AI <br><br>建置專門的世界動作模型 <br><br>開發用於智慧基礎架構分析與安全性的視覺 AI 代理<br><br>後期訓練<a href="https://www.nvidia.com/en-us/glossary/world-models/"></a>的世界模型,以進行推理或針對機器人或自駕車 (AV) 進行政策評估。 <a href="https://www.nvidia.com/en-us/ai/cosmos/">NVIDIA Cosmos&trade; 3</a><br><br><a href="https://github.com/nvidia/Cosmos" target="_blank">Cosmos 框架</a>
用於處理、分析及整理影片內容的影像策劃系統 <a href="https://github.com/nvidia-cosmos/cosmos-curate" target="_blank">Cosmos Curator</a>
使用視覺-語言-動作模型,實現自駕車感知、規劃與控制 <a href="https://github.com/NVlabs/alpamayo" target="_blank">Alpamayo 1</a>
推理型自駕車模型的閉迴路訓練與評估 <a href="https://github.com/NVlabs/alpasim" target="_blank">AlpaSim</a>
使用開放視覺-語言-動作模型,泛化機器人技能、推理與全身控制 <a href="https://github.com/NVIDIA/Isaac-GR00T" target="_blank">NVIDIA Isaac&trade; GR00T N 模型</a>
<a href="https://www.nvidia.com/en-us/use-cases/video-analytics-ai-agents/">視覺 AI 代理</a>,用於分析大量錄製與直播影片內容 <a href="https://build.nvidia.com/nvidia/video-search-and-summarization" target="_blank">適用於影像搜尋與摘要 (VSS) 的 NVIDIA Blueprint</a>
開放式 AI 模型與工具,用於天氣與氣候應用,涵蓋全球預測、預測惡劣天氣、同化資料與縮小規模 <a href="https://www.nvidia.com/en-us/high-performance-computing/earth-2/">NVIDIA Earth-2</a>
生物學與藥物研發的開放模型、資料集與函式庫,例如生物基礎模型建置、分子設計、虛擬篩選、蛋白質結構預測與蛋白質結合劑設計 <a href="https://github.com/NVIDIA-BioNeMo" target="_blank">NVIDIA BioNeMo&trade;</a>

開放模型常見問答集

並非所有的開放模型都是一樣的。 要評估的關鍵因素:

  • 與任務相關的基準測試表現 (例如推理、程式碼編寫、多語言、特定領域)
  • 授權條款 — 是否允許商業用途、微調與重新發行
  • 相對於可用基礎架構的模型規模與硬體需求
  • 附帶文件的品質:模型卡、訓練詳細資訊與已知限制
  • 社群採用與維護率:活躍的儲存庫與清晰的版本控制代表模型獲得良好支援

Artificial Analysis、Open LLM Leaderboard、Physics-IQ、Robolab、VANTAGE-Bench 等排行榜可為多種開放式大型語言模型提供標準化基準測試比較。

開放模型授權差異很大,並決定了您使用模型可以合法從事哪些用途。 常見類型包括:

  • OpenMDW 1.1:專為機器學習模型打造的寬鬆授權,實現 AI 模型發行中所有組件的開放性、一致性與清晰度
  • Apache 2.0:寬鬆;允許商業用途、修改與重新發行,但需註明出處
  • MIT:同樣寬鬆;限制最小
  • 客製研究或社群授權:可能限制商業用途、大規模部署時需要簽署特殊協議,或禁止特定應用

將模型部署至正式環境或商業情境前,請務必先閱讀特定授權。 授權條款也可在模型版本之間變更。

當發佈內容包含訓練資料、方法或其他可檢查的產出物時,透明度可讓系統化安全性評估變得更切實可行。

評估與控制措施包括:

  • 請參閱模型卡,瞭解已知風險、偏差評估與預期使用案例。
  • 在部署前,針對特定領域的輸入執行自有的紅隊測試與安全評估。
  • 在基礎模型之上添加安全分類器與防護機制模型,執行內容與行為政策。
  • 建立模型版本控制、監控及重新驗證的治理流程,以因應模型更新。

訓練資料與方法的透明度是開放模型的一項核心優勢,這使得系統化安全性評估比封閉系統更為可行。

可以,不過所需的投入程度取決於使用案例:

  • 僅推論 (無模型客製):這是最低的入門障礙;許多開放模型可在本機或低階雲端硬體上執行,並使用 Ollama 或 llama.cpp 等工具。
  • 透過提示式客製:無需重新訓練,而可透過精心設計的系統提示,適用於多種業務任務。
  • 進階客製:微調需要更多機器學習專業知識與運算能力,但參數高效的方法 (LoRA、QLoRA) 可大幅降低資源閾值。

模型系列包含訓練方法、快速入門指南與預先建置部署配置,可減少開始部署所需的專業知識。

大部分組織兩者都採用。 開放模型與專有模型相輔相成,並根據最合適的任務選擇每個模型。

  • 在最需要信任、控制與客製功能時,請使用開放模型。例如:調整金融工作流程模型、將醫療照護模型部署至私人環境,或在邊緣執行即時製造專用模型。
  • 透過專有模型,可立即存取託管式的通用功能,例如:廣泛研究、內容合成、複雜的跨領域推理,或快速應用程式原型設計。

許多正式環境系統結合兩者,在客製化的開放模型與前沿模型之間進行路由;前者用於專業任務,後者則在其更廣泛的能力適合時派上用場。最佳架構取決於對控制、成本、資料隱私、延遲、準確度與效能的要求。

後續步驟

瞭解社群如何共同推動開源技術的發展

開源 AI 透過共享模型、資料集、基準測試、方法與社群協作而推動。NVIDIA 透過聯盟式工作支援這個生態系統,協助開發人員、企業與組織打造值得信賴且可客製的模型系統,並將 AI 轉化為差異化來源。

深入瞭解 NVIDIA Nemotron

探索 NVIDIA Nemotron 開放式模型如何與尖端模型協同運作,以提供客製化且專業的 AI 功能,同時維持頂尖效能。

探索 NVIDIA Cosmos

NVIDIA Cosmos 是具備開放式世界基礎模型 (WFM)、防護措施與資料處理函式庫的平台,可加速自駕車 (AV)、機器人與專用影像分析 AI 代理的模型客製。