讀完這篇文章,你將清楚開放權重模型的定義、它為何在 2026 年由開發者實驗走進企業生產環境,以及判斷機構是否應該採用的五個問題。
2026 年 10 月 19 日,Nvidia 發布 Nemotron 3.5 Super VL,一個專為企業 AI 代理而設、擁有 1,200 億參數的開放權重模型,用戶包括 EY、CrowdStrike 和 Salesforce。對營運總監和 IT 主管而言,問題已不再是開放模型夠不夠好,而是哪些工作應該交給它。
什麼是開放權重模型?
開放權重模型是指公開了訓練後參數(即權重)的 AI 模型,在授權條款容許下,企業可以下載、運行和調整,部署在自己的基礎設施或自選的服務商上。相反,閉源模型例如旗艦版 GPT 和 Claude,只能透過開發商的服務使用。
開放權重不等於開源。FullStack 的分析指出,開放權重只公開參數,有時附帶推理代碼;嚴格意義的開源還須提供研究和重建系統所需的材料與權利。
--- 閉源模型:透過 API 租用能力,版本、價格和數據處理由廠商決定。
--- 開放權重模型:在授權範圍內,自行決定運行位置、保留版本和調校方式。
為什麼開放權重模型在 2026 年進入企業主流?
因為它們現在能以極低成本處理大量日常企業工作。2026 年 8 月公布的數據顯示,開放模型承擔了接近三分之一的 token 用量,開支佔比卻不足 4%。AI 代理一項任務往往要調用模型數十次,這個成本差距會被進一步放大。
Constellation Research 分析 Vercel AI Gateway 數據後指出,開放權重模型的 token 佔比由 2026 年 4 月約 11% 升至 6 月的 29%,當時約每八個企業客戶就有一個在生產環境運行至少一個開放模型。
同年 6 月,開放模型佔 29% 用量但不足 4% 開支;Anthropic 則佔 32% 用量和 61% 開支。這與 「推理悖論」的道理一致:單價下降,總帳單卻可能上升。
企業實際上如何使用開放權重模型?
企業使用開放權重模型有三種方式:由託管推理服務商代為運行、部署在自己的雲端帳戶,或放在自有硬件上。大多數企業會由託管推理開始,因為它既提供模型選擇和較低成本,又不必自行管理 GPU、修補和擴容。
方式一:託管推理
服務商運行開放模型,你透過 API 調用。Constellation 認為,企業採用開放權重的速度會快於自建推理,原因正在於此。
方式二:自己的雲端帳戶
提示和輸出留在自己的環境,版本亦可固定,但穩定性和保安由你負責。
方式三:本地或終端設備
適合高度敏感的工作,但只有具備真正基建能力的機構才應以此為預設。
企業何時應選擇開放權重模型?
當工作量大而且定義清晰、數據控制或版本穩定比頂尖推理能力更重要,或需要用自家數據調校模型時,就應考慮開放權重模型。複雜推理、模糊任務以及出錯代價高昂的情況,仍應交給閉源前沿模型處理。
--- 工作類型:是重複性分類、擷取、摘要,還是開放式判斷?
--- 數據敏感度:提示和輸出是否必須留在自己的環境或地區?
--- 穩定性:是否需要在 12 至 24 個月內保持完全相同的模型表現以供審計?
--- 調校需要:用自家文件調校會否明顯改善結果?
--- 營運能力:是否有人能評估、保護和監察自行運行的模型?
三項或以上答「是」,可優先考慮經託管推理使用開放模型;一項或以下,暫時維持閉源 API 較為穩妥。
這對香港企業意味著什麼?
對香港企業而言,開放權重模型提供了一條不完全依賴單一海外廠商服務範圍、定價或地區政策的路徑。只要部署得當,它亦有助企業更嚴格地控制個人資料,配合《個人資料(私隱)條例》的要求。
多家美國前沿模型供應商並未把香港列為直接支援地區,不少本地企業要透過雲平台或集團合約使用。若在自選的雲端區域或數據中心運行開放模型,就能減少一層依賴。
模型來源亦成為決策的一部分。Constellation 指出,通義千問、DeepSeek 和 GLM 等中國模型系列正主導開放權重的發展步伐。董事會應同時考慮授權條款、來源和供應商政策。UD 對 AI 模型集中風險的分析解釋了為何多模型布局本身就是一種韌性措施。
開放權重模型如何融入多模型策略?
開放權重模型最適合作為多模型架構中的一層,由路由層把每項任務交給能勝任而成本最低的模型。前沿模型處理最難的推理,開放模型處理重複性的代理步驟,小型專用模型則負責分類和資料擷取。
關鍵控制點是路由層和評估數據集。UD 的 LLM 模型路由指南說明了如何設計這一層,確保節省成本的同時不犧牲質素。
企業使用開放權重模型最常犯哪些錯誤?
最常見的錯誤包括:把開放權重當作開源、忽略授權條款、以為自建一定更便宜、沒有用自家數據評估,以及下載未經核實來源的模型檔案。每一項都會把成本或控制上的優勢,轉化為新的風險。
忽略授權。部分授權對商業用途或使用規模設有限制,法律審查應在部署前完成。
以為自建更便宜。七成時間閒置的 GPU,成本可能高於託管 API。應比較每項完成任務的成本。
跳過評估。應以 200 至 500 個真實樣本測試,包括繁體中文和中英夾雜的內容。
開放權重模型要點速覽
--- 定義:公開訓練權重、可按授權下載和調整的模型。
--- 最新企業級發布:Nvidia Nemotron 3.5 Super VL,1,200 億參數,2026 年 10 月 19 日。
--- 採用訊號:2026 年 4 至 6 月,開放模型在 Vercel AI Gateway 的 token 佔比由約 11% 升至 29%。
--- 成本訊號:2026 年 6 月佔 29% 用量,開支不足 4%。
--- 建議路徑:先用託管推理,具備營運能力後才考慮自建。
開放權重模型的戰略重點是什麼?
開放權重模型已不再是開發者的玩具,而是正在成為大量企業 AI 工作的主力,前沿閉源模型則專注於高難度任務。致勝的關鍵不是選邊站,而是清楚哪些工作屬於哪一層,並保留隨時調整的自由。對香港企業來說,這份自由同時關乎韌性與數據控制。
懂AI,更懂你 UD相伴,AI不冷。
了解了框架,下一步是把你的工作負載對應到合適的模型層級。UD 團隊手把手帶你完成每一步,從工作負載評估、模型選型,到在香港安全部署及持續追蹤成效,28 年企業服務經驗,全程陪你走。
由 UD 企業 AI 團隊審閱。