開放權重 AI 模型究竟是什麼?這裡問的不是上星期佔據科技版面的政策爭論,而是底下那條更實際的問題:世上是否真有一種 AI,你可以直接下載、放在自己的電腦上運行,然後從此不用再付月費?
簡短的答案是:有。較長的答案,是關於錢躲在哪裡。
什麼是開放權重 AI 模型?
開放權重 AI 模型,是指開發者把訓練完成的參數(即「權重」)公開讓任何人下載的模型。你可以放在自己的硬件上運行、檢視它、改造它。它不是一個讓你登入使用的聊天機器人,而是一台引擎,出貨時沒有連車身一起給你。
所謂權重,本質上只是一個極大的數字檔案。這些數字就是模型在訓練過程中學到的全部內容。把權重交給別人,等於把一個已經完成的大腦交了出去。
以餐廳作比喻。封閉模型是一道菜:你點菜,廚房始終不對外開放,你按碟計錢。開放權重模型則是有人在門口把食譜和材料清單交給你。你確實掌握了做法,但你依然需要一個廚房、一個廚師,以及煤氣。
有一個名詞必須分清。開放權重不等於開放原始碼。絕大部分發布只公開權重,訓練數據與完整訓練程式碼通常仍然保密。
開放權重模型和免費版聊天機器人有什麼不同?
免費版聊天機器人是一個有用量上限的託管服務;開放權重模型是一個由你自己託管的檔案。用免費聊天機器人,伺服器、日誌與開關掌握在供應商手上。用開放權重,這三樣都歸你,連電費和那位負責維護的同事也一併歸你。
對老闆而言,真正有分別的有三點:
--- 誰掌握你的數據。託管服務會把你的文字傳送到供應商那邊;放在自己機器上的模型,資料根本不會離開房間。
--- 誰有權改動它。託管模型可以按供應商的時間表更新或下架;已下載的模型三年後的行為與今天完全一樣,因為它只是一個放在你硬碟上的檔案。
--- 成本落在哪裡。託管服務按使用量計費;自行託管無論你用不用都要每月付錢,因為硬件本來就在那裡。
如果你想進一步了解「AI 跑在自己機器上」與「跑在別人的數據中心」這個分別,可參考我們關於本地 AI 的指南。
為什麼開放權重模型在 2026 年重新成為新聞?
2026 年 7 月 27 日,Anthropic 發表立場文件,行政總裁 Dario Amodei 明確表示公司「從未主張禁止開放權重模型」,並指「不具備危險能力的開放權重模型是一種公共財」。這番話之所以成為新聞,是因為外界一直假設情況剛好相反。
Amodei 提出兩項憂慮。第一,威權政府可能建立超越美國水平的模型用於軍事或監控用途,而在這種情況下權重是否公開並不重要,因為最危險的模型本來就會在保密狀態下訓練。第二,惡意行為者可能濫用強大模型進行網絡攻擊或生物攻擊。
他沒有主張禁令,而是提出三項措施:打擊工業規模的模型蒸餾行為、對開放與封閉模型一律實施強制安全測試,以及收緊晶片管制。
老闆為什麼要理一份政策文件?因為「有沒有好的模型可以下載」既是技術問題,也是政治問題。如果你把日常流程建在一個下載回來的模型之上,授權條款與出口政策就成為你自己風險清單上的項目,而不再是別人的事。
而 2026 年的實際情況是:可下載這一層的水準確實相當高。MindStudio 對 DeepSeek V4 的評測,把它在代理式任務基準上的分數,與 GPT-5.5 及 Claude Opus 4.7 並列。Google 的 Gemma 4 以 Apache 2.0 授權發布;Mistral 大部分產品線與阿里巴巴 Qwen 系列不少模型同樣採用 Apache 2.0。
自己運行一個開放權重模型,實際要花多少錢?
按每個 token 計算很便宜,但以中小企的用量計算,每月成本卻很貴。一項公開分析指出,若與價格較低的開放權重 API 比較,單張 H100 GPU 的收支平衡點約為每月 57 億個 token。若對手是每百萬 token 約 5 美元的 GPT-5 級別 API,另一項估算把交叉點放在每月約 2.56 億個 token,而且前提是 GPU 使用率長期維持在六至七成。
這些數字要換算成你自己的業務才有意義,所以直接換算一次。
一百萬個 token 大約相當於 75 萬個英文字。一家香港零售商每月處理 2,000 次客戶對話,每次約 1,500 個 token,總共約 300 萬個 token。這只是較低那個交叉點的百分之一多一點,而相對較高的那個交叉點,比例甚至不足千分之一。
換句話說,一般中小企幾乎永遠不會達到「自己買硬件比租用服務更便宜」的用量。若你想看清 token 的計算方法,我們關於 AI token 的說明文章有完整推演。
不過有一個重要例外,關鍵在模型體積。NVIDIA Research 估算,在構成大部分代理式工作負載的重複而狹窄的任務上,運行一個 70 億參數模型,在延遲、能耗與運算成本上比 700 億至 1,750 億參數模型便宜約 10 至 30 倍。體積較小的可下載模型在本地運行時,回應時間為 50 至 200 毫秒,而雲端模型往往需要數百毫秒。Gartner 預期到 2027 年,企業對小型、專門任務模型的使用量將是大型模型的三倍。
所以誠實的說法不是「開放權重更便宜」,而是「一個小型、專門、可下載的模型,在某一項特定的高用量任務上可以便宜非常多」。
香港中小企可以合法商業使用這些模型嗎?
大部分情況可以,但授權條款比基準分數重要得多。Apache 2.0 與 MIT 授權幾乎沒有附加條件地允許商業使用。Meta 的 Llama 4 社群授權雖然允許商業使用,卻附帶可接受使用政策、命名要求,以及一條超過即須另行議約的門檻。
你會遇到的三大授權類別:
--- Apache 2.0。幾乎任何用途都可自由使用、修改與分發。Google Gemma 4、Mistral 大部分產品線與不少 Qwen 模型屬於此類,是商業部署上法律確定性最高的選擇。
--- MIT。同樣寬鬆。DeepSeek-R1 與 Microsoft Phi 系列採用 MIT 授權。
--- 社群授權。Meta 的 Llama 4 社群授權允許商業使用,但任何衍生模型的名稱必須以「Llama」開頭,並須在產品文件中標示「Built with Llama」;月活躍用戶超過 7 億的商業使用,則須與 Meta 另行議定授權。
還有一點對香港營運者特別重要,就是數據所在地。「把模型權重放在自己機器上運行」與「呼叫該模型的託管 API」是兩回事。DeepSeek 的託管 API 由中國營運,對受監管或跨境業務而言會引伸數據所在地的問題;但下載同一份開放權重自行託管,就完全避開了這一點。
無論你選哪條路,根據香港《個人資料(私隱)條例》,你依然是收集及處理個人資料的資料使用者,責任不會因為模型的授權條款而轉移。以上屬一般資訊而非法律意見,任何重要決定應交由專業顧問審視。
關於「免費 AI」,大家最常誤解什麼?
談這個題目時,以下四個誤解幾乎每次都會出現,而每一個都讓某些人付過真金白銀。
誤解一:開放權重等於免費。免費的是授權。GPU、電費、監控,以及晚上九點負責修好它的那個人,都不免費。要編的預算是整套技術棧,不是那個下載檔案。
誤解二:開放權重等於私密。只有在你自行託管的情況下才成立。若你透過別人的託管 API 呼叫一個開放權重模型,那與使用任何其他供應商的信任問題完全一樣,因為你的文字依然離開了公司。
誤解三:開放權重與開放原始碼是同一件事。大部分發布只公開完成後的權重,訓練數據與完整訓練流程仍然保密。你可以運行和改造模型,卻無法審核它是怎樣被造出來的。
誤解四:可以下載的一定是次等貨。這個說法已經失效。獨立評測者現時把最頂尖的可下載模型,與近期的前沿發布並列在代理式任務基準上。真正剩下的差距在於支援、整合與問責,而不是原始能力。
什麼情況下,開放權重模型才適合中小企?
有三種情況,而「為了省下聊天機器人的月費」不在其中。開放權重真正發揮價值的時候,是數據絕對不可離開公司、某一項狹窄任務的用量極高,或者你需要一個不會在你腳下被改動或下架的模型。
一個具體例子。觀塘一家 11 人的物流公司,每月處理約 4,000 張派貨單,每張都是同事用手機拍的照片,上面有客戶姓名、地址與手機號碼。公司只需要抽取資料,完全不需要對話。這種情況很適合在一台放在公司的機器上跑一個小型可下載模型:任務狹窄、用量高,而且個人資料從不離開辦公室。
同一家公司的兩位銷售同事,每天要撰寫十幾份中英文報價。這部分工作反而應該交給託管服務:用量微不足道、對質素要求高,而且沒有人願意為了報價寫得好看而去維護一台伺服器。
同一家公司,兩個不同的正確答案。實際情況通常就是這樣。
下載任何東西之前,先問自己五條問題:
--- 說出那一項任務。如果你無法用一句話描述它,你還未到選模型的階段。
--- 計算每月 token 用量。把每月互動次數乘以約 1,500 個 token,再與上文的交叉點比較。
--- 把整套成本計清楚。硬件或雲端實例、儲存、監控,以及負責維護那位同事的工時。
--- 先讀授權,才看分數。一個分數高兩分但附帶命名義務的模型,在商業上是較差的選擇。
--- 寫下負責人的名字。星期二早上它突然停止運作時,由誰負責?如果這一欄是空白的,就選託管服務。
結論
開放權重模型在 2026 年是一個真實的選項,而且比大多數老闆想像的好得多。但它不是一條讓你不用再為 AI 付錢的路。帳單只是搬了位置:由一張你可以隨時取消的月結單,搬到你無法取消的硬件與人力上。
對大部分香港中小企來說,合理的立場是混合式的。多變、低用量、需要判斷力的工作,租用託管服務;某一項重複、高用量、涉及敏感資料而且長期不變的工序,才考慮小型可下載模型。逐項任務去決定,不要按立場去決定。
如果這整個題目仍然讓你覺得是「有伺服器房的人才需要煩」的事,那是合理的反應,不是你的不足。懂AI,更懂你 UD相伴,AI不冷
不確定哪條路適合你的公司?
大部分老闆其實不需要一個關於開放權重的結論。他們需要知道的是:自己手上哪一項工序已經適合交給 AI,哪一項現階段根本不值得碰。這正是 AI 體檢要回答的問題,而我們會手把手教你,由第一次評估到真正上線運作,全程陪你走每一步。
本文由 UD AI 團隊審閱。UD 已陪伴香港企業走過 28 年的科技路。