為什麼同一間公司推出的兩個 AI 模型,價錢可以相差十倍,便宜的那個卻能把大部分客戶問題答得同樣好?答案來自一種叫「模型蒸餾」的訓練方法。2026 年,它更成為 AI 業界爭議最大的話題之一。
什麼是 AI 模型蒸餾?
AI 模型蒸餾是指用一個大型、昂貴的 AI 模型(「老師」)去訓練一個較小、較便宜的模型(「學生」)。學生反覆學習老師的答案,直至能夠準確模仿。結果是一個保留老師大部分能力、但運行更快、成本更低的模型。
想像一位做了三十年的燒味師傅帶徒弟。徒弟不會讀懂師傅腦中的全部經驗,而是看着師傅斬了上萬隻燒鵝,然後照着做。幾個月後,徒弟未必能創出新菜式,卻能又快又穩地做出店裡最暢銷的幾款。
模型蒸餾如何運作?
蒸餾通常分三步:先向大型老師模型提出大量問題,收集它的回答,再訓練小型學生模型重現這些回答。新一代的做法還會抄錄老師寫出的推理步驟,讓學生學到的不只是答案,而是整個解題過程,效果因此大幅提升。
早期最著名的例子是 Hugging Face 在 2019 年推出的 DistilBERT。它把 Google BERT 模型的體積縮小近一半,速度快約 60%,在標準測試中仍保留約 97% 的表現。
為什麼 2026 年 AI 公司會為蒸餾爭吵?
爭議的核心是「未經許可」。對手可以開設數以萬計的帳戶,向頂尖模型提出數以百萬計的問題,再用這些答案訓練自己的模型。2026 年,Anthropic、OpenAI 和美國政府機構先後公開指控,這種做法已達工業規模。
--- 2026 年 2 月:Anthropic 指 DeepSeek、Moonshot AI 和 MiniMax 透過約 24,000 個虛假帳戶,與 Claude 進行了超過 1,600 萬次對話。
--- 2026 年 9 月 8 日:美國網絡安全及基礎設施安全局發出 AA26-251A 號公告,點名六間中國 AI 公司,但同時承認蒸餾本身是正當且有用的研究技術。
--- 2026 年 10 月 1 日:據 The Hacker News 報道,OpenAI 披露它截停了一次在 7 月 24 及 25 日達到高峰的行動,當時有超過 4,000 個用戶發出 16,000 次提取請求。Moonshot AI 一直否認同類指控。
你其實已經在用哪些小型模型?
如果你用過熱門 AI 工具的「mini」、「flash」、「lite」或「haiku」版本,你已經用過蒸餾技術最常服務的那類小型快速模型。它們專門處理摘要、分類、草擬回覆等短而重複的工作,價錢只是旗艦模型的一小部分。
價差非常明顯。Anthropic 在 2026 年 10 月 7 日推出的 Claude Haiku 5.5,按第三方報道,十萬個 token(AI 計算文字的單位)以內的輸入價為每百萬 token 0.10 美元、輸出價 0.50 美元,只是上一代 Haiku 4.5 的十分之一。
換算成港幣是多少?
假設一間網店每月要讓 AI 把 10,000 則 WhatsApp 和電郵分為「訂單」、「投訴」、「送貨查詢」和「垃圾訊息」。以每則約 500 個輸入 token 和 100 個輸出 token 計算,舊價約每月 78 港元,新價則不足 8 港元。即使部分評測指新版計算方式會多出約三成 token,成本仍然極低。哪些工作適合交給它,可參考我們的 Claude Haiku 5.5 任務指南。
老闆對小型模型最常有哪些誤解?
最常見的三個誤解是:以為小模型樣樣都差、以為便宜模型都是偷回來的,以及以為自己蒸餾一個 ChatGPT 就能省錢。每一個誤解都會導致錯誤的採購決定,不是為簡單工作付出過高價錢,就是承擔本來不必要的法律和安全風險。
誤解一:「小就是差」
處理複雜合約審閱這類高難度工作,小模型確實較弱;但標籤查詢、草擬標準回覆這類重複工作,客人通常完全察覺不到分別。用旗艦價錢做這些事,就像請大廚洗菜。
誤解二:「蒸餾等於盜用」
大部分蒸餾都是 AI 公司在自家模型上合法進行的。2026 年的爭議針對的,是用虛假帳戶、違反服務條款去提取別人模型的做法。
誤解三:「自己蒸餾就不用再付費」
主要 AI 供應商的服務條款都禁止用其輸出訓練競爭模型。即使撇除法律風險,訓練和維護自家模型也需要工程師和伺服器。對絕大部分中小企而言,向可靠供應商購買平價版本便宜得多。
中小企應該如何在大模型與小模型之間選擇?
按工作性質選模型,而不是按品牌選。把重複、大量的工作交給便宜的小模型,把複雜或高風險的工作留給旗艦模型,並在決定前用自己的真實個案測試兩者。如果是來歷不明的低價模型,也要先查清楚它從何而來、數據存放在哪裡。
--- 列出工作:寫下你用 AI 處理的每項工作,例如回覆查詢、撰寫產品描述、整理會議紀錄。
--- 分類難度:把每項標為「例行」或「需要判斷」,凡涉及金錢或法律風險的都屬後者。
--- 二十題測試:把同樣二十個真實個案分別交給小模型和大模型。若是例行工作而你分不出高低,就用小模型。
--- 保障客戶資料:無論用哪個模型,《個人資料(私隱)條例》同樣適用,傳送客戶姓名和電話前,先確認對話存放在哪裡。
關於模型蒸餾的常見問題
以下是香港老闆最常問的幾個問題:蒸餾是否合法,以及中小企是否需要訓練自己的模型。每個答案都可獨立閱讀,方便你按需要快速查找。
模型蒸餾合法嗎?
合法。蒸餾是標準的研究技術,AI 公司每天都在自家模型上使用。供應商反對的,是未經許可、以虛假帳戶提取其模型去訓練對手產品。
中小企需要訓練自己的模型嗎?
幾乎不需要。現成的小模型配合清晰指示和幾個你自己的回覆範例,已足以應付大部分中小企工作。
總結:蒸餾讓強大的 AI 變得負擔得起
蒸餾正是強大 AI 能便宜到連十人小店都用得起的原因:大模型負責昂貴的學習,小模型以極低成本處理你的日常請求。2026 年的新聞爭議關乎許可,而不是小模型好不好用。
對老闆來說,重點很簡單:不要再用旗艦價錢做例行工作,用自己的個案測試平價版本,並選擇來歷和數據條款都清楚的供應商。懂AI,更懂你 UD相伴,AI不冷,選對模型的關鍵,從來是了解自己的生意。
由 UD AI 團隊審閱。
不確定生意中每項工作該用哪個 AI 模型或工具?瀏覽 UD AI 目錄,UD 團隊手把手教你,由區分例行與高風險工作,到為每項工作配對可靠的工具,全程陪你走每一步。