Gartner 最新預測揭示了一個令不少財務團隊意外的事實:AI 的每個 Token 越來越便宜,每項任務卻越來越貴。Gartner 在 2026 年 8 月發表的報告指出,儘管單價持續下跌,每個 Agentic 流程的推理成本在 2028 年前仍將上升超過五倍。
這正是許多香港企業近月在帳單上看到的情況:試點時成本看似可控,一進入正式營運便明顯失控。本文會定義 AI FinOps,解釋 AI 開支為何與傳統雲端開支截然不同,並提供一個可以直接帶進預算會議的四層框架。
什麼是 AI FinOps?
AI FinOps 是一套讓 AI 開支變得可見、可歸屬、可問責的管理方法。它把雲端財務管理的做法延伸至 Token、模型調用、GPU 算力與 AI 訂閱,令每一元 AI 成本都能追溯至具體團隊、流程與業務成果,再按成果優化。
這個概念源自雲端 FinOps。十年前,企業發現沒有人能解釋雲端帳單的來龍去脈,於是發展出一套財務與技術協作的管理方法。AI 以更快、更分散的方式重演了同一個問題。
今天,AI 成本同時從幾個入口湧入:
--- 模型 API 用量:按每百萬輸入及輸出 Token 計費,重複內容可享快取折扣。
--- 座位訂閱:各類 AI 助手按用戶按月收費。
--- 基礎設施:GPU 算力、向量資料庫、嵌入、編排及日誌記錄。
--- 內嵌 AI:SaaS 工具內的 AI 功能,多以點數或附加模組形式計入部門預算。
根據 FinOps Foundation 的 State of FinOps 2026 報告,98% 的從業者已在主動管理 AI 成本,2025 年只有 63%,2024 年更只有 31%。AI 成本管理亦是這些團隊未來 12 個月最想補強的能力。
為什麼 Token 越來越便宜,AI 帳單卻越來越貴?
單價下跌,但用量上升得更快。Gartner 稱之為「推理悖論」:便宜的 Token 推動企業採用更複雜的 Agentic 流程,AI 需要反覆推理、調用工具、自我檢查。Gartner 預計至 2028 年,每個 Agentic 流程的推理成本將上升超過五倍。
單價的確在下跌。2026 年 9 月發布的多個前沿模型,都延續了下調 Token 及快取讀取價格的趨勢。Gartner 另外預測,到 2030 年,服務商運行萬億參數模型的推理成本將比 2025 年低 90% 以上。
問題在於用量。聊天機械人讀取問題、給出答案便完成任務;AI Agent 則要規劃、調用工具、閱讀結果、檢查自己的工作,甚至重新嘗試。Gartner 2026 年 8 月的分析指出,把任務交給 Agentic 推理模型,推理成本至少是基本聊天互動的五倍,任務越複雜,倍數越高。
對營運總監而言,結論十分直接:價目表下調,並不代表帳單會減少。
企業內部應由誰負責 AI 成本?
應由一位具名高層統一問責,技術團隊掌握模型選用與路由等槓桿,財務團隊掌握可視性與單位經濟。Harness 調查發現 52% 的機構沒有明確的 AI 成本負責人,結果是帳單暴漲無人能解釋,政策形同虛設。
Harness《2026 State of AI in FinOps》訪問了五個國家共 700 位工程及 FinOps 主管,結果顯示缺乏問責的代價:
--- 72% 在過去一年遭遇過意料之外的 AI 帳單暴漲,33% 更不止一次。
--- 假如開支一夜倍增,只有 20% 能在數小時內找出原因。
--- 受訪者估計 26% 的 AI 開支屬於浪費。
--- 只有 26% 擁有可靠方法衡量 AI 開支的商業價值。
實踐中行之有效的分工是:技術或平台團隊負責模型閘道、路由規則與預算上限;財務團隊負責統一視圖與單位經濟;再由一位高層,通常是營運總監或數碼轉型主管,就兩者向董事會負責。
AI 成本儀表板應該量度什麼?
重點是每單位業務成果的成本,而非總開支。例如每宗已解決查詢、每份已處理文件、每個已完成流程的成本,再配合每項任務的 Token 用量、模型組合、快取命中率,以及被取代的人手流程成本作對照。
Token 帳單翻倍而處理量增加三倍,是好消息;帳單不變而處理量下跌,才是壞消息。只有單位成本能告訴你眼前是哪一種情況。
值得放在管理層面前的指標包括:
--- 每單位成果成本:每宗已解決查詢、每張已處理發票、每份已起草報告。
--- 每項任務 Token 用量:數字持續上升,往往代表提示詞膨脹或 Agent 陷入循環。
--- 模型組合:前沿、中階與小型模型各自承擔的工作比例。
--- 快取命中率:重複內容只按正常輸入價格的一小部分計費。
--- 人手基線:AI 接手前,該流程的全部人手成本。
AI FinOps 四層框架是什麼?
四層分別是:看得見、分得清、管得住、用得精。先建立統一的 AI 開支視圖,再把成本標記到團隊與流程,然後在開支發生前設定預算、門檻與審批規則,最後把工作分派給符合質量要求的最低成本模型。四層環環相扣,次序不能倒轉。
第一層:看得見。把 API 發票、座位授權、雲端 GPU 費用和 SaaS 內的 AI 附加模組整合成一個視圖。大多數機構都會在意想不到的預算中發現 AI 開支,由市場推廣工具到人力資源平台都有。
第二層:分得清。所有模型調用都經過一個閘道,並為每個請求標記團隊、應用及流程。沒有標記,任何關於優化的討論都會變成「這筆錢算誰的」的爭論。
第三層:管得住。為每個流程設定每月上限、為每項任務設定 Token 門檻,在預算用到 70% 及 90% 時發出警報,並規定 Agent 在超出開支上限前必須交由真人審批。治理的目的是在帳單出現之前攔截問題,而不是事後解釋。
第四層:用得精。建立三級模型政策:前沿模型處理複雜推理,中階模型處理一般工作,小型或開源模型處理大量例行任務,再配合提示詞快取、精簡上下文及輸出長度限制。Gartner 稱之為「推理分層」,並視之為保障利潤的關鍵。
香港企業實際上如何推行 AI FinOps?
由一個高頻流程開始,例如保險理賠分流或客戶查詢,為它計算出「每單位成果成本」。然後與人手基線比較,設定每月上限,把例行請求交給較小的模型,只在例外情況才動用前沿模型。一個流程跑通,再複製到下一個。
以一家以 AI 協助理賠分流的香港保險公司為例。第一個月,它只知道總帳單金額。完成標記後,才發現八成開支來自同一個 Agent,而它每一步都重新閱讀整份保單。把保單內容放入快取、把簡單個案交給較小模型後,每宗理賠的成本大幅下降,節省幅度亦可以與人手處理基線直接比較。
再看一家專業服務公司:各合夥人團隊各自購買 AI 助手訂閱。第一層「看得見」揭示了三個供應商之間的重疊座位。整合訂閱並指定負責人後,零散的成本變成財務總監可以規劃的單一項目。
成本管控之外,數據治理同樣重要。每份供應商合約中,成本條款與數據保留及私隱條款並列。如果你正與模型供應商談判,可參考我們的零數據保留企業採購指南。
企業管控 AI 成本時最常犯哪些錯誤?
常見錯誤包括:先寫政策、後建可視性;只看總開支、不看單位成本;所有任務一律用最貴的模型;以及把成本視為財務部獨自的問題。Harness 發現 73% 的機構已有 AI 成本政策,但只有 13% 具備基本可視性。
--- 先有政策、後有數據。無法量度的規則,就無法執行。
--- 預設使用前沿模型。所有請求都交給最強的模型,是帳單膨脹最快的途徑。
--- 獎勵用量而非成果。Harness 發現 57% 的工程師表示公司鼓勵盡量多用 AI,而不論價值。
--- 忽略隱藏成本。向量資料庫、嵌入、日誌及數據傳輸費用,很少出現在模型帳單上。
--- 一刀切削減。全面凍結只會拖慢採用。單位經濟讓你在有回報的地方加碼,在沒有回報的地方收手。
如何向財務總監或董事會匯報 AI 成本?
用單位經濟加趨勢線來匯報。展示每單位成果成本、被取代的人手基線、每月上限,以及防止失控的護欄機制。董事會關心的是有沒有明確負責人、開支是否可預測、每多花一元是否換來可量化的產出。
一頁紙的 AI 成本簡報,應回答五個問題:誰負責這筆開支、每月上限是多少、今天每單位產出成本多少、與人手基線相比如何、有哪些護欄防止意外。能清楚回答這五題,你已領先區內大多數同業。
結語:先讓 AI 開支可預測,再讓它規模化
AI FinOps 的目的不是少花錢,而是清楚知道每一元換來什麼,從而在回報已被證實的地方更有信心地投入。2027 年能成功規模化 AI 的企業,必然是在 2026 年已把成本可視性當作基礎設施來建設的企業。
懂AI,更懂你 UD相伴,AI不冷。
本文由 UD 企業 AI 團隊審閱。資料來源已於 2026 年 9 月 28 日核實。
不確定 AI 開支花在哪裡?
掌握了框架,下一步是找出最先帶來回報的流程。UD 團隊手把手帶你完成每一步,由 AI 準備度評估、成本基線計算、模型選型,到部署上線與成效追蹤,28 年企業服務經驗,全程陪你走。