你正在决定机构 2026 年下半年的 AI 预算治理方式。董事会希望扩大 AI 投资,财务总监看完第一季的推理账单之后,希望相反。IT 团队指出云端成本工具并非为 token 计价而设计,采购团队被要求与模型供应商议价,却不知道一份合理合约应该是什么样子。
现在的决策已不再是要不要为 AI 支出建立纪律,而是要建立专门的 AI FinOps 能力,还是把 AI 成本管理嫁接到现有的云端治理之上,以及哪一种行动次序能最快带来受控的支出。
本指南旨在协助企业领袖把这个决策做好,并把 AI 成本对话翻译成财务总监可以采取行动的语言。
什么是 AI FinOps?
AI FinOps 是一门营运学科,负责预测、分配与优化 AI 工作负载的支出,使每一块投入推理与训练的费用,都能追溯至业务成果。它沿用了云端 FinOps 在 2018 至 2022 年发展出的原则,并扩展以处理大型语言模型、检索管道与智能体工作流独有的成本行为。
这门学科的兴起,是因为 AI 支出与传统云端运算的机制根本不同。云端成本随保留的容量扩大,AI 推理成本则随消耗的 token 扩大,token 的消耗又随提示的撰写量、员工与应用如何使用系统而扩大。成本的单位不再是一台服务器,而是一次对话。
根据 FinOps Foundation 2026 年 State of FinOps 报告,AI 是增长最快的新支出类别,73% 的企业表示 AI 成本超过原订预算。同一份报告指出,AI 成本预测是 2026 年财务团队的首要任务。
为什么 AI FinOps 在 2026 年变得迫切?
AI FinOps 在 2026 年变得迫切,是因为三股力量摧毁了过往 AI 属于小规模实验项目的假设。一般企业 AI 预算由 2024 年大约每年 120 万美元,增至 2026 年 700 万美元,而推理目前消耗其中 85%,数据来自 FinOps Foundation。在这个规模下,临时性的成本管理在营运上已经难以为继。
智能体工作流大幅推高每项任务的成本。Gartner 2026 年 3 月推理成本分析确认,智能体式 AI 系统每完成一项任务消耗的 token,是标准聊天机械人的 5 至 30 倍。一次面向用户的请求,现在可能触发数十次内部模型呼叫,每一次都计费。
推理主导 AI 账单。到 2026 年,推理占 AI 优化基础设施即服务支出的 55%,数据来自 Gartner。训练,这个曾经主导 2023 与 2024 年讨论的成本类别,对大多数企业而言已变成较小份额,原因是基础模型由采购而非训练取得。
AI 工作负载开始与整体云端账单竞争。2026 年,AI 工作负载占 AI 领先企业云端支出的 18%,较 2023 年的 4% 大幅上升。财务总监已不再把 AI 视为可有可无的创新支出,而是技术预算中的主项,按与核心基础设施同样的严格度审阅。
AI FinOps 与传统云端 FinOps 有什么差别?
AI FinOps 与传统云端 FinOps 有三个结构性差异:成本单位由配置型变为变动型;成本驱动因子由容量规划变为终端用户行为;优化工具组由实例规格选择变为提示设计与模型路由。
云端 FinOps 主要优化保留容量与随用付费的取舍、实例规格化、储存层级选择,成本一旦承诺大致固定。AI FinOps 面对的问题相反:系统提示中改动一句话,便可能令数百万个请求的 token 消耗成倍增加。成本是在使用的瞬间产生,而非在配置的瞬间产生。
第二个结构性差异是成本归属。云端账单可按环境、账户与服务拆解,AI 推理账单则必须按工作流、提示模板、最终用户拆解。没有这层归属,机构无法判断市场部副驾驶盈利、法务副驾驶流血,还是相反。
第三个结构性差异是优化杠杆组合。云端成本削减多来自规格化或保留实例。AI 成本削减则来自模型路由(让最小足够模型处理每项任务)、提示压缩、以检索取代长上下文、回应快取,以及每个工作流的硬性 token 预算。
企业领袖可动用的四个成本杠杆是什么?
企业领袖在大规模管控 AI 成本时,有四个主要杠杆。每个杠杆的拥有者属于不同团队,因此治理与工程同样重要。任何一项缺失,都会把可预期的节省留在桌上。
一、模型路由。并非每项任务都需要最大型的模型。成熟的 AI FinOps 实践会把简单分类交给小型、便宜的模型,把前沿模型保留给确实需要其能力的任务,并持续测试这个分界线。根据 BCG 2026 年 Build for the Future 基准,采用主动模型路由的机构,按业务成果计算的推理成本比所有工作流统一使用单一前沿模型者低 41%。
二、提示与上下文工程。大多数企业提示包含冗余指令、不必要的示例与膨胀的上下文。有纪律的提示工程,配合只取出相关片段的检索增强生成,可大幅降低每次呼叫的 token 消耗,在规模下成本效益会放大。
三、快取与重用。许多企业查询会重复。客服问题集中在同样十多个议题,内部知识搜寻返回的是相同文件。回应快取、模型供应商支援的提示快取、嵌入向量重用,可削减毫无新增价值的重复运算。
四、预算强制执行。没有每个工作流的硬性 token 预算,账单会在无人察觉中增长。在 API 闸道层执行预算控制,并在达月度分配 50%、80%、100% 时告警,是抑制失控支出的最有效控制。把 AI 工作负载当成市场推广活动:有预算、有拥有者、有停止条件。
香港企业应如何预测 AI 支出?
香港企业应结合由下而上的工作流建模与由上而下的治理约束,并以财务总监已批准的港币信封作为对账基准。纯粹由下而上的预测通常出错,因为采用率难以预测;纯粹由上而下的预测则忽略底层的 token 经济学。对账,正是区分一份可信计划与滑片上乐观数字的差别所在。
由下而上的建模,由每个 AI 应用案例开始:估算用户数、每用户每月平均使用次数、每次使用按工作流计算的平均 token 用量,以及所选供应商每百万 token 的价格。输出是每个工作流的月度成本,可在全机构汇总。对采用率的敏感度测试是必须的,因为超出 30% 的采用,可能等同 30% 的预算超支。
由上而下的约束,是财务总监愿意承诺的信封。在香港,中型市场企业的 AI 信封通常介于每年 80 万至 1,200 万港元之间,视乎行业、人数与 AI 成熟度。信封决定了哪些项目纳入年度范围,哪些被延后。
对账一步,正是 AI FinOps 创造价值之处。当由下而上的数字超过由上而下的信封,领袖必须选择:删减工作流、改用较便宜的模型,或者投资于降低每次呼叫成本的提示优化。每个选项对使用体验影响不同,这就是为何这场对话应该在领导层的会议桌上进行,而不是工程团队的 Slack 内。
AI FinOps 应向财务总监呈报哪些指标?
AI FinOps 对财务总监的呈报,应将 AI 支出的营运复杂度压缩成一组可直接翻译为业务语言的指标。2026 年成熟呈报框架中,有五项指标反复出现,并且通过了「对财务听众有意义」的考验。
每业务成果成本。总推理支出除以 AI 系统协助的决策、交易或完成数。这是头条指标,直接检验该应用案例是否经济。
预测偏差。每月实际支出对比预测,以百分比表示。持续正偏差代表采用快于预期,可能是好事亦可能是坏事;持续负偏差代表该应用案例未能起飞。
工作流盈利能力。每成果成本对比该成果的价值,即使该价值是估算值。每解决一张工单成本 0.4 港元、节省 12 港元客服工时的客服 AI,经济性显而易见;每次查询花费 90 港元、结果却被律师完全重写的法律研究 AI,则并不经济。
优化率。过去一个季度按成果计算的 token 成本下降百分比。这项指标证明 FinOps 职能在创造价值,而非只是呈报。
预算合规率。在已批预算信封内运行的工作流百分比。这项指标让财务总监看到治理是真实的,而非纸上谈兵。
AI FinOps 的常见陷阱有哪些?
三个陷阱会拖垮立意良好的 AI FinOps 计划。每一个都可避免,但每一个出现的频率都高到分析师与顾问公司在 2025 至 2026 年研究的事后检讨中反复出现。
第一个陷阱,是把 AI 成本当作云端账单问题处理。不理解 token 级定价、提示级归属、模型路由的云端成本工具,产出看似全面却无法回答关键问题的仪表板:哪一个工作流在流血。这令财务团队只能全面削减预算,而非精准优化。
第二个陷阱,是只在模型层优化、忽略提示层。工程团队常以由前沿模型转至中阶模型的 70% 成本削减为庆祝对象,但若送入该中阶模型的提示变长一倍,实际节省会大幅缩水。真正的 AI FinOps 量度的是每成果成本,而非每次呼叫成本。
第三个陷阱,是有治理而无强制执行。许多机构制订了 AI 成本政策,却未在 API 层实施预算闸门。没有强制执行的政策只是表演。到 2026 年,AI FinOps 成熟的企业把预算强制执行视为不可妥协,营运严肃程度与身分及存取管理同等。
融会贯通
AI FinOps 是一门将 AI 支出由不可靠的项目,转化为财务总监可以为之辩护的受控预算的学科。四杠杆框架、由下而上加由上而下的预测、五指标的财务总监报告,并非因为其背后概念前所未见,而是因为账单规模已经跨过必须像任何战略性资本配置一样去治理的门槛。
2026 年把这件事做对的香港企业,并不是 AI 基础设施投资最深的那群,而是早早意识到 AI 成本是战略变量、不只是技术变量的那群。它们建立了专门的预测能力,在 API 层落实强制执行,并呈报财务总监可带入董事会档案的指标。
这就是资助 AI 与把 AI 当作业务能力营运的分别。在这一年,懂AI,更懂你 不只是口号,而是企业级 AI 领导力如今所要求的纪律的描述,UD相伴,AI不冷。
了解了框架,下一步是找出哪些 AI 应用案例能通过你机构的「每成果成本」测试。UD 团队手把手带你完成每一步,从成本预测、工作流盈利能力分析、供应商议价,到预算强制执行设计,28 年香港企业服务经验,协助你向财务总监交出可辩护的 AI 投资方案。