读完本文,你会弄清开放权重模型是什么、它为什么在 2026 年从开发者实验走进企业生产环境,以及判断企业是否该用、该怎么用的五个问题。
2026 年 10 月 19 日,Nvidia 发布了 Nemotron 3.5 Super VL,一个面向企业 AI 代理、拥有 1,200 亿参数的开放权重模型,用户包括 EY、CrowdStrike 和 Salesforce。对 COO 和 IT 负责人来说,问题已经不是开放模型够不够用,而是哪些活该交给它。
什么是开放权重模型?
开放权重模型,是指公开了训练后参数(也就是权重)的 AI 模型。在许可条款允许的范围内,企业可以下载、运行和调整它,部署在自己的基础设施或自选的服务商上。闭源模型如旗舰版 GPT 和 Claude,则只能通过开发商自己的服务调用。
开放权重不等于开源。FullStack 的解读指出,开放权重只公开参数,有时附带推理代码;严格意义上的开源还要提供研究和复现系统所需的材料与权利。
--- 闭源模型:通过 API 租用能力,版本、价格和数据处理由厂商说了算。
--- 开放权重模型:在许可范围内,自己决定在哪里跑、保留哪个版本、怎样调优。
开放权重模型为什么在 2026 年走进企业主流?
因为它们现在能以很低的成本承担大量日常企业任务。2026 年 8 月公布的数据显示,开放模型承担了接近三分之一的 token 用量,花费占比却不到 4%。AI 代理完成一项任务常常要调用模型几十次,这个成本差距会被成倍放大。
Constellation Research 基于 Vercel AI Gateway 数据的分析显示,开放权重模型的 token 占比从 2026 年 4 月约 11% 升到 6 月的 29%,当时约每八个企业客户就有一个在生产环境跑着至少一个开放模型。
6 月份,开放模型占 29% 用量、不到 4% 花费;Anthropic 则占 32% 用量、61% 花费。这和 “推理悖论”是一个道理:单价在降,总账单却可能在涨。
企业实际怎么用开放权重模型?
企业用开放权重模型有三种方式:交给托管推理服务商运行、部署在自己的云账号里,或者放在自有硬件上。多数企业从托管推理起步,因为它既能选模型、降成本,又不用自己管 GPU、打补丁和扩容。
方式一:托管推理
服务商负责运行,你通过 API 调用。Constellation 判断,企业采用开放权重会快于自建推理,原因就在这里。
方式二:自己的云账号
提示和输出留在自己的环境,版本也能锁定,但可用性和安全由你负责。
方式三:本地或终端设备
适合高度敏感的场景,但只有基础设施能力扎实的企业才适合把它当默认选项。
企业什么时候该选开放权重模型?
当任务量大且定义清楚、数据控制或版本稳定比顶级推理能力更重要,或者需要用自有数据调优时,就该考虑开放权重模型。复杂推理、边界模糊的任务,以及出错代价高的场景,仍然交给闭源前沿模型更稳妥。
--- 任务类型:是重复性的分类、抽取、摘要,还是开放式判断?
--- 数据敏感度:提示和输出是否必须留在自己的环境或地区?
--- 稳定性:是否需要 12 到 24 个月内模型表现完全一致,以便审计?
--- 调优需求:用自家文档调优能否明显改善结果?
--- 运维能力:有没有人能评估、加固和监控自己运行的模型?
三项以上回答“是”,可以优先通过托管推理试用开放模型;一项或以下,暂时留在闭源 API 更稳。
这对香港企业意味着什么?
对香港企业来说,开放权重模型提供了一条不完全依赖单一海外厂商服务范围、定价或地区政策的路径。只要部署规范,它还能帮助企业更严格地管控个人数据,满足《个人资料(私隐)条例》的要求。
多家美国前沿模型厂商没有把香港列为直接支持地区,不少本地企业只能通过云平台或集团合同使用。在自选的云区域或数据中心运行开放模型,可以少掉一层依赖。
模型来源也成了决策因素。Constellation 指出,通义千问、DeepSeek、GLM 等中国模型系列正在主导开放权重的发展节奏。董事会需要同时看许可条款、来源和供应商政策。UD 关于 AI 模型集中风险的分析解释了为什么多模型布局本身就是一种韧性。
开放权重模型怎样融入多模型策略?
开放权重模型最适合作为多模型架构里的一层,由路由层把每项任务交给能胜任且成本最低的模型。前沿模型负责最难的推理,开放模型负责重复的代理步骤,小型专用模型负责分类和信息抽取。
关键控制点是路由层和评测集。UD 的大模型路由指南讲解了如何设计这一层,在省钱的同时守住质量。
企业用开放权重模型最容易踩哪些坑?
最常见的坑有:把开放权重当成开源、忽略许可条款、默认自建一定更便宜、不用自家数据做评测,以及下载来源不明的模型文件。每一个都会把成本或控制上的优势,变成新的风险。
忽略许可。部分许可对商业用途或使用规模有限制,法务审核要放在部署之前。
以为自建更省。七成时间闲置的 GPU,可能比托管 API 更贵。要比较每项完成任务的成本。
跳过评测。用 200 到 500 个真实样本测试,包括繁体中文和中英混合内容。
开放权重模型要点速览
--- 定义:公开训练权重、可按许可下载和调整的模型。
--- 最新企业级发布:Nvidia Nemotron 3.5 Super VL,1,200 亿参数,2026 年 10 月 19 日。
--- 采用信号:2026 年 4 到 6 月,开放模型在 Vercel AI Gateway 的 token 占比从约 11% 升到 29%。
--- 成本信号:2026 年 6 月占 29% 用量,花费不到 4%。
--- 建议路径:先用托管推理,具备运维能力后再考虑自建。
开放权重模型的战略要点是什么?
开放权重模型已经不是开发者的玩具,而是正在成为企业大规模 AI 任务的主力,前沿闭源模型则专攻高难度任务。关键不是站队,而是清楚哪些工作属于哪一层,并保留随时调整的自由。对香港企业来说,这份自由同时关乎韧性和数据控制。
懂AI,更懂你 UD相伴,AI不冷。
掌握了框架,下一步是把你的业务负载对应到合适的模型层级。UD 团队手把手带你完成每一步,从负载评估、模型选型,到在香港安全部署和持续跟踪效果,28 年企业服务经验,全程陪你走。
由 UD 企业 AI 团队审阅。