2026 年大多数企业 AI 策略都卡在同一个错误命题上：要么信任 AI，接受它有时会自信满满地编造事实；要么不信任它，干脆放弃整个生产力提升。这个框架是错的。在 AI 部署上拉开距离的企业，早已跨过这条线。它们把幻觉视为一种可衡量、可管理的企业风险，与欺诈、网络、营运风险属于同一类别，而不是视为一个需要被消灭的模型缺陷。
如果你坐在一家香港企业推行生成式 AI 的高层席位，问题已经不再是「我们的 AI 会不会幻觉」。它一定会。问题是你的组织有没有一套风险框架，能在幻觉到达客户、监管机构或法庭文件之前把它截下来。Deloitte 2025 年《State of AI in the Enterprise》研究发现，47% 的企业 AI 用户曾根据幻觉内容作出至少一个重要商业决策。这个数字就是你的起点。
本文会给你一套企业规模管理 AI 幻觉风险的框架，建基于美国国家标准与技术研究院 NIST AI 风险管理框架的生成式 AI 补充版（NIST-AI-600-1）、欧盟 AI 法案 2026 年执法指引，以及香港和区内金融服务及专业服务业实际部署所累积的营运经验。
什么是 AI 幻觉？为什么它是企业风险问题？
AI 幻觉是一个技术术语，指生成式 AI 系统输出的内容流畅、语气自信，但事实错误。模型没有故障，它正正做了它被设计去做的事，就是生成听起来合理的文字。问题在于「听起来合理」与「准确」并不是同一回事。对于需要签合约、做核保决策、提交监管报告的企业来说，这个落差就是风险。
幻觉是企业风险问题，而不是研究问题，因为幻觉进入生产决策的代价是可以量化的。根据 2025 年史丹福 HAI 的研究，商用 AI 法律研究工具中平均每六次查询就出现一次法律幻觉。
OpenAI 的法律团队在 2024 年就因为美国法院发现律师提交了由 ChatGPT 生成的虚构案例引文而被处分。在金融服务业，一份投资者通讯中出现的幻觉重大披露，足以在香港披露制度下触发证监会的执法行动。
为什么 AI 模型即使在企业层面仍然会幻觉？
AI 模型会幻觉，是因为它们的设计目的是根据输入产生统计上最可能的文字，而不是去核对某个真相来源。即使是最先进的 2026 年模型，例如 GPT-5.5、Claude Opus 4.6、Gemini 2.5 Pro，当被问及训练资料中没有的冷门事实、近期事件，或它覆盖薄弱的领域时，仍然会幻觉。模型规模可以降低频率，但不能消除这种行为。
三个结构性原因在每个企业部署中都会制造幻觉风险。第一是训练资料局限：模型从未看过你公司的具体合约、客户账目或内部政策，所以被问到时就凭空编造。
第二是提示模糊：用户的问题本身有多种解读，模型挑了一个就跑下去，没有再核对。第三是缺乏检索基础：模型被要求「靠记忆」回答，而不是从一份已经验证的文件库检索，于是答案是被重构出来，而不是被检索出来。
Vectara 的 2025 年幻觉排行榜追踪主流模型在摘要任务上的幻觉率，最佳模型约 1.3%，较旧系统超过 8%。在一个每月处理 50,000 条查询的企业环境，即使最低的幻觉率，每月仍会产生 650 个幻觉输出。数量会改变风险的计算方式。
企业 AI 幻觉的商业成本是什么？
企业 AI 幻觉的商业成本，是被发现时的补救成本，加上未被发现时的潜在监管与声誉成本。直接成本包括事故调查、客户通知、法律审查。间接成本包括用户失去信任后的采用率衰减，以及执行层发起人退出。在受监管行业，一宗未被拦截的事故，足以超过整个 AI 计划的总预算。
三类成本对管理层具有实际意义。
第一是直接补救：调查工时、客户通知、输出替换、任何商誉补偿。根据区内银行的营运风险基准，金融服务业一宗中等严重事故的处理成本介乎 5 万至 20 万港元。
第二是监管暴露。香港个人资料私隐专员公署在 2024 年发出 AI 处理个人资料指引，金管局 2024 年生成式 AI 原则要求认可机构展示人为监督与准确性控制。一宗在受监管决策中出现的重大 AI 失误，足以触发执法、罚款及强制补救程序。
第三是信任衰减。当用户在自己的工作流程中经历两三次幻觉，他们会对 AI 失去信心，回到旧有流程。部署便悄然失败，但变革管理与授权成本还留在账上。这正是企业 AI 投资回报的隐形杀手。
企业 AI 幻觉风险框架是怎样的？
企业幻觉风险框架包含五层：输入控制、检索基础、输出验证、人为监督、事故记录。每一层都降低幻觉输出抵达重要决策的概率或影响。NIST AI 风险管理框架在 2024 年 7 月发布的生成式 AI 补充版，提供超过 200 项具体控制行动，作为这套方法的依据。
第一层是输入控制。系统限制用户可以提出什么问题，无论是透过提示模板，还是透过查询意图分类器把高风险问题自动转介人手处理。理财顾问不能单纯询问「这位客户是否适合产品 X」，系统会强制拉取真实的合适度资料。
第二层是检索基础，通常以 Retrieval-Augmented Generation（RAG）形式实作。模型被强制只能从已策展的文件库回答，并附上引用。如果来源不包含答案，模型必须说「找不到」，而不是编造。这是生产环境中最有效的单一幻觉控制机制。
第三层是输出验证。答案抵达用户之前，自动化检查会以蕴涵模型、事实提取比对或 LLM-as-judge 框架，与来源文件作核对。例如 2025 年 5 月发表的 FaithJudge 工具就是其中一个参考实作。
第四层是人为监督。对高风险输出，由具备资格的人员审核并签署，然后才行动。系统记录审核者、时间以及任何修改。
第五层是事故记录。每一个被侦测的幻觉都被记录、按严重程度分类，并回馈到模型评估、提示调整或检索改善。这个闭环把幻觉从一个重复出现的意外，变成一个被管理的风险。
应该如何衡量并向董事会报告 AI 幻觉风险？
你以三个每月汇报的数字衡量 AI 幻觉风险：幻觉率占总输出的百分比、按严重程度加权的事故数、行动前侦测率。这三个数字合在一起，能告诉董事会 AI 是否在变得更可靠、控制是否有效、走势是否符合组织的风险胃纳。
第一个数字是原始幻觉率。透过抽样衡量，例如每周 200 个输出由领域专家审核，并回报事实错误的百分比。Vectara 与 Patronus AI 2025 年的行业基准提供比较参考。一个有检索基础的企业系统，事实性问题的幻觉率应该低于 2%。
第二个是严重度加权事故数。并非所有幻觉同等重要。错误的餐厅推荐与错误的合约条款不能等量齐观。框架按 1 至 4 分配严重程度，并追踪每个级别随时间的变化。
第三个是行动前侦测率。在所有发生的幻觉中，有多少百分比是在验证或人为监督层被截下，没有抵达客户或监管机构。这是董事会最关键的数字，因为它衡量控制是否真正运作。
AI 幻觉风险对香港企业有什么具体含义？
香港企业面对四种司法管辖区特定的风险向量，这些向量决定幻觉控制应该如何设计：流经 AI 的个人资料的个人资料条例合规、认可机构的金管局生成式 AI 指引、持牌金融活动的证监会准确性要求、以及英文、广东话、普通话三语并行的营运现实，幻觉在不同语言中可能以不同模式发生。
个人资料条例的关系很直接：关于可识别个人的幻觉输出，可能构成不准确的个人资料，触发资料准确原则的义务。私隐专员公署 2024 年的 AI 使用指引明确指出，资料使用者仍须承担责任。
金管局的关系要求认可机构展示，用于客户层面或风险决策的生成式 AI，已具备有文件记录的准确性控制、人为监督、事故管理。证监会的关系再加一条：持牌法团必须确保与客户的通讯准确而不误导，这直接覆盖幻觉投资评论。
三语现实则是营运层面的问题。模型在不同语言下的幻觉率往往不同，验证层必须在三种语言中均经测试。一个只验证英文输出的控制框架，会让广东话与普通话路径暴露，而在香港企业中，那正是大部分客户互动的所在地。
策略结论
2026 年真正能从 AI 中获取价值的企业，并非拥有最大模型或最大规模部署的企业，而是把幻觉视为一个被管理的风险，配上具名控制、每月指标、执行层问责，与处理信贷风险、欺诈风险、网络风险用同一个方法。做得好，幻觉就会由一个董事会层面的恐惧，变成一个董事会层面的数字，每季都在变好。
懂AI，更懂你。UD 相伴，AI 不冷。
如果你的 AI 部署还未建立明确的幻觉风险框架，下一步应该是进行一次结构化的准备度评估，把现有控制与 NIST 生成式 AI 补充版及金管局期望逐项对照。我们的团队会手把手带你完成每一步，由控制差距审计、框架设计，到监测与汇报架设，28 年香港企业服务经验，全程陪你走完。