OpenAI 2026 年的研究终于公开承认了企业团队已默默追踪两年的事实：AI 幻觉不是即将被工程消除的缺陷，而是大型语言模型训练方式中的结构性特征。即使是最强的前沿模型，仍会以全然信心输出错误资讯，比率高得不适合在没有额外控制的情况下用于高风险流程。对受监管行业的企业而言，这把幻觉从一个小问题提升为书面董事会风险。
AI 幻觉究竟是甚么？
AI 幻觉是指大型语言模型生成流畅、自信、看似合理但实际错误的输出。模型并非在工程意义上撒谎或故障，它只是根据训练数据生成统计上最可能的下一段文字，这偶尔会与事实偏离。最危险之处在于，模型答对与答错时的语气完全相同。
这件事为何重要？因为 2026 年企业 AI 部署中最常见的失败模式并非模型拒绝回答，而是模型不该回答时依然满怀信心地回答。一家香港律师事务所在 2025 年底测试现成模型处理案例引用任务，发现 31% 引用是虚构的，案件名称与日期看起来真实。模型没有坏，它只是在做被训练去做的事。
为何最先进的 AI 模型仍会产生幻觉？
幻觉持续存在，是因为语言模型被训练去预测下一个合理的词元，而非验证真相。即使是 OpenAI、Anthropic、Google 的 2026 前沿模型，幻觉率仍可量度，因为训练目标奖励流畅与合理，而非事实准确。要降低幻觉，需要架构性改变，而非单纯把模型做大。
根据 OpenAI 2025 年 9 月发布的研究论文《Why Language Models Hallucinate》，问题追溯到模型训练时的评估方式。基准评分奖励总是给出答案的模型，惩罚在不确定时拒答的模型。这等同于用「答错与答不知道罚分相同」的方式训练学生。可以预见，模型学会在不确定时流畅地猜测，而不是弃答。
斯坦福 HAI 2026 年 AI Index 报告指出，事实问答基准上的幻觉率较 2024 年显著改善，但通用前沿模型在没有接地时仍维持在 8% 至 15% 之间。对每月处理 10,000 个 AI 辅助查询的企业而言，这意味著如果没有任何应对措施，将有 800 至 1,500 个自信却错误的输出进入流程。
企业领袖应关注哪几类 AI 幻觉？
企业幻觉风险可分为四类，每一类需要不同的控制。四类分别是：虚构引用与来源、合理但虚构的数字、混淆事实（把两件真实事物合并成一件错误事物），以及在大致正确的回应中对细节边缘案例的错误自信。通用型应对方案忽略这些差异，必然失败。
虚构引用是最高曝光度的失败模式。2023 年美国联邦法院曾制裁两名纽约律师，因为他们提交的诉状含六个虚构案例引用，类似事件在 2026 年仍持续发生。案件名称听起来真实、日期合理，但引用完全虚构。
合理但虚构的数字在金融服务业最为危险。模型被问及恒生指数历史表现时，可能会自信地给出一个与真实接近但不完全准确的百分比。接近却错误的数字，比明显虚构的更难被察觉。
混淆事实发生在模型把两个真实事件或实体合并为一个错误主张。例如把麦肯锡某报告中的引述归于另一位麦肯锡作者，两者皆真实，但归属错误。
细节边缘案例的错误自信，往往出现在大致正确的回应中。AI 生成的前三个要点准确，第四个较专业的要点是虚构。读者因为开头正确而被催眠，全盘接受整段回应。
RAG（检索增强生成）如何降低幻觉？
检索增强生成（RAG）透过在查询时向模型提供经验证的来源文件，而非单靠训练记忆，从而降低幻觉。模型不再是「凭记忆回答退款政策是甚么」，而是从你的实际退款政策文件中读取内容并基于它回答。因为模型被接地于来源文本，幻觉率大幅下降。
RAG 不是完整的解决方案。2026 年的研究显示，即使是接地的 RAG 系统，幻觉率仍维持在 3% 至 8% 之间，主要发生在检索内容不完整或自相矛盾时。模型被迫在冲突来源中选择，有时会自行综合出一个新答案。RAG 是必要，但不充分。
对一家正在建立内部合规助理的香港金融服务公司而言，在公司政策手册上做 RAG 是基本架构。没有它，模型只能凭通用训练数据回答，可能包含已废止的法规或不适用的司法管辖区。有了它，模型被接地，但仍需上层的验证层次。
企业幻觉应对的四层框架是甚么？
四层框架把幻觉视为系统风险而非模型风险。四层是：检索接地、输出验证、高风险输出的人工复核，以及对「黄金数据集」的持续评估。每一层拦截上一层遗漏的错误。跳过任何一层都会留下结构性缺口，并在最坏情境中浮现。
第一层是检索接地，通常透过 RAG 实现，将模型锚定在组织经验证的源材料。
第二层是输出验证，由第二个模型或规则系统检查回应是否符合已知失败模式。对于引用，要验证所引案件或来源是否实际存在；对于数字，要与源文件交叉比对。
第三层是针对符合既定风险门槛的输出进行人工复核。会进入客户面向文件的回应需人工审查，回答内部程序问题的回应或可豁免。
第四层是针对「黄金数据集」（包含代表性查询及验证正确答案）的持续季度评估。这是你在真实事件爆发前发现模型漂移的方式。
企业幻觉应对实际成本是多少？
应对成本一般占 AI 部署底层成本的 30% 至 60%（按三年计）。跳过它的成本更高。一宗发生在客户交付物、审计回应或监管申报中的高曝光幻觉事件，所产生的补救、声誉与法律成本，可以远超整个 AI 计划三年预算。
应对中最大成本项是第三层人工复核。一家香港 200 人专业服务公司，每月运行 5,000 个 AI 辅助输出，即使只审查其中 20%、每项 5 分钟，每周也要约 80 小时复核时间。这笔成本必须在第一天就计入商业方案，而不是在第六个月才被发现。
最低成本项是第四层持续评估。一份维护良好的 300 至 500 条黄金数据集，季度审核一次，在整个计划中杠杆最高。2026 年大多数企业仍跳过此层，能撑过首次监管查询的，往往就是那些建立了黄金数据集的企业。
幻觉对 AI 治理与《个人资料条例》合规意味著甚么？
对于受《个人资料（私隐）条例》及金管局、证监会、保监局等行业法规约束的香港企业而言，幻觉不只是品质问题，更是治理问题。一个错误陈述个人资料、财务建议或监管义务的幻觉输出，无论是否经人工审核，都可能构成合规违规。
个人资料私隐专员公署 2024 年发布并在 2026 年更新的 AI 个人资料处理指引，原则清晰：AI 输出的问责由部署机构承担，而非模型供应商。如果香港银行部署的 AI 工具产生一段与个人资料相关的虚构建议，问责对象是该银行，而非 OpenAI 或 Anthropic。
实际含义：2026 年的 AI 治理文件，必须包括一份书面幻觉应对政策，并为四层框架的每一层指定责任人。监管机构在巡查时，已开始要求查阅这份文件。
策略总结：把幻觉视为系统问题，而非模型问题
2026 年能在受监管流程中成功部署 AI 的企业，是那些已停止把幻觉视为「下一代模型会解决」的问题的企业。新模型确实会改善基线，但结构性特征仍在。真正的功夫在系统层面：接地、验证、高风险输出的人工审查，以及对黄金数据集的持续评估。
对香港企业领袖而言，这重新定义了 AI 部署的对话。问题不是「这个模型够好吗」，而是「我们围绕这个模型建立的系统够好吗」。这个区别，分隔了可被辩护的 AI 计划与会酿成代价高昂事件的计划。
懂AI的冷，更懂你的难 — UD 同行28年，让科技成为有温度的陪伴。
准备好为你的 AI 部署建立幻觉应对框架？
理解了四层框架，下一步是把它对应到你的具体使用场景与风险门槛。UD 团队手把手带你完成每一步，从使用场景风险评估、架构设计、供应商选型，到治理文件撰写，28 年企业服务经验，全程陪你走。