每位 AI 使用者最终都会遇上的问题
你问 ChatGPT 一条关于自己行业的简单问题。它流畅地回答，附上具体数字、引述了一份研究的名字。答案看起来很实在。你把它放进客户简报。
一星期之后，你发现那份研究根本不存在。数字是凭空编出来的。研究员的名字是真有其人，但作品是另一篇。AI 不是在开玩笑，也不是在害你。它正在「幻觉」。
当人们说 AI 在「幻觉」，究竟是什么意思？实际上有多常发生？为何会发生？香港老板又应该怎样防范它毁掉一张单、一份合约、一个声誉？本文用最浅白的语言、配合具体数字与实用对策，逐一解答。
什么是 AI 幻觉？
AI 幻觉是大型语言模型输出的一种结果，外表自信、语句通顺，但事实上是错误的、捏造的，或者与你给它的原始资料相矛盾。
它并不是人类意义上的「说谎」。模型只是依据训练资料中字词之间的统计关联，逐个字往下推。当推出来的内容刚好符合事实，答案就是对的；当推出来的句子看似合理但实际上完全没有事实根据，这就是幻觉。
对企业而言，三类幻觉特别棘手：
凭空捏造的事实。编造的统计数字、不存在的案例研究、虚构的名人引述、引用根本没写过的论文。
真实事物上的错误细节。真公司名字配上错行业、真法律条文配上错司法管辖区、真产品功能配上错推出年份。
与原始资料矛盾的内容。你上传一份文件请 AI 摘要，摘要里却出现原文没有的数字。
AI 幻觉实际有多常发生？
频率视乎任务和模型。2025 至 2026 年的独立基准测试提供以下参考范围：
没有网络检索的一般事实问题，顶级模型约有 3% 至 8% 概率出现幻觉，这是 Vectara 幻觉排行榜在 2025-2026 年持续追踪的数字。
引用文献场景历来幻觉率高得多。2024 年 Stanford RegLab 与 HAI 一份研究指出，当时的法律 AI 工具在 17% 至 33% 的法律查询中出现幻觉。虽然 2026 年新一代「检索增强」系统大幅降低了这个数字，引用造假仍是有文献记录的风险。
长串、多步推理的任务，幻觉率会上升，因为每一步小错误都会被下一步「自信地放大」。
训练资料薄弱的领域，包括香港本地小众法规、企业内部流程、近期本地新闻，幻觉率有时超过 30%。
频率不是零，也不是灾难级别，但已经足以证明：商业决策不应该仅凭一次未经查证的 AI 输出。
为什么 AI 会出现幻觉？
五种机制可以解释老板会遇上的绝大多数幻觉。
1. 模型在「预测」，不是在「查找」。标准大型语言模型不是去资料库翻答案。它根据训练资料中的模式，逐字猜下一个最可能的字。当「最可能」刚好等于「错的」，输出就是流利地错。
2. 训练资料有空隙。若模型主要训练到某个截止日期，之后的事情都靠猜。训练资料中罕见的内容，例如冷门法规、小企业、行业冷门技术规格，也容易出错。
3. 提示词含糊不清。含糊的问题会引导模型走向「最普遍合理的答案」，而那往往就是听起来对的捏造内容。
4. 用户硬要追到一个特定答案。如果你不断追问 AI 直到它给你想听的答案，它最终会编出一个让你满意的版本，这种现象称为「迎合性」问题。
5. 一句话要求做太多。把检索、推理、生成压在一条长提示里，模型会在多个环节默默出错。
AI 幻觉对企业的真实后果
幻觉的代价，视乎它在你工作流程中的哪个位置爆出来。
面向客户的损失。2024 年加拿大航空在诉讼中败诉，原因是其客服机器人虚构了一条退款政策，法庭裁定航空公司必须兑现那条捏造的政策。这宗 2024 年裁决自此被国际业界广泛引用，是公开 AI 幻觉造成商业损失最清晰的案例之一。
法律与合规风险。自 2023 年起，多名美国律师因为向法庭提交含 AI 编造案例的文件而被处分。风险不只是理论，是有实际纪律后果的。任何香港专业人士向当局提交 AI 辅助文件，都面对同类风险。
用错资料做财务决定。一位小企业老板问 AI「铜锣湾本季商铺平均租金」。AI 给出一个精准到尾数的数字，其实是两年前的旧资料。老板据此谈判一份五年租约。
内部资讯失误。一位行政主管用 AI 摘要强积金通函，摘要把一个截止日期算错了一星期，三位同事因此错过真正的死线。
声誉损害。一位市场推广经理用 AI 写的博客文章，把一段虚构的「金句」挂在真实业界专家名下。当事人发现后要求公开更正。
如何在你的业务中减少 AI 幻觉？
幻觉无法完全消除，但可以大幅降低频率与成本。下面七种做法是真正有效的。
1. 把 AI 锁定在你自己的文件之上。使用「检索增强生成」（缩写 RAG），让 AI 从你的合约、政策、数据答题，而不是凭训练记忆猜。NotebookLM、Claude Projects、ChatGPT 自订 GPT 都支援。
2. 要求 AI 引用来源。有来源就可以查证。AI 答不出来源，等于发出一个明确讯号：这条陈述可能是凭空。
3. 把任何具体数字、日期、名字、引述视为「未经查证」。AI 说「根据 2024 年麦肯锡报告」，你的责任是去找回那份报告。捏造的引用通常看起来完全合理，直到你亲自查证。
4. 用任务专属工具，而不是万能聊天。建基于香港案例的法律 AI，比起让通用聊天讨论香港法律，幻觉率低得多。
5. 把复杂任务拆成几步。先检索、再摘要、最后才建议。每一步都比较容易发现错误，比一气呵成的长答案更安全。
6. 在任何「对外行动」前加一道人类审核。客户邮件、法律文件、财务决定、公开贴文，都应该过人手才放行。
7. 训练同事辨认「自信但错」的模式。2026 年所有 AI 使用者最重要的一项本能，就是当 AI 对某件冷门事情显得异常肯定时，停一停、查一查。
在哪些情况下绝对不要不查证地相信 AI？
五类资讯值得格外小心。
具体金额、百分比、统计数字。尤其当 AI 把它归于某个有名称的来源。
法律条文、法规、案例引用。错的代价极高，而捏造比例已有公开研究纪录。
医疗、安全、合规资讯。必须由相关权威或合资格专业人士覆核。
真实具名人物的相关资料。引述、简历、学历职衔，都是常见幻觉类别。
任何时效性或近期资讯。如果答案取决于过去六个月发生的事，AI 统计上更容易编造或记错。
常见问题
有没有哪些 AI 模型比较少出幻觉？有。截至 2026 年，内建检索、具备较长推理链、明确支援来源引用的模型（例如附带网路搜寻的 Claude、附带 Browse 的 ChatGPT、以及 Perplexity），在事实型查询中幻觉率明显低于旧式单纯聊天模型。差距有意义，但不能完全消除问题。
AI 幻觉很快可以解决吗？大概不能完全解决。产生幻觉的机制，与产生流利、实用答案的机制是同一套。减少其中一边，另一边也会被牵连。目标是让幻觉变少、变得可被侦测，而不是彻底消灭。
我自己上载文件之后，AI 还会幻觉吗？会，但少得多。即使有强大的文件依据，模型仍可能读错数字、把不同来源的细节调换、加上原文没有的合理句子。输出与原始资料对照检查永远必要。
用 AI 做创作会不会比做事实安全？一般而言是的。创作上的幻觉，代价多数只是一段不够精彩的文字；事实上的幻觉，代价往往是一个错误的商业决定。让任务的「容错范围」决定你的审慎程度。
给香港老板的总结
AI 幻觉不是要被掩盖、忽视或恐惧的瑕疵，而是大型语言模型运作方式的已知特性。在 2026 年用 AI 用得好的公司，是那些从第一天起就把「查证」内建在工作流程里的公司，也是那些教导同事对任何 AI 自信答案保持「礼貌怀疑」的公司。
真正的风险，不是 AI 不可靠；而是 AI 在不可靠的时候依然听起来很可靠。建立「先信，后查」的习惯，AI 才会由一个可能爆雷的负债，变成一个真正放大产能的伙伴。
了解 AI 怎样出错，就是了解 AI 究竟是什么。把这个搞清楚，你就能用面对任何强大工具的同一份冷静信心去用 AI，清清楚楚知道它能为你的生意做什么、不能做什么。懂AI的冷，更懂你的难。UD 同行 28 年，让科技成为有温度的陪伴。
了解 AI 为何会幻觉，是知识；建立一条让幻觉永远不会伤害到客户、合约、账目的工作流程，才是真正落地。UD 团队手把手教你，由替你的业务挑选正确的「有依据 AI」，到设计真正有效的查证关卡，全程陪你走每一步。