一个关于 AI 出错的反直觉真相
大多数人以为 AI 给出错误答案，是因为它知道得不够多。现实几乎相反：AI 最容易出现幻觉，往往是在它最自信的时候，而非最困惑的时候。理解这一点，将根本改变你使用每一个 AI 工具的方式。
2026 年 5 月，OpenAI 公布数据显示，GPT-5.5 Instant 在涉及医疗、法律和财务的高风险提示中，产生幻觉的比率比上一版本减少了 52.5%。这是一个进步，但同时也证实了 AI 幻觉问题并未解决，只是被管理了。对于依赖 AI 处理客户沟通、财务摘要或合同草稿的香港中小企老板而言，这个差距至关重要。
什么是 AI 幻觉？
AI 幻觉是指 AI 系统生成了在事实上错误、捏造或无法核实的信息，但却以与准确内容相同的自信语气呈现出来。这个词来自心理学，幻觉是一种没有现实依据的感知；在 AI 中，幻觉则是一种没有事实依据的回应。
典型例子：你请 AI 摘要某家公司的财务业绩，它自信地列出了一个从未被任何地方报告过的收入数字。或者你请它引用来源，它编造了一篇听起来真实的学术论文，但这篇论文根本不存在。
关键在于：AI 不知道自己在产生幻觉。这种模型通过预测「最合理的下一个词」来生成文字。当它对某个主题的数据不足或模糊时，它不会停下来说「我不确定」，而是以听起来合理的内容填补空白，并以核实过的事实般的方式呈现。
AI 为何会产生幻觉？
AI 幻觉的根源在于大型语言模型通过模式补全而非从已核实的事实推理来生成文字。模型在海量文本上接受训练，遇到提示时，它生成的是统计上最可能的延续，而不论这个延续是否在事实上正确。
在几种情况下问题尤为突出：当某个主题在训练数据中代表性不足时，模型可依赖的可靠模式较少，更容易错误外推；当用户的问题含糊时，模型可能以看似合理但事实错误的方向解读；当模型被要求生成特定格式时，它有时会捏造合理的条目来填充预期结构。
较新的模型世代通过更好的训练数据和针对高风险领域的精调来减少幻觉，但无法消除它。幻觉是这类模型工作方式的结构性特质，不是能被完全修复的技术漏洞。
AI 幻觉最常见的四种类型
对业主而言最重要的四种幻觉类型：事实错误、来源捏造、数字编造、实体误归属。
事实错误是最常见的。AI 以错误的日期、公司名称或法规陈述某些内容为真，这类错误往往细微到足以通过初步审阅，但在到达客户或监管机构前却足以造成问题。
来源捏造是 AI 编造了一个看起来真实但并不存在的引用，可能引用一本真实的期刊、一位真实的作者和一个听起来合理的论文标题，但这些全部不对应任何实际出版物。
数字编造是 AI 生成一个具体数字（百分比、价格、数量）听起来具有权威性，但并非来自任何实际数据。询问「香港餐饮业的平均毛利率」却不提供来源，AI 可能给出一个看起来合理但本质上是模型估算的数字。
实体误归属是 AI 将某个陈述、行动或特征归属于错误的人、公司或组织，从「弄错行政总裁姓名」的小错误，到「错误陈述某公司涉及法律案件」的重大声誉风险，皆有可能。
AI 幻觉发生的频率有多高？
幻觉率因任务类型、模型世代和提示结构的不同而有显著差异。根据 OpenAI 于 2026 年 5 月发布的基准测试，GPT-5.5 Instant 在高风险提示上的幻觉声明比 GPT-5.3 Instant 减少了 52.5%，即错误率几乎减半，但并未消除。Gartner 2025 年的研究估计，当时的 AI 系统在企业环境的事实查询中，有 15 至 20% 的机率产生不可靠的输出。
实际意义：如果你使用 AI 处理需要事实准确性的任务，应假设大约每 5 至 10 个回应中可能有 1 个含有需要核实的错误。这不代表 AI 无用，而是说明 AI 在事实声明上需要人工检查点。
哪些业务工作风险最高？
高风险工作是那些幻觉事实在被发现之前便可能造成伤害的情况：法律文件草拟、合规声明、将出现在客户报告中的财务数字、医疗或健康信息，以及任何包含引用或具名统计数据的内容。
对香港中小企老板而言，具体的高风险场景包括：用 AI 回答客户关于产品规格或合规认证的查询；让 AI 起草条款及条件或隐私政策；请 AI 摘要合同或租约；以及使用 AI 生成将与投资者、银行或政府机构共享的财务报告。
低风险工作包括：撰写市场推广文案、将你自己的数据重新整理成不同格式、生成供你选择的创意选项，以及翻译你可以核实的内容。
香港中小企如何降低幻觉风险？
降低幻觉风险最有效的策略是结构性的，不是技术性的。你不需要对 AI 有更深入的理解，只需要养成一个一致的习惯：把 AI 输出当作新员工的初稿来对待。
提供来源，而非要求 AI 提供。与其问「香港餐饮业的消费税税率是多少？」，不如贴上相关法规文本并问「根据这段文字，适用税率是多少？」。当你提供源材料，AI 不需要回忆事实，只需阅读和提取，这可靠得多。
要求推理过程，而非只要结论。「告诉我答案，并逐步解释你如何得出这个结论」这类提示迫使 AI 暴露其逻辑，使错误在输出前更容易被发现。
在使用任何具体数字前先核实。百分比、年份、姓名、法规编号，任何由 AI 生成的具体数据，在出现于客户文件、简报或公开声明前，均应对照原始来源确认。
AI 负责结构，人工负责事实。让 AI 撰写文件框架，再由你填入已核实的事实，既获得 AI 的效率优势，又避免在最重要的信息上承担幻觉风险。
AI 会捏造事实，还值得使用吗？
对于绝大多数业务工作而言，答案是肯定的，前提是你理解你在要求它做什么。幻觉是一个真实的限制，但它是可以管理的。不使用 AI 的替代方案意味着：一个已学会在适当核实下有效使用 AI 的竞争对手，将在每一项受益于自动化的工作上超过你。
每一位新员工也会犯事实错误，尤其在最初几周。你不会因此停止招聘，你会建立审阅流程。AI 需要同样的调整：把它的输出视为需要在事实声明上进行人工核实的高质量初稿，它便成为真正的生产力倍增器，而非风险来源。
懂 AI，更懂你。了解 AI 的能力界限，是真正用好 AI 的起点。UD 相伴，AI 不冷。
不确定你的业务 AI 就绪程度？
了解幻觉问题只是安全使用 AI 的一部分。更大的问题是，你现有的 AI 工具设定、自动化的工作流程及审阅机制，是否真正保护了你和你的客户。UD 团队手把手教你评估 AI 就绪程度，识别最高风险的工作流程，并为你的具体业务建立合适的防护机制。