下午三点，一名员工把 AI 生成的段落直接粘贴进了客户提案。数字看起来精确，引用的来源听起来权威，建议也显得合理。问题只有一个：这份报告根本不存在。那个统计数字从未被任何机构发布过。你的提案刚刚带着虚构数据送到了客户手上。
这不是假设情境。它正在香港中小企业中真实发生，后果从令人尴尬到涉及法律责任不等。这篇文章解释 AI 幻觉是什么、为何发生、已经对真实企业造成了什么代价，以及你应该如何保护自己的业务。
什么是 AI 幻觉？
简单答案：AI 幻觉是指 AI 系统生成的内容听起来自信、具说服力，但在事实上是错误的、凭空捏造的，或根本没有任何真实来源支撑。这个词借自心理学：就像幻觉患者感知到并不存在的事物，产生幻觉的 AI 会生成现实中并不存在的内容。
AI 并不知道自己说的是错的。它没有在撒谎，也没有刻意欺骗你。它只是根据训练数据中学到的语言模式，生成统计上最合理的下一个词。而有时候，这个「听起来合理」的输出，在事实上是完全虚假的。
这是大型语言模型运作方式的结构性特点，不是一个终有一天会被彻底修复的技术缺陷。市场上所有主流 AI 模型，包括 ChatGPT、Claude、Gemini 和 Copilot，都有可能产生幻觉。发生率因模型和任务类型而异，但这种可能性是你规划 AI 应用时必须正视的固有现实。
AI 幻觉为何会发生？
简单答案：AI 模型通过预测统计上最可能出现的下一个词来生成文字——它优化的是流畅性和相关性，而非事实准确性。当模型遇到知识空白时，它会用一个听起来合理的回答来填补，而不是承认自己不知道。
可以这样理解：AI 读过海量文本，深刻理解语言的运作规律，以及哪些表述在不同情境下听起来具有权威性。但「听起来有权威」和「事实准确」并不是同一回事。
当你要求 AI 引用某份特定研究、提及某项法规，或提供某个精确统计数字时，它并不是在搜索一个经过验证的数据库。它生成的是一个符合此类信息通常呈现方式的回应。如果确切信息在训练数据中没有清晰呈现，它可能会构建一个听起来合理的替代品——包括虚构的引用、真实感十足的作者名字和合理的期刊标题——但这些都不存在。
AI 幻觉有多普遍？
简单答案：比大多数用户预期的更普遍。根据 Suprmind 2026 年 AI 幻觉统计报告，AI 幻觉去年在全球造成企业损失达 674 亿美元，47% 的企业承认曾根据 AI 生成的幻觉内容做出至少一项重大业务决策。
同一份报告发现，普通知识型工作者每周平均花 4.3 小时核实 AI 输出的信息。这意味着每周有超过半个工作日被用于核查那个你采用来「节省时间」的工具。
幻觉率在要求 AI 回忆具体事实、引用来源、描述近期事件，或提供高度专业法律、财务信息时最高。在对用户直接提供的内容进行摘要或格式重排时最低。实际上：要求 AI 摘要你提供的文件，相对安全；要求它从记忆中回忆《雇佣条例》的具体条款编号，则未经核实不可轻信。
AI 幻觉已对真实企业造成了什么代价？
简单答案：后果涵盖声誉损失、浪费客户时间，直至直接的法律责任。加拿大航空案例是最清晰的先例：法院裁定航空公司对其 AI 客服机器人虚构的退款政策承担法律责任，即使没有任何人工员工审核或授权这则虚假信息。
加拿大航空案例确立了一个原则，对所有在客户接触环节部署 AI 的香港企业都至关重要：你的 AI 代理是公司的发言延伸，它说的话，你的公司就要负责。「是机器生成的」并非法律上的免责理由。
除法律责任外，AI 幻觉的商业代价还包括：夹带错误数据的提案、引用了并不存在的法规的合同、含有虚构产品规格的营销材料，以及提及公司实际上没有的政策的客服回复。任何一个都足以损害客户信任，甚至引发纠纷——而这些都不需要什么戏剧性的 AI 故障才能发生。
哪类内容风险最高？
简单答案：最高风险类别包括具体事实（统计数字、日期）、法律引用（条例条款、法规编号）、来源引用（期刊文章、报告），以及任何需要了解 AI 模型训练截止日期之后事件的内容。
对香港企业而言，需特别谨慎的领域包括：《雇佣条例》条款、税务局规则、证监会法规以及楼宇管理条例。AI 模型可能了解一般框架，但在具体条款编号、门槛数值或生效日期方面可能出错。同样，过去 12 至 18 个月的市场数据可能超出模型训练范围，导致它返回过时数字或捏造近期看起来真实的数据。
五个管理 AI 幻觉风险的实际步骤
简单答案：最有效的五项做法：用具体情境收紧提示词、核实所有事实再对外使用、明确审批权责、培训员工分辨哪些内容可信，以及选择内置核实机制的 AI 工具——而非将 AI 输出视为最终成品。
第一步：收紧提示词
含糊的提示词会招致幻觉。「告诉我关于香港雇佣法的事」，是在邀请 AI 用似是而非的内容填补空白。「摘要我在下方贴出的《雇佣条例》重点」，则让 AI 立足于你提供的具体文本，而非依赖其不确定的记忆。
第二步：对所有外发内容设立核实规则
任何发送给客户、公开发布或纳入合同的内容，在离开公司前都应由人工核实。对法律引用、统计数字、财务数据和产品规格，这是不可妥协的要求。把 AI 视为有能力的初稿撰写人，而非最终的事实核查员。
第三步：明确签核权责
建立一条简单的内部规则：AI 生成的外发内容，必须经过指名的人工审批才能发出。这不是不信任 AI，而是在最容易造成损失的环节建立问责机制。
第四步：培训团队了解何时可信任 AI
AI 在生成结构、起草语言、摘要用户提供的文件方面是可靠的。在回忆具体事实、引用来源和描述近期事件方面则可靠性较低。培训员工了解这种差异，是性价比最高的 AI 治理投资之一。
第五步：选择内置检索功能的 AI 工具
部分 AI 工具采用「检索增强生成」（RAG）技术，让 AI 从你的公司文件库中提取信息，而非单纯依赖训练数据。这大幅降低了幻觉风险，因为 AI 引用的是你的实际业务文件，而非从记忆中生成。
懂 AI，更懂你——UD 陪伴香港企业 28 年，正确使用 AI，比完全信任或完全不信任都重要得多。AI 幻觉不是拒绝使用 AI 的理由，而是建立合理工作流程的理由。
想了解你的业务现在使用 AI 是否安全？UD AI Ready Check 是一个免费评估工具，评核你目前的 AI 使用方式，找出幻觉风险最高的环节，并提供清晰的改善起点。UD 团队手把手教你，全程陪你走每一步。