什么是 AI 幻觉？
AI 幻觉，是指 AI 工具把错误的内容当成有信心的事实说出来。它可能捏造一个价格、一项政策、一个日期，甚至一个虚假的资料来源。答案听起来流畅而肯定，但信息根本是凭空编造的。
这正是每位老板在把重要工作交给 AI 之前，都应该问的问题。为什么一个看似聪明的工具，有时会把基本事实完全答错，还一脸正经地说出来？
根据 IBM 的定义，幻觉是指虚假、捏造或并非基于真实资料的输出，却被当作真确内容呈现。理解这一个概念，能保护你避开小生意在使用 AI 时最常犯、代价也最高的错误。
为什么 AI 会编造内容？
AI 会编造内容，是因为它并非在数据库里查找事实。大型语言模型的运作，是根据训练文字中的规律，预测最有可能出现的下一批字词。当它没有确切答案时，仍然会产生一个流畅的猜测，因为「猜测」正是它被设计来做的事。
你可以把它想象成一位博览群书、却从不获准说「我不知道」的助手。无论被问什么，它都必定给出一个有信心、听起来自然的回复，即使诚实的答案其实是「不确定」。
OpenAI 在 2025 年发表的研究指出，这在很大程度上是结构性的。模型的训练和评分方式，会奖励有信心的猜测多于承认疑惑，于是编造内容有时比说「我不肯定」得分更高。
结果就是一个对自身不确定性毫无感知的工具。错误的答案，与正确的答案，带着完全一样的自信送到你面前。
AI 出现幻觉的频率有多高？
视乎任务和工具，差异很大。较新的 AI 模型比早期版本更少出现幻觉，但问题并未消失。视乎问题和衡量方式，2026 年公布的错误率，简单任务低至个位数，较难的任务则接近两成。
对老板而言，实际的重点不是某一个数字，而是一种心态。
--- 对于低风险任务，例如草拟一则社交媒体贴文，偶尔出错，发现和修正的成本都很低。
--- 对于高风险任务，例如引用顾客的退款权利或法律期限，即使错误率很低，也相当危险。
--- 答错的代价越高，就越需要由人手在输出发出之前先行核对。
你不需要背诵任何基准数据。你需要做的，是让核对的力度，配合一旦出错会付出的代价。
AI 幻觉在真实业务中是什么模样？
在业务场景中，幻觉通常是一个看似合理、非常具体、却完全错误的细节。危险之处正正在于它看起来不像错误。它读起来就像一个正常而有信心的答案，因此才会蒙混过关。
一些香港中小企会遇到的实际例子：
--- 你请 AI 撮要一份合约，它信心十足地说出一项其实不在文件中的付款条款。
--- 你查询竞争对手的营业时间，它编造出一组听起来合理、实际却是错的时间。
--- 你请它引用一项法规，它给出一个听来官方、实际并不存在的条文编号。
--- 一个设定马虎的客服聊天机器人，向顾客承诺了一个你的生意从未提供过的折扣。
以上每一个都听起来没错。这种「可信度」才是整个问题所在，也正因如此，真正的风险是盲目信任，而非技术本身。
小生意如何减少 AI 幻觉？
最有效的做法，是让 AI 立足于你自己已核实的资料，而不是依赖它天马行空的记忆。把你真实的文件交给它，要求它只根据这些内容回答，并保留人手审核任何带有实际后果的产出。
几个能大幅减少幻觉的实用习惯：
--- 把来源喂给它。贴上实际的政策、合约或数据，要求它只根据这段文字回答。
--- 要求它交代依据。提示它列出每项说法的出处，没有根据的内容便会一目了然。
--- 保留人手把关。任何面向顾客、涉及金钱或法律的内容，发出前都先经一个人审核。
--- 让工具配合任务。一个连接你资料、设定妥当的业务工具，远比一个凭记忆回答的通用聊天机器人安全。
这些步骤都不需要技术能力，只需要一条简单的原则：风险越高，就越要核实。
有幻觉，是否代表 AI 不适合生意使用？
不是。这代表 AI 应该在适当的防护下使用，而不是索性回避。每天有数以百万计的生意在高效使用 AI，方法是把它用在合适的任务上，并在关键之处核对输出。真正的本领，是懂得何时信任、何时核实。
诚实的说法是这样。AI 是一位强大的草拟和回答助手，而不是一个永不出错的神谕。用它来做初稿、撮要和日常回复，再加上人手核对，它能节省大量时间。
被烫伤的生意，往往是那些把 AI 输出当作自动正确、不看第二眼就直接摆在顾客或监管机构面前的商户。危险的不是技术，而是不加核实的信任。
明白这一点，正是「受惠于 AI 的老板」与「被 AI 弄得尴尬的老板」之间的分别。
给香港老板的总结
AI 幻觉不是一个你可以关掉的故障。它是当今 AI 运作方式中与生俱来的特性，而理解它，是老板能拥有的最有价值的一项 AI 素养。只要你知道 AI 会「有信心地答错」，你就能安全地使用它。
目标不是恐惧，而是判断力。放手用 AI 做初稿和日常工作，让它立足于你真实的资料，并对任何一旦出错就会损失金钱或信任的内容，保留人手把关。
明智地采用 AI，不在于懂得每一项技术细节，而在于知道哪里可以倚靠它、哪里要多看一眼。懂 AI，更懂你。
不确定 AI 在你的生意里哪些地方用得安全？
这正是该问的问题，而你不必独自回答。UD 已陪伴香港企业走过 28 年的科技路。先由我们免费的 AI Ready Check 开始，看看 AI 在哪些地方能安全地帮到你，UD 团队会手把手教你完成每一步。