AI 最不擅长的一件事,就是承认自己不知道。当你向模型询问一个它其实从未学过的数据、引文或政策细节时,它往往会直接编造一个,而且语气跟它答对的事实一样自信。这就是所谓的"幻觉"(hallucination)。如果你把 AI 用于实际工作,这是你最需要提前设计防线的一个习惯。好消息是,大部分幻觉都可以在提示层面预防,根本不需要动用任何复杂工具。
为什么 AI 会如此自信地编造内容?
幻觉,是指语言模型产生一段听起来正确、实际上却错误或完全虚构的文字。它之所以发生,是因为模型预测的是"下一个最可能的字",而不是"真实的字"。当某个主题的训练数据稀少时,模型不会停下来,而是用一个听起来合理的猜测填补空缺。
对实战使用者而言,关键在于:模型并不是在说谎。它没有一个内建信号,能区分"我真的知道"和"这个模式看起来对"。这个信号,必须由你的提示来提供。
根据 OpenAI 自家的模型文件,当问题需要罕见于训练数据的具体事实、日期或数字时,幻觉比率会急剧上升。而你的业务问题,恰恰就落在这个区域。
技巧一:允许模型说"我不确定"
最快的可靠性升级只需一句话:明确允许模型承认不确定。模型预设会硬答,因为大部分训练范例都奖励"答出东西"。移除这个压力,自信编造的情况就会明显下降。
在任何事实型提示中加上这一句:"如果你不确定,或资料中没有提供,请回答'我不确定',而不要猜测。"
它之所以有效,是因为你在提示内改写了奖励。你不再是要求"无论如何都要给出答案",而是告诉模型:"我不知道"是一个可以接受、甚至更受欢迎的输出。
在实测中,这一句指令会把许多凭空编出的数据,变成一句诚实的"我拿到的来源中没有这个数字",而这正是你真正想要的答案。
技巧二:用你自己的来源为模型"接地"
"接地"(grounding)的意思,是把真正的原始资料贴进提示,并要求模型只根据这份资料作答。这是检索增强生成(RAG)的手动版本,也是你手上最强的单一杠杆。习惯接地的使用者,普遍反馈编造大幅减少。
结构很简单:贴上文件,然后加上"只根据以上文字作答。如果文字中没有答案,请直接说明。"
接地之所以胜过信任模型的记忆,是因为你用精确的文字取代了模糊的回想。一个读着你贴上合约条款的模型会正确引用它;一个靠回忆"这类合约通常会写"的模型则会即兴发挥。
政策文件、会议记录、产品规格、研究 PDF,凡是措辞必须精确的场景都适用。如果来源很长,贴上两三个相关段落即可,不必整份贴上。
技巧三:强迫模型引用并展示依据
要求模型引用它每个论断所依据的原句。引用会逼模型检查支持句是否真的存在,从而在编造传到你手上之前就拦截它。如果模型拿不出引文,那就是这个论断属于虚构的信号。
再搭配"验证链":模型答完后,要它拿自己的答案对照来源,标出任何缺乏依据的内容。
实用的两步做法是:第一个提示取得带引文的答案,第二个提示则说"请把上述每项论断对照来源检查,列出任何你无法用原句直接支持的论断。"
这其实就是一位谨慎分析师的做法。你不会信任第一版草稿,而是让模型自我审计,把你原本会漏掉的薄弱论断逼出来。
技巧四:约束输出格式,让模型无处即兴
结构化输出会限制模型能游走的空间。当你把答案强制塞进固定字段、JSON 或表格,模型能围绕真实事实添加虚构叙事的空间就变少了。紧凑的格式减少了废话,也减少了藏在废话里的错误。
面对数据任务,要求一个字段固定的表格:"只回传一个表格,字段为:论断、来源原句、可信度(高/中/低)。不要任何散文。"
"可信度"这一栏是关键。它给了模型一个正当的位置去表达怀疑,而不是把一切都抹平成虚假的确定,同时也告诉你哪几行需要再核实。
整合后的"防幻觉提示"长什么样子?
这四个技巧可以叠加使用。把接地、允许弃答、引用与结构整合成一个可重用的提示,你得到的答案就会难以造假得多。把它存成范本,套用到每一项事实型任务。
现在就试试以下提示,把你自己的来源贴到指定位置:
来源:[在此贴上你的文件、笔记或数据]
任务:只根据以上"来源"回答下方问题。
规则:
--- 每一项论断,都附上"来源"中支持它的原句。
--- 若"来源"中没有答案,请写"来源未提及"。不要猜测。
--- 回传一个表格,字段为:答案、支持原句、可信度(高/中/低)。
--- 表格之后,列出我的问题中"来源"无法回答的部分。
问题:[在此填入你的问题]
只要跑一次,你就会立刻看到差别:每个答案现在都自带依据,而缺口是被标示出来,而不是被藏起来。
这些技巧仍有哪些盲点?
这些技巧能大幅减少幻觉,却无法彻底消除。模型仍可能误读来源、引用了真实原句却推出错误结论,或自信地摘要一份它部分误解的文件。接地控制的是"编造",而非"诠释"。
当你的来源本身有错时,它们也帮不上忙。如果你贴上一份过时政策,模型会忠实地引用过时信息。输入是垃圾,输出就是被忠实引用的垃圾。
在金融、法律或医疗等高风险场景,最后一关请务必保留人手把关。把"可信度"栏与"来源未提及"的标记,当成一张告诉你"该重点检查哪里"的分流清单,而不是一份保证书。
把它放进你的日常工作流程
先把这个整合提示,存成你最常用工具里的可重用范本。一旦某项任务取决于具体事实,就拿它出来,而不是丢一个光秃秃的问题。单单这个习惯改变,就能移除大部分日常的幻觉风险。
更深一层的重点是:可靠的 AI 是一个设计选择,而不是碰上一个好模型。你之所以能得到稳定的输出,是因为你把护栏建进了你提问的方式,而不是靠祈祷模型乖乖听话。这,正是"会用 AI 的人"与"能信任 AI 输出的人"之间的差别。
在 UD,这正是我们协助团队打造每一套工作流程时所秉持的理念。懂AI,更懂你 UD相伴,AI不冷。
与 UD 一起打造可靠的 AI 工作流程
掌握这些技巧只是第一步。下一步,是把它们接进一套整个团队每次都能信任的工作流程。UD 团队手把手带你完成每一步,从提示范本、把你自己的文件接地,到设定在错误传到客户面前之前就拦下它的验证检查。