重点摘要
- 流到客户手上的 AI 错误,大多发生在已有 AI 政策的企业;缺口在核查,不在规则。
- 按出错后果给每类 AI 输出分级,再按级别决定核查深度。
- 每份对外文件都要有署名责任人,以及简短的核查记录。
- 向董事会汇报错误外流率,而不是 AI 账号数量。
2026 年 4 月,华尔街一家顶级律所致信美国破产法院首席法官致歉:其紧急动议中有约 42 处 AI 生成的错误,而且是由对方律师发现的。
这家律所有 AI 政策,也有培训,但信中承认政策“没有被遵守”。教训正在于此:使用政策规定员工能做什么,核查机制则决定什么内容可以走出公司大门。
为什么有了 AI 政策,错误仍会流到客户手上?
因为多数 AI 政策管的是使用权限,而不是输出结果。政策写明员工可用哪些工具、可输入哪些数据,却很少规定 AI 辅助完成的文件由谁核查、查到什么程度、以什么为依据。截止时间一到,审核变成浏览,行文流畅就被当成内容正确。
这并非个案。据法新社 2026 年 6 月的报道,研究员 Damien Charlotin 的数据库已收录约 1,600 份含 AI 幻觉的法庭文件,覆盖 35 个国家,按年增加八倍。法律行业只是错误最容易曝光的领域;同样的问题,也在董事会材料和客户报告里悄然发生。
AI 输出核查机制应该包括哪些部分?
一套可落地的机制包含五环:按后果为每类输出分级、为每类内容规定核查方法、指定署名责任人、保留简便的核查记录,以及定期向上汇报质量指标。五环合在一起,把“总会有人看一眼”变成审计师和客户都能检视的控制流程。
五环核查框架
- 分级:按出错后果分类。
- 方法:每类内容以哪个来源为准。
- 署名:对发出负责的具名人员。
- 记录:工具、来源和审核人。
- 指标:错误外流的数量与趋势。
怎样判断一份 AI 输出需要多深入的核查?
按出错后果决定审核深度。内部头脑风暴几乎不用核查;客户文件需要逐项对照来源;监管报送或法律文书则需要独立的二次复核。分级能同时避免两种失误:高风险文件未经检查,以及低风险草稿被过度检查、浪费人力。
| 级别 | 示例 | 最低核查要求 |
|---|---|---|
| 1. 内部草稿 | 会议纪要、头脑风暴记录、初稿 | 作者分享前自行通读 |
| 2. 内部决策 | 董事会材料、授信报告、管理报表 | 作者逐一追溯数字和来源 |
| 3. 对外文件 | 方案书、客户报告、意见函 | 作者核查,另由审核人签发 |
| 4. 监管或法律 | 法律文书、监管报送、信息披露 | 以原始来源进行独立二次复核 |
级别由输出决定,而不是由工具决定。即使摘要出自公司批准的平台,一旦粘贴进发给客户的邮件,就属于第 3 级。
不同类型的 AI 内容应该怎样核查?
把输出拆分为不同内容类型,分别对照权威来源核查:引用必须打开原文阅读,数字要从原始数据重新计算,引述要逐字比对,法规表述要对照现行条文。整体通读只能发现语气问题,发现不了虚构的事实。
- 引用:逐条打开原文,确认来源存在且内容一致。
- 数字:从源系统或表格重新计算。
- 引述:与原文逐字比对。
- 法规表述:对照最新版本条文。
- 人名、日期和机构:对照公司自己的记录。
第二个 AI 模型可以帮助找出值得重点审核的段落,但这不等于核查:两个模型可能存在相同盲点。工具应该用来安排人工核查的优先次序,而不是取代人工。
香港不同行业怎样落实 AI 核查?
框架不变,高风险内容因行业而异。保险与资产管理的重点在数字和法规表述;律所与咨询机构的重点在引用和意见措辞;物流企业的重点在合同条款、日期和交易对手信息,因为这些内容会直接进入日常运营系统。
保险与资产管理
理财顾问团队用 AI 起草保单检视报告,属于第 3 级:收益数字从系统重新计算,风险描述对照已批准资料,再由持牌顾问签发,核查记录同时供内部审计调阅。
律所与咨询机构
咨询机构用 AI 撰写研究报告,对准则和判例的引用一律打开原文核对,并由项目合伙人签发。
哪些常见错误会让 AI 核查机制失效?
常见失误包括:用政策培训代替流程控制、让写提示词的人自己审批、只检查看起来有问题的部分,以及把另一个 AI 的确认当作证据。每一项都是漏洞,截止压力迟早会把错误从漏洞中推出去,而且往往出在当季最重要的文件上。
每一个被拦截的错误都是免费数据。按任务类型和工具做好记录,一个季度内就能看清 AI 在哪里增加了风险。
怎样向董事会汇报 AI 输出质量?
每季度汇报三个数字:核查覆盖率,即第 3、4 级输出中有核查记录的比例;发出前拦截的错误数;以及流到客户或监管机构的错误数。董事会需要看到证据,证明 AI 辅助的工作与其他客户文件受到同样严格的控制。
据 Global Legal Post 报道,Gartner 已建议企业法务负责人考虑直接购买 AI 保险,因为保险公司正在传统保单中加入 AI 除外条款。一条持续下降的错误外流率,是回应保险公司和审计师的最好答案。
核查,是 AI 规模化的前提
被 AI 错误拖累的企业,往往不是没有政策,而是政策只管使用、从不规定发出标准。分级核查加上署名签发,就能补上缺口。
这个月先从第 3、4 级输出入手:指定署名责任人、写好核查步骤,并开始统计拦截到的错误。下次董事会召开时,你就有一套可以展示的控制机制。
懂AI,更懂你 UD相伴,AI不冷
先在一个岗位,用上经过核查的 AI
从免费的 AI 员工配置评估开始:梳理一个工作流程,设定审核节点和签发人。UD 团队手把手带你完成每一步。
常见问题
可以用第二个 AI 模型核查第一个模型的输出吗?
不可靠。第二个模型可以标出值得检查的段落,但模型之间可能存在相同盲点,甚至会确认虚构的来源。AI 交叉检查只适合做初筛,不能作为核查记录。
香港《私隐条例》与 AI 生成的个人信息有关吗?
有关。《个人资料(私隐)条例》保障资料第 2 原则要求资料使用者采取所有切实可行的步骤确保个人资料准确,AI 生成的关于客户或员工的表述同样适用。
AI 辅助完成的客户文件,应该由谁签发?
应由假如不使用 AI 时本来就要签发的人负责,通常是负责该客户关系的合伙人、经理或持牌顾问,而不是写提示词的员工。