重點摘要
- 流到客戶手上的 AI 錯誤,多數發生在已有 AI 政策的機構;缺口在核實,不在規則。
- 按出錯後果為每類 AI 輸出分級,再按級別決定核實深度。
- 每份對外文件都要有具名簽署人,以及簡短的核實紀錄。
- 向董事會匯報錯誤外流率,而不是 AI 授權數目。
2026 年 4 月,華爾街一家頂尖律師行致函美國破產法院首席法官道歉:該行提交的一份緊急動議,載有約 42 處由 AI 產生的錯誤,而且並非由內部覆核發現,而是由對方律師指出。
這家律師行有 AI 政策,也有培訓,但信中坦言政策「沒有被遵守」。這正是教訓所在:使用政策規定員工可以做什麼,核實制度則決定什麼可以離開公司。
為什麼已有 AI 政策,錯誤仍會流到客戶手上?
因為大多數 AI 政策管的是使用權限,而不是輸出。政策列明員工可用哪些工具、可輸入哪些資料,卻很少規定 AI 輔助完成的文件由誰核實、核實到什麼程度、以什麼為依據。限期一到,覆核變成略讀,行文流暢便被當作內容正確。
這並非個別事件。據法新社 2026 年 6 月的報道,研究員 Damien Charlotin 的資料庫已收錄約 1,600 份含 AI 幻覺的法庭文件,涉及 35 個國家,數量按年增加八倍。法律界只是錯誤最公開的行業;同樣的失誤,也在董事會文件與客戶報告中悄悄發生。
AI 輸出核實制度應包括哪些部分?
一套可行的制度有五環:為每類輸出設定後果級別、為每類內容訂定核實方法、指定具名簽署人、保留簡便的核實紀錄,以及定期向上匯報品質指標。五環合起來,把「總有人會看一看」變成審計師與客戶都可以檢視的控制程序。
五環核實框架
- 分級:按出錯後果分類。
- 方法:每類內容以哪個來源為準。
- 簽署:為發出負責的具名人士。
- 紀錄:工具、來源與覆核人。
- 指標:錯誤外流的數目與趨勢。
怎樣決定一份 AI 輸出需要多深入的核實?
按出錯後果決定覆核深度。內部構思幾乎不必核實;客戶文件需要逐項對照來源;監管申報或法庭文件則需要獨立的第二重覆核。分級同時防止兩種失誤:高風險文件未經檢查,以及低風險草稿被過度檢查而浪費人手。
| 級別 | 例子 | 最低核實要求 |
|---|---|---|
| 1. 內部草稿 | 會議摘要、構思筆記、初稿 | 作者分享前自行閱讀 |
| 2. 內部決策 | 董事會文件、信貸備忘錄、管理報告 | 作者逐一追查數字與來源 |
| 3. 對外文件 | 建議書、客戶報告、意見書 | 作者核實,另由覆核人簽署 |
| 4. 監管或法律 | 法庭文件、監管申報、披露文件 | 以原始來源作獨立第二重覆核 |
級別由輸出決定,而不是由工具決定。即使摘要來自公司批准的平台,一旦貼進給客戶的電郵,就屬第 3 級。
不同類型的 AI 內容應該怎樣核實?
把輸出拆成不同內容類型,各自對照權威來源核實:引用必須打開原文閱讀,數字要從原始數據重新計算,引述要逐字比對,法規陳述要對照現行條文。整體通讀只能找出語氣問題,找不出虛構的事實。
- 引用:逐一打開原文,確認來源存在且內容相符。
- 數字:從來源系統或試算表重新計算。
- 引述:與原文逐字比對。
- 法規陳述:對照最新版本條文。
- 人名、日期與機構:對照公司自己的紀錄。
第二個 AI 模型可以協助找出值得覆核的段落,但不等於核實:兩個模型可能有相同盲點。工具應用來安排人手核實的次序,而不是取代人手。
香港不同行業怎樣落實 AI 核實?
框架相同,高風險內容則因行業而異。銀行與財富管理的重點在數字與法規陳述;會計及顧問行業的重點在引用與意見措辭;物業管理的重點在合約條款、日期及簽約方資料,因為這些內容會直接進入日常營運。
銀行與財富管理
私人財富團隊用 AI 起草投資組合檢討,屬第 3 級:回報數字從系統重新計算,風險描述對照已批准文件,再由持牌代表簽署,核實紀錄亦供內部審計查閱。
會計師行與顧問公司
會計師行用 AI 撰寫報告,對準則與判例的引用一律打開原文核對,並由負責項目的合夥人簽署。
哪些常見錯誤會令 AI 核實制度失效?
常見失誤包括:以政策培訓代替控制、讓輸入提示的人自行批准、只檢查看似有問題的部分,以及把另一個 AI 的確認當作證據。每一個都是缺口,限期壓力遲早會把錯誤從缺口推出去,而且往往出現在當季最重要的文件。
每一個被攔截的錯誤都是免費數據。按任務類型與工具記錄,一季之內便知道 AI 在哪裏增加風險。
怎樣向董事會匯報 AI 輸出品質?
每季匯報三個數字:核實覆蓋率,即第 3 及第 4 級輸出中有核實紀錄的比例;發出前攔截的錯誤;以及流到客戶或監管機構的錯誤。董事會需要的是證據,證明 AI 輔助的工作與其他客戶文件受到同樣嚴格的控制。
據 Global Legal Post 報道,Gartner 已建議企業法律總監考慮直接購買 AI 保險,因為保險公司正在傳統保單中加入 AI 除外條款。一條持續下降的錯誤外流率,是回應保險公司與審計師的最佳答案。
核實,是 AI 能夠擴展的前提
被 AI 錯誤拖累的機構,往往不是沒有政策,而是政策只管使用、從未規定發出標準。分級核實加上具名簽署,便能補上缺口。
本月先處理第 3 及第 4 級輸出:指定簽署人、寫好核實步驟,並開始統計攔截到的錯誤。下次董事會開會時,你便有一套可以展示的控制。
懂AI的冷,更懂你的難。UD 同行28年,讓科技成為有溫度的陪伴
先在一個職位,用上經過核實的 AI
由免費 AI 員工配置評估開始:梳理一個工作流程,設定覆核節點與簽署人。UD 團隊手把手帶你完成每一步。
常見問題
可以用第二個 AI 模型核實第一個模型的輸出嗎?
不可靠。第二個模型可以標示值得檢查的段落,但模型之間可能有相同盲點,甚至會確認虛構的來源。AI 交叉檢查只宜用作分流,不能當作核實紀錄。
《私隱條例》與 AI 生成的個人資料有關嗎?
有關。《個人資料(私隱)條例》保障資料第 2 原則,要求資料使用者採取所有切實可行的步驟確保個人資料準確,AI 生成有關客戶或員工的陳述同樣適用。
AI 輔助的客戶文件,應由誰簽署?
應由假如沒有使用 AI 時本來就會簽署的人負責,通常是負責該客戶關係的合夥人、經理或持牌代表,而不是輸入提示的員工。