一個正在香港各企業會議室上演的場景
一家地區性保險公司的法律團隊已使用AI研究助手三個月。該工具一直在生成結構清晰的摘要，提取案例參考資料，節省了大量人工工作。某天早上，一位助理律師向合規委員會提交了一份監管簡報，其中包含三個根本不存在的案例引用。AI以十足的把握生成了它們——格式準確、案件名稱合理、論點結構令人信服。直到一位資深合夥人核查來源，才發現問題所在。
這不是假設情境。這是當今企業AI部署中最常見的故障形式，它有一個名稱：幻覺（Hallucination）。了解AI幻覺是什麼、為何發生、以及如何系統性地降低其影響，不是IT部門的問題——而是一個治理和風險管理問題，直接歸屬於財務總監和營運總監的職責範疇。
什麼是AI幻覺，為何這個概念在戰略層面至關重要
AI幻覺是指大型語言模型生成事實上不正確、具有誤導性或完全虛構的內容，卻以與準確信息相同的流暢度和確定性呈現的現象。模型並不「知道」自己的回答是錯誤的，它不會標記不確定性，而是生成在統計上最有可能的詞語序列，有時會產生聽起來合理卻無法在沒有專業核查的情況下與事實區分的謊言。
這個概念在戰略層面至關重要，因為它重新定義了企業領袖思考AI部署的方式。問題不是「這個AI系統是否準確？」因為目前沒有任何AI系統能在所有輸入情境下完全準確。真正的問題是：「這個系統在什麼條件下產生幻覺、頻率如何、以及我們有哪些機制在錯誤對業務、法律或聲譽造成損害之前將其捕獲？」
Gartner 2026年3月關於大型語言模型可觀測性的研究預測，到2028年，50%的企業生成式AI部署將包含正式的大型語言模型可觀測性投資，而目前這一比例僅為15%。這一趨勢反映了業界的共識：幻覺不是下一個模型版本即將修復的臨時缺陷，而是當前AI架構的根本特性，需要系統性管理。
AI系統為何產生幻覺：問題背後的架構邏輯
大型語言模型通過預測基於訓練數據中學到的模式最有可能出現的下一個詞元來生成文本。它們不從結構化數據庫中檢索已驗證的事實，也不維護一張「已知與推測」的知識地圖。當被問及超出訓練數據範圍的問題，或當訓練數據本身存在衝突或不完整時，模型會用聽起來合理的內容填補空白，而非承認不確定性。
三種結構性條件在企業場景下會增加幻覺頻率。第一，知識時效性問題：訓練截止日期之前的模型無法準確回答後續發生的事件、法規或市場狀況相關問題。第二，特殊性壓力：當用戶提出高度具體的問題時，例如準確的監管條文編號、具體案例引用、特定合同條款參考，模型更傾向於捏造具體細節，而非承認自己沒有確切信息。第三，上下文長度問題：非常長的文件或複雜的多步驟推理鏈會增加錯誤傳播的風險，推理鏈早期一個微小的錯誤假設可能演變為實質性的錯誤結論。
對香港企業而言，實際影響是：幻覺風險在AI最具吸引力的使用場景中恰恰最高：法律和監管研究、需要精確引用的金融分析、合規文件，以及複雜的客戶溝通。而這些也恰恰是單一未被發現的錯誤可能引發重大法律責任的使用場景。
企業風險分類：如何評估幻覺暴露程度
並非所有幻覺都帶來同等風險。結構化的風險分類幫助企業領袖合理分配控制投資。在大多數企業AI部署中，適用三個幻覺暴露等級。
第一級——高風險事實性聲明：將向客戶、監管機構或交易對手呈現為事實斷言的輸出。例如監管合規報告、法律研究摘要、投資委員會的財務分析，以及盡職調查文件。此等級的幻覺可能造成直接法律責任和聲譽損害。任何輸出在離開組織之前，都需要強制性的專家人工審核。
第二級——內部決策支持：員工用於為內部決策提供參考的輸出，包括市場分析、競爭情報、人力資源政策摘要、運營規劃。此等級的幻覺造成的是決策質量風險，而非直接的外部法律責任。需要結構化的人工審核工作流程，以及在條件允許的情況下對輸出的置信度評分。
第三級——流程自動化與日常起草：自動化重複性、低風險任務的輸出，包括會議紀要、電子郵件草稿、數據格式化、初始文件模板。此等級的幻覺通常在採取任何行動前通過輕量級人工審核被捕獲，可以通過定期抽樣和自動化護欄而非全面的專家審核來管理。
四種已驗證的技術控制措施，系統性降低幻覺風險
企業技術團隊擁有四種降低幻覺頻率和影響的主要技術控制措施。沒有任何一種能完全消除幻覺，但合在一起，它們構建了一個使幻覺可管理的治理架構。
控制一——檢索增強生成（RAG）：RAG系統在查詢時檢索相關的已驗證文件或數據，並將明確的來源材料提供給模型使用，而非僅依賴模型訓練所得的知識。Gartner建議將RAG作為知識密集型工作流程中應對企業幻覺的首要緩解措施。
控制二——輸出護欄與置信度評分：現代企業AI平台可以配置護欄，標記低置信度輸出，檢測常見的幻覺模式（例如不存在的URL、日期不合理的引用格式），並將不確定的回應路由到人工審核隊列，而非自動交付給用戶。Gartner 2026年4月的指引建議法律總顧問將AI護欄架構評估納入AI風險管理框架。
控制三——大型語言模型可觀測性基礎設施：可觀測性工具在生產環境中監控模型輸出，追蹤哪些查詢類型產生最高錯誤率，哪些用戶群體遇到最多幻覺，以及錯誤率是否隨底層模型更新而變化。Gartner預測到2028年50%的企業生成式AI部署將採用正式的可觀測性——現在實施此基礎設施的組織將在校準幻覺控制方面擁有兩年的數據優勢。
控制四——提示工程標準：許多幻覺可以通過更好的提示構建來預防。指定所需回應格式的提示、要求模型標記不確定性的提示，以及提供真實事實作為上下文的提示，能顯著降低幻覺率。麥肯錫2026年企業AI分析發現，在AI系統中實現頂四分位準確率的組織，會系統性地為所有AI用戶（而不僅僅是技術團隊）投資提示工程培訓。
治理框架：建立幻覺風險登記冊
僅有技術控制措施而沒有組織治理框架是不夠的。企業領袖應建立幻覺風險登記冊——一份結構化文件，將每個AI使用場景與其幻覺風險等級、現有技術控制措施、人工審核流程，以及在未被發現的幻覺造成損害時的升級協議相對應。
幻覺風險登記冊包含四列。第一列列出使用場景（例如「合規團隊的監管研究」）。第二列分配風險等級（1、2或3級）。第三列列出現有控制措施——RAG、護欄、提示標準、人工審核頻率。第四列定義第一級幻覺到達客戶或監管機構後的補救協議——誰負責響應、通知程序是什麼，以及AI系統暫停的標準。
懂AI，更懂你 — UD相伴，AI不冷。AI幻覺不是停止AI計劃的理由，而是以正確方式建立AI計劃的理由——配備將強大但不完美的技術轉化為可靠業務資產的控制措施、治理體系和專業知識。
以信心而非盲目樂觀部署AI
UD的AI Staff解決方案內置企業可靠性控制措施——受治理的工作流程、人工審核節點，以及28年香港企業技術風險管理的實戰經驗。UD團隊手把手帶你完成每一步，從使用場景風險評估和控制設計，到配備財務總監和合規團隊所需治理架構的生產部署。