一位求職者向美國一間網上補習公司遞交了兩份申請，內容完全相同，只改了出生日期。顯示她年過 55 歲的那一份被系統自動拒絕；改成較年輕日期的那一份，卻收到面試邀請。原來公司的篩選軟件被設定為自動拒絕 55 歲或以上的女性及 60 歲或以上的男性。2023 年，這間公司以 365,000 美元與美國平等就業機會委員會（EEOC）達成和解。
整件事沒有人刻意歧視誰，只是軟件默默地重複了數百次。這正是 AI 偏見最麻煩的地方：它看起來不像歧視，反而像效率。本文會說明 AI 偏見是什麼、它如何藏在日常工具之中，以及香港老闆如何在不懂技術的情況下自行檢查。
什麼是 AI 偏見？
AI 偏見是指 AI 系統以一致、可重複的方式不公平地對待某些人或情況，原因通常來自它學習的數據或被設定的規則。結果會形成固定模式：某些姓名、年齡、性別、口音或地區，總是得到較差的答案、較低的分數或較少的機會。
想像茶餐廳請了一位新伙計，由一位只會把好位留給熟客的主管帶了半年。沒有人教他看人下菜碟，但他照樣學會了。AI 的學習方式相同，只是它每天服務數千人，而且從不質疑自己學到的東西。
AI 為什麼會產生偏見？
AI 偏見主要有四個來源：從不平衡的歷史數據中學習、抓住代表年齡或性別的隱藏線索、有人把不公平的規則寫進系統，以及系統本身的決定不斷回饋到下一輪學習。四者都不需要惡意，所以即使是用心良苦的公司也會中招。
--- 不平衡的歷史：據路透社 2018 年報道，Amazon 放棄了一個實驗性的招聘 AI，因為它會降低含有「women's」一字的履歷評分。系統以過去十年的履歷學習，而當中大多數來自男性。
--- 隱藏線索：刪除「年齡」欄位並不代表資訊消失。畢業年份透露年齡，學校、地區或工作空檔亦可能透露性別、種族或家庭狀況。
--- 人為規則：上述補習公司的案例根本不算高深的 AI，只是有人把年齡門檻寫進篩選軟件，自動化令不公平的規則執行得更快、更安靜。
中小企在哪些地方最容易遇到 AI 偏見？
對香港中小企而言，AI 偏見最常出現在五個地方：履歷篩選、客服聊天機械人、市場推廣圖片與廣告投放、定價或信貸決定，以及以 AI 總結員工或客戶意見。這些工具都在高速地對「人」作出判斷，不公平的模式往往在無人察覺時已經放大。
--- 招聘：AI 因為履歷有較長空檔、畢業年份較早或非本地大學而把求職者排到後面。
--- 客服：聊天機械人能理解標準中英文，卻對中英夾雜、簡體字或有錯字的查詢回答得較差。
--- 推廣：要求圖像生成工具畫「成功的老闆」，結果總是同一年齡和性別，宣傳品便不知不覺地告訴客人你的品牌屬於誰。
簡單原則：只要 AI 的結果會影響一個人能否得到工作、價格、服務或第二次機會，就值得做一次偏見檢查。
工具有偏見，公司要負責嗎？
要。香港四條反歧視條例看的是結果，而不是方法。如果你使用的 AI 工具因性別、懷孕、殘疾、家庭崗位或種族而給予較差待遇，你的公司所承擔的風險，與員工親自作出同一決定時並無分別。
這四條條例是《性別歧視條例》、《殘疾歧視條例》、《家庭崗位歧視條例》及《種族歧視條例》，涵蓋僱傭以及不少貨品與服務的提供，投訴由平等機會委員會處理。
海外亦已有先例。在 Mobley 訴 Workday 一案中，求職者指控多間僱主採用的 AI 篩選工具因種族、年齡及殘疾而拒絕他。2026 年 6 月，美國聯邦法官 Rita Lin 拒絕撤銷核心指控（見 GPA 整理的報道），軟件供應商本身亦可能要負責。
如何自行檢查 AI 工具有沒有偏見？
大部分中小企工具都可以在一個下午內用四個步驟檢查：做替換測試、向供應商問三條問題、每個「拒絕」都由真人覆核，以及每月抽樣。整個過程不需要技術背景，只需要一張試算表和一點紀律。
第一步：替換測試。準備兩份完全相同的資料，只改姓名、年齡、性別或地區其中一項，分別輸入工具。如果分數、答案或價格出現變化，就值得深究。揭發補習公司的，正是這個方法。
第二步：問供應商三條問題。模型用什麼數據訓練？有沒有測試過不同群組的結果差異，可否提供報告？客人或求職者投訴時由誰負責？答不出來，本身已經是答案。
第三步：每個「拒絕」都由真人決定。AI 負責排序和建議，拒絕、婉拒及價格例外由人拍板。單是這一條，已能消除大部分法律風險。
第四步：每月抽樣。抽出 20 個最近的 AI 決定，看看誰得到什麼結果。若某類人總是排在最後，便暫停並查清楚。這些檢查可與其他 AI 護欄一併設立。
關於 AI 偏見的常見問題
以下是香港老闆最常提出的 AI 偏見問題，由 ChatGPT 是否有偏見，到偏見與「幻覺」有何分別。簡短答案方便你在購買或推出任何會評估「人」的 AI 工具之前，作快速參考。
ChatGPT 有偏見嗎？
所有大型語言模型都可能有偏見，因為它們從人類文字中學習。Bloomberg 2024 年的測試顯示，GPT-3.5 為內容相同、只有姓名不同的履歷排名時，結果會隨姓名暗示的種族與性別而改變。它對人的判斷只能當作建議。
偏見與 AI 幻覺有什麼分別？
AI 幻覺是捏造事實；偏見是傾斜的模式，即使每項事實都正確，亦可能出現。
用 AI 招聘前需要做偏見審核嗎？
香港沒有硬性規定，而紐約市自 2023 年起已要求自動化招聘工具接受偏見審核。替換測試加上真人覆核每個拒絕，是合理的最低標準。
結語：AI 要快，也要公平
AI 偏見不是科幻問題，也不只是大企業的問題。它是一個快速、不知疲倦的系統，把昨天的習慣複製到今天的決定之中。解決方法不是避開 AI，而是監督它：做替換測試、追問供應商、刪走隱藏線索，並讓真人負責每個影響別人工作、價格或服務的決定。
懂AI，更懂你 UD相伴，AI不冷
由 UD AI 團隊審閱。
不肯定同事正在使用的 AI 工具，對求職者和客人是否公平？歡迎免費做 AI 體檢，UD 團隊手把手教你，由盤點會評估「人」的工具，到建立替換測試和真人覆核流程，全程陪你走每一步。
