很多老闆第一次遇到這個情況時都會嚇一跳：你把一份四十頁的供應商合約貼進 AI 對話框，問一條關於第十二條款的尖銳問題，AI 答得完美無缺。過了一小時，你在同一個對話裡追問一句，AI 卻表現得好像從未看過那份合約。系統沒有壞，你只是撞到了上下文窗口的邊界，而這正是決定你的 AI 能處理什麼、不能處理什麼的最關鍵限制。
什麼是 AI 的上下文窗口？
上下文窗口，是 AI 模型在同一時間可以放進工作記憶裡的最大文字量，以「token」為單位計算。你的問題、你貼進去的文件、AI 自己的回覆，全部都要佔用這個空間。它是一次對話的短期記憶，一旦裝滿，最舊的資料就會被擠出視野之外。
你可以把它想像成會議室裡的一塊白板。白板的書寫空間是固定的，只要筆記寫得下，所有人都能看到完整內容。當白板寫滿、你還要繼續寫，就必須把上方擦掉，騰出下方的位置。AI 做的事一模一樣，而被擦掉的部分，在那次對話裡就等於徹底消失了。
上下文窗口實際上如何運作？
上下文窗口的運作方式，是先把所有文字轉換成 token，再只處理窗口容量以內的 token 數量。根據 IBM 的說明，一個 token 大約等於三至四個英文字符，或約零點七五個英文單詞。一個十二萬八千 token 的窗口，一次可以容納數百頁文字。
每次你送出訊息，AI 都會把窗口裡的整段對話由頭再讀一次，然後才決定如何回答。在這個窗口以外，它沒有任何記憶。
以下是窗口必須同時容納的內容：
- 你的指令與問題
- 你貼進去的文件、電郵或數據
- AI 在同一對話中先前的回覆
- 影響它行為的隱藏系統規則
當總量超過上限，模型就會悄悄忘記最早的資料，好讓最新的內容留在視野之內。
為什麼 AI 好像會忘記你剛剛說過的話？
AI 之所以會忘記，是因為對話已經長過上下文窗口，最早的細節被擠出去騰出空間。這不是故障，也不是 AI 偷懶，而是那些資訊實際上已經放不進模型能看見的記憶裡。
還有一個更微妙的原因，稱為中段遺失效應。研究一致發現，模型對窗口開頭和結尾的資訊記得最牢，對中間部分記得最差。因此即使某個細節理論上仍在窗口以內，只要它被埋在一段很長對話的正中央，AI 也可能會忽略它。
對老闆來說，實用的一課很簡單：把你最重要的指令放在訊息的開頭或結尾，不要夾在一大段文字的中間。
2026 年的上下文窗口有多大？
在 2026 年，上下文窗口的大小由入門模型的約十二萬八千 token，到頂級模型的超過一百萬 token 不等。要想像一百萬 token 有多大，可以設想大約一千五百頁文字，相當於好幾本厚小說，同時攤在眼前。
這個躍進來得又快又猛。2026 年 7 月，Meta 的 Muse Spark 1.1 帶著一百萬 token 的窗口推出，DeepSeek 亦發布了同樣以一百萬 token 容量為核心、專門應付長篇多步任務的 V4 系列。Google 的 Gemini 更把上限推到兩百萬 token，而 OpenAI 與 Anthropic 的旗艦模型則落在四十萬至一百萬 token 之間。
對你的生意而言，更大的窗口意味著 AI 可以一次讀完一整年的發票、整本員工手冊，或一段很長的客戶對話紀錄，而不必你一次只餵幾頁給它。
上下文窗口對中小企有什麼意義？
對中小企來說，上下文窗口決定了 AI 在單一任務裡能處理多少你真實世界的材料，由長合約到完整的客戶紀錄都是。把窗口大小配合工作需要，正是一個有用答案與一個自信卻不完整答案之間的分別。
以下是香港中小企老闆一看就明白的實例：
- 餐廳老闆把一份三十頁的租約貼進去，請 AI 標出每一條關於加租的條款。大窗口能讀完全部三十頁；小窗口可能只看到最前幾頁。
- 零售店主把三個月的 WhatsApp 客戶對話餵給 AI，找出最常見的投訴。這只有在窗口大得足以裝下整份紀錄時才行得通。
- 地產代理上傳一份完整的大廈管理報告，請 AI 為客戶草擬摘要。一份長報告可能超出小窗口，中途就被截斷。
重點不是越大越必要。回一封簡短電郵，小窗口已經綽綽有餘。真正的技巧，是懂得判斷哪一項工作需要更大的窗口。
關於上下文窗口，最常見的誤解是什麼？
最常見的誤解，是以為上下文窗口等於永久記憶。事實並非如此。上下文窗口只是暫時的，而且只限於單一對話。當你開一個全新的對話，窗口就會被清空，AI 對之前的內容一無所知。
另外三個值得澄清的迷思：
- 「越大越好。」更大的窗口運行成本更高，也可能分散焦點。用一百萬 token 的窗口去回答一句話的問題，是一種浪費。
- 「一百萬 token 的窗口代表 AI 會完美讀完所有內容。」中段遺失效應意味著，被埋在龐大輸入正中央的細節，仍然可能被漏掉。
- 「上下文窗口和訓練是同一回事。」訓練是模型在認識你之前就學會的通用知識；上下文窗口只是你此刻給它看的東西。
關於上下文窗口的常見問題
以下針對老闆最常問的上下文窗口問題，給出簡短直接的答案，涵蓋記憶、成本與日常使用。
AI 會記得我上一次的對話嗎？
單靠上下文窗口不會。一段對話結束後，那個窗口就會被清空。有些工具會在其上額外加設「記憶」功能，但基本的上下文窗口在每次新對話都會歸零。
更大的上下文窗口會更貴嗎？
通常會。大部分 AI 服務按 token 收費，把一份龐大文件餵進大窗口會用掉更多 token，成本自然比一個簡短提示要高。
一百萬 token 等於多少頁？
大約一千五百頁純文字，不過圖片、表格與格式同樣會佔用 token，因此實際數字會有出入。
如果我超出上限會怎樣？
AI 會丟掉最舊的內容來騰出空間，或者工具會提示你、請你開一個新對話。無論哪種情況，被擠出去的材料都不會再被考慮。
對你生意的關鍵結論
上下文窗口，是你日後幾乎每一項 AI 任務背後那把看不見的尺。理解了它，那些 AI「失憶」的神秘時刻就不再令人氣餒，反而變得可以預測。你會知道何時該開新對話、把關鍵指令放在哪裡，以及哪些工作需要重量級模型、哪些用輕量的就夠。
這一切都不需要技術背景，只需要有人用平實的語言把它講清楚，而這正是我們認為好技術應有的分享方式。懂AI，更懂你 UD相伴，AI不冷。
與 UD 一起把知識化為行動
認識上下文窗口，能幫你把日常 AI 工具用得更好。下一步，是把這份理解變成生意上真正的流程，由餵對的文件給 AI，到為每項工作挑對的工具。UD 陪伴香港中小企走過這條路已經 28 年，我們會手把手教你，由你的第一條問題，到一套能運作的方案。
