![]()
你是否覺得 AI 聊著聊著就「失憶」、越聊越走樣?問題往往不是它記性差,而是你沒有分層管理它的記憶。AI 的記憶其實不止一層,而是由即時的工作記憶到長期的外部知識庫,共五個層次。懂得哪類資料該放哪一層、何時清理、何時交接,AI 才會長期又準又不失憶。以下逐層拆解與實戰流程。
AI 記憶不止一層:5 層總覽
AI 記憶可分為五層:第一層是即時的 Context Window(工作記憶);第二層是單次對話的摘要與交接;第三層是 Project/Custom Instructions 的持久設定;第四層是帳戶層級的全域記憶;第五層是外部記憶(檔案、RAG、跨平台記憶工具)。每層的容量、持久度與用途都不同,混為一談正是失憶的根源。
第 1 層:Context Window(工作記憶)與 context rot
Context Window 是 AI 當下能看到的全部文字,等同「工作記憶」。以 2026 年 3 月為例,Claude Opus 4.6 與 Sonnet 4.6 支援 100 萬 token,約 75 萬字。但塞得越滿不代表越好:token 一多,準確度與召回率反而下降,這種現象稱為「context rot」,所以「放什麼進去」比「能放多少」更重要。
第 2 層:對話摘要與 60% Handoff 法則
最有效的長對話技巧是「交接流程」:當對話用到約 6 成容量時,先請 AI 摘要目前進度,再開一個新對話、貼上摘要接住做。若把對話推到 9 成容量,推理會明顯下降、幻覺增加,因為模型開始追不上早前的邏輯。定期摘要與交接,是維持準確度的關鍵動作。
第 3 層:Project/Custom Instructions(持久設定)
這一層用來存放「每次都用得到」的穩定資訊。Custom Instructions 寫下你的身份與偏好,全程通用;Project 則把背景檔案與系統提示綁在專案內,同專案的對話都能調用。把長期不變的脈絡放這層,就不必反覆貼進 Context Window,也減輕 context rot。
第 4 層:帳戶全域記憶(Claude vs ChatGPT)
帳戶全域記憶指跨對話自動記住的事實,但各家做法不同。ChatGPT 的記憶分「自訂指示」與「已儲存事實」兩部分,適用於帳戶內每個對話;Claude 則把記憶範圍限定在 Project 之內,各專案各自持有知識,並不維持跨對話的全域記憶。了解差異,才知道敏感或私密資訊會被記到哪裡。
第 5 層:外部記憶(檔案/RAG/跨平台工具)
外部記憶是模型以外的持久儲存:上傳的檔案、RAG 知識庫、筆記系統,乃至跨平台記憶工具。它可以跨對話、跨日子、甚至跨不同 AI 保留你的脈絡、偏好與知識。當資訊量大、需長期沉澱時,這一層才是你真正的「長期記憶庫」,而非塞進當次對話。
每層該放什麼、何時清理
分配原則很簡單:當次任務的即時內容放 Context Window,用完即清;長對話進度放摘要層並定期交接;穩定偏好與專案背景放 Project/Custom Instructions;跨對話事實交給全域記憶但定期檢視;大量長期知識放外部記憶。凡是過時或無關的內容,就從對應層次移除,避免污染輸出。
分層管理實戰流程
一套可落地的流程:開工前把穩定背景寫進 Custom Instructions/Project;對話中只餵當次需要的資料,重要指令放最前、關鍵資料放最後;用到 6 成容量就摘要並交接新窗;長期知識沉澱到外部記憶庫;定期清理全域記憶中的過時事實。照這流程走,AI 的表現就能長期穩定。
常見錯誤
最常見的三個錯誤:一,把所有資料一股腦塞進 Context Window,觸發 context rot 令答案變差;二,一個對話用到底、從不交接,導致後段邏輯崩壞;三,把只用一次的內容寫進全域記憶,污染日後所有對話。避開這三點,並依五層各司其職,AI 就能長期又準又可靠。想把分層記憶管理落地到團隊工作流?前往 ai.ud.hk 了解更多 UD 的 AI 員工方案,看看 AI 如何成為你團隊中長期可靠的一員。
懂AI,更懂你|UD相伴,AI不冷