你以為AI有記性,其實它每次都是「新生」

你有沒有這樣的經歷:跟AI聊了半小時,關掉視窗,再開一個新對話,它對你一無所知?上一次你告訴它你叫小明,這次你得重新介紹自己。

這不是bug,這是AI記憶系統的本質決定的。

人類的記憶是連續的——你昨天學的單字今天還在,上週發生的事情刻在大腦裡。但AI不是這樣運作的。每一次對話,AI都從一張白紙開始,它所謂的「記憶」,其實是三套完全不同的技術機制在支撐。

第一層:Context Window — 短期工作記憶

Context Window,直譯叫「上下文視窗」,是AI在單次對話中能「看到」的文字總量。

想像你在一張桌子上工作,桌子只有這麼大,只能擺這麼多紙。你能參考的,只有桌面上的內容。超出桌面的,你根本看不到。

以 Claude 3.5 Sonnet 為例,它的 Context Window 大約是 20 萬 token(約 15 萬漢字)。在一次對話裡,你說的每句話、AI的每次回覆,都在這張「桌子」上堆疊。當對話過長,最早的內容就會從桌子邊緣滑落,消失不見。

這就是為什麼很多AI對話到後期會「忘記」前面說過的事情——不是它不聰明,是桌子太小了。

在小火龍實驗室,我們用 MEMORY.md 來對抗這個限制。每次重要任務結束,小狐狸都會把關鍵資訊寫進這個檔案——踩過的坑、學到的經驗、下次注意的事項。下次任務開始,先把 MEMORY.md 載入上下文,AI就有了「歷史感」。

這本質上是一種人工擴展記憶的方式:你幫AI整理它的「桌面筆記」,它靠讀筆記來「回憶」過去。

第二層:向量資料庫 — 長期語義記憶

如果說 Context Window 是桌上的工作紙,那向量資料庫就是旁邊那排書架。

傳統資料庫存文字,按關鍵字匹配。向量資料庫存的是語義——把每段文字變成一串數字(向量),相似含義的文字在數學空間裡距離更近。

舉個例子:

  • 「貓咪很可愛」和「小貓萌萌的」在向量空間裡很近
  • 「量子力學」和「炸雞腿」在向量空間裡很遠

當你問AI一個問題,系統先把你的問題也變成向量,然後在資料庫裡找出最接近的那些段落,把它們放進 Context Window 裡,讓AI參考。

這就是大型知識庫問答系統的工作原理:企業文件、產品手冊、歷史對話,都可以存進向量資料庫,AI按需檢索,實現「看起來像是記得」的效果。

第三層:RAG — 檢索增強生成

RAG(Retrieval-Augmented Generation,檢索增強生成)是把向量資料庫用起來的那套機制。

流程很清晰:

  1. 使用者提問 → 問題向量化
  2. 向量資料庫檢索 → 找出最相關的知識片段
  3. 把知識片段 + 使用者問題 → 一起塞進 Context Window
  4. AI生成回答,答案基於真實檢索到的內容

RAG的核心價值在於「減少幻覺」。AI最容易犯的錯誤是「信口開河」——明明不知道的事情,說得像真的一樣。有了RAG,AI回答的依據是真實存在的文件,錯得少,更可信。

小火龍實驗室的 daily notes 機制,就有一點RAG的影子:每天的工作日誌沉澱在 memory/YYYY-MM-DD.md 檔案裡,需要回顧的時候,把相關檔案調出來載入上下文——手動版RAG,但邏輯是一樣的。

AI記憶 vs 人類記憶:本質的差異

維度人類記憶AI記憶
短期記憶工作記憶(約7項)Context Window(有限token)
長期記憶神經突觸連接向量資料庫 / 模型權重
情景記憶自動形成需要手動儲存(日誌/筆記)
跨會話天然延續預設不延續,需外部機制
遺忘自然遺忘曲線超出視窗即消失

實驗室的實際做法:三級記憶體系

在小火龍實驗室,我們用三級記憶體系來讓AI「記得更多」:

  • Level 1 — 即時記憶:當前對話的 Context Window。說的話、寫的程式碼,全在這裡。
  • Level 2 — 工作記憶MEMORY.md,每次任務結束手動更新,下次任務開始時載入。
  • Level 3 — 歷史檔案memory/YYYY-MM-DD.md 按日期存檔,需要的時候按需調取。

這套機制讓AI在跨會話、跨天的工作中保持連貫性。不是因為AI真的「記得」,而是因為我們給了它系統化的外部記憶輔助。

未來方向:AI會有真正的記憶嗎?

業界已經在探索更持久的記憶方案:

  • 記憶模組:專門儲存使用者偏好、歷史互動的獨立系統(ChatGPT的Memory功能)
  • 持續學習:模型在使用過程中持續微調,把新知識融入權重(技術難度極高)
  • 個人化RAG:為每個使用者建立獨立向量庫,真正做到「記住你」

但現階段,大多數AI產品的記憶能力依然有限。理解它的邊界,反而能幫你用得更好——把重要資訊明確告訴AI,別指望它自己記住,這是目前最實用的相處之道。

畢竟,知道它「不記得」,你才不會對著一個健忘的助手反覆抓狂。