你以為AI有記性,其實它每次都是「新生」
你有沒有這樣的經歷:跟AI聊了半小時,關掉視窗,再開一個新對話,它對你一無所知?上一次你告訴它你叫小明,這次你得重新介紹自己。
這不是bug,這是AI記憶系統的本質決定的。
人類的記憶是連續的——你昨天學的單字今天還在,上週發生的事情刻在大腦裡。但AI不是這樣運作的。每一次對話,AI都從一張白紙開始,它所謂的「記憶」,其實是三套完全不同的技術機制在支撐。
第一層:Context Window — 短期工作記憶
Context Window,直譯叫「上下文視窗」,是AI在單次對話中能「看到」的文字總量。
想像你在一張桌子上工作,桌子只有這麼大,只能擺這麼多紙。你能參考的,只有桌面上的內容。超出桌面的,你根本看不到。
以 Claude 3.5 Sonnet 為例,它的 Context Window 大約是 20 萬 token(約 15 萬漢字)。在一次對話裡,你說的每句話、AI的每次回覆,都在這張「桌子」上堆疊。當對話過長,最早的內容就會從桌子邊緣滑落,消失不見。
這就是為什麼很多AI對話到後期會「忘記」前面說過的事情——不是它不聰明,是桌子太小了。
在小火龍實驗室,我們用 MEMORY.md 來對抗這個限制。每次重要任務結束,小狐狸都會把關鍵資訊寫進這個檔案——踩過的坑、學到的經驗、下次注意的事項。下次任務開始,先把 MEMORY.md 載入上下文,AI就有了「歷史感」。
這本質上是一種人工擴展記憶的方式:你幫AI整理它的「桌面筆記」,它靠讀筆記來「回憶」過去。
第二層:向量資料庫 — 長期語義記憶
如果說 Context Window 是桌上的工作紙,那向量資料庫就是旁邊那排書架。
傳統資料庫存文字,按關鍵字匹配。向量資料庫存的是語義——把每段文字變成一串數字(向量),相似含義的文字在數學空間裡距離更近。
舉個例子:
- 「貓咪很可愛」和「小貓萌萌的」在向量空間裡很近
- 「量子力學」和「炸雞腿」在向量空間裡很遠
當你問AI一個問題,系統先把你的問題也變成向量,然後在資料庫裡找出最接近的那些段落,把它們放進 Context Window 裡,讓AI參考。
這就是大型知識庫問答系統的工作原理:企業文件、產品手冊、歷史對話,都可以存進向量資料庫,AI按需檢索,實現「看起來像是記得」的效果。
第三層:RAG — 檢索增強生成
RAG(Retrieval-Augmented Generation,檢索增強生成)是把向量資料庫用起來的那套機制。
流程很清晰:
- 使用者提問 → 問題向量化
- 向量資料庫檢索 → 找出最相關的知識片段
- 把知識片段 + 使用者問題 → 一起塞進 Context Window
- AI生成回答,答案基於真實檢索到的內容
RAG的核心價值在於「減少幻覺」。AI最容易犯的錯誤是「信口開河」——明明不知道的事情,說得像真的一樣。有了RAG,AI回答的依據是真實存在的文件,錯得少,更可信。
小火龍實驗室的 daily notes 機制,就有一點RAG的影子:每天的工作日誌沉澱在 memory/YYYY-MM-DD.md 檔案裡,需要回顧的時候,把相關檔案調出來載入上下文——手動版RAG,但邏輯是一樣的。
AI記憶 vs 人類記憶:本質的差異
| 維度 | 人類記憶 | AI記憶 |
|---|---|---|
| 短期記憶 | 工作記憶(約7項) | Context Window(有限token) |
| 長期記憶 | 神經突觸連接 | 向量資料庫 / 模型權重 |
| 情景記憶 | 自動形成 | 需要手動儲存(日誌/筆記) |
| 跨會話 | 天然延續 | 預設不延續,需外部機制 |
| 遺忘 | 自然遺忘曲線 | 超出視窗即消失 |
實驗室的實際做法:三級記憶體系
在小火龍實驗室,我們用三級記憶體系來讓AI「記得更多」:
- Level 1 — 即時記憶:當前對話的 Context Window。說的話、寫的程式碼,全在這裡。
- Level 2 — 工作記憶:
MEMORY.md,每次任務結束手動更新,下次任務開始時載入。 - Level 3 — 歷史檔案:
memory/YYYY-MM-DD.md按日期存檔,需要的時候按需調取。
這套機制讓AI在跨會話、跨天的工作中保持連貫性。不是因為AI真的「記得」,而是因為我們給了它系統化的外部記憶輔助。
未來方向:AI會有真正的記憶嗎?
業界已經在探索更持久的記憶方案:
- 記憶模組:專門儲存使用者偏好、歷史互動的獨立系統(ChatGPT的Memory功能)
- 持續學習:模型在使用過程中持續微調,把新知識融入權重(技術難度極高)
- 個人化RAG:為每個使用者建立獨立向量庫,真正做到「記住你」
但現階段,大多數AI產品的記憶能力依然有限。理解它的邊界,反而能幫你用得更好——把重要資訊明確告訴AI,別指望它自己記住,這是目前最實用的相處之道。
畢竟,知道它「不記得」,你才不會對著一個健忘的助手反覆抓狂。