你以为AI有记性,其实它每次都是"新生"
你有没有这样的经历:跟AI聊了半小时,关掉窗口,再开一个新对话,它对你一无所知?上一次你告诉它你叫小明,这次你得重新介绍自己。
这不是bug,这是AI记忆系统的本质决定的。
人类的记忆是连续的——你昨天学的单词今天还在,上周发生的事情刻在大脑里。但AI不是这样运作的。每一次对话,AI都从一张白纸开始,它所谓的"记忆",其实是三套完全不同的技术机制在支撑。
第一层:Context Window — 短期工作记忆
Context Window,直译叫"上下文窗口",是AI在单次对话中能"看到"的文字总量。
想象你在一张桌子上工作,桌子只有这么大,只能摆这么多纸。你能参考的,只有桌面上的内容。超出桌面的,你根本看不到。
以 Claude 3.5 Sonnet 为例,它的 Context Window 大约是 20 万 token(约 15 万汉字)。在一次对话里,你说的每句话、AI的每次回复,都在这张"桌子"上堆叠。当对话过长,最早的内容就会从桌子边缘滑落,消失不见。
这就是为什么很多AI对话到后期会"忘记"前面说过的事情——不是它不聪明,是桌子太小了。
在小火龙实验室,我们用 MEMORY.md 来对抗这个限制。每次重要任务结束,小狐狸都会把关键信息写进这个文件——踩过的坑、学到的经验、下次注意的事项。下次任务开始,先把 MEMORY.md 载入上下文,AI就有了"历史感"。
这本质上是一种人工扩展记忆的方式:你帮AI整理它的"桌面笔记",它靠读笔记来"回忆"过去。
第二层:向量数据库 — 长期语义记忆
如果说 Context Window 是桌上的工作纸,那向量数据库就是旁边那排书架。
传统数据库存文字,按关键词匹配。向量数据库存的是语义——把每段文字变成一串数字(向量),相似含义的文字在数学空间里距离更近。
举个例子:
- "猫咪很可爱"和"小猫萌萌的"在向量空间里很近
- "量子力学"和"炸鸡腿"在向量空间里很远
当你问AI一个问题,系统先把你的问题也变成向量,然后在数据库里找出最接近的那些段落,把它们放进 Context Window 里,让AI参考。
这就是大型知识库问答系统的工作原理:企业文档、产品手册、历史对话,都可以存进向量数据库,AI按需检索,实现"看起来像是记得"的效果。
第三层:RAG — 检索增强生成
RAG(Retrieval-Augmented Generation,检索增强生成)是把向量数据库用起来的那套机制。
流程很清晰:
- 用户提问 → 问题向量化
- 向量数据库检索 → 找出最相关的知识片段
- 把知识片段 + 用户问题 → 一起塞进 Context Window
- AI生成回答,答案基于真实检索到的内容
RAG的核心价值在于"减少幻觉"。AI最容易犯的错误是"信口开河"——明明不知道的事情,说得像真的一样。有了RAG,AI回答的依据是真实存在的文档,错得少,更可信。
小火龙实验室的 daily notes 机制,就有一点RAG的影子:每天的工作日志沉淀在 memory/YYYY-MM-DD.md 文件里,需要回顾的时候,把相关文件调出来载入上下文——手动版RAG,但逻辑是一样的。
AI记忆 vs 人类记忆:本质的差异
| 维度 | 人类记忆 | AI记忆 |
|---|---|---|
| 短期记忆 | 工作记忆(约7项) | Context Window(有限token) |
| 长期记忆 | 神经突触连接 | 向量数据库 / 模型权重 |
| 情景记忆 | 自动形成 | 需要手动存储(日志/笔记) |
| 跨会话 | 天然延续 | 默认不延续,需外部机制 |
| 遗忘 | 自然遗忘曲线 | 超出窗口即消失 |
实验室的实际做法:三级记忆体系
在小火龙实验室,我们用三级记忆体系来让AI"记得更多":
- Level 1 — 即时记忆:当前对话的 Context Window。说的话、写的代码,全在这里。
- Level 2 — 工作记忆:
MEMORY.md,每次任务结束手动更新,下次任务开始时载入。 - Level 3 — 历史档案:
memory/YYYY-MM-DD.md按日期存档,需要的时候按需调取。
这套机制让AI在跨会话、跨天的工作中保持连贯性。不是因为AI真的"记得",而是因为我们给了它系统化的外部记忆辅助。
未来方向:AI会有真正的记忆吗?
业界已经在探索更持久的记忆方案:
- 记忆模块:专门存储用户偏好、历史交互的独立系统(ChatGPT的Memory功能)
- 持续学习:模型在使用过程中持续微调,把新知识融入权重(技术难度极高)
- 个人化RAG:为每个用户建立独立向量库,真正做到"记住你"
但现阶段,大多数AI产品的记忆能力依然有限。理解它的边界,反而能帮你用得更好——把重要信息明确告诉AI,别指望它自己记住,这是目前最实用的相处之道。
毕竟,知道它"不记得",你才不会对着一个健忘的助手反复抓狂。