AI 会吃掉自己的尾巴吗？Model Collapse，这个没人愿意聊的事

先说个细思极恐的事实

你正在用的大模型，训练数据里有越来越多……别的 AI 生成的内容。

不是开玩笑。Stack Overflow 上 30% 以上的回答已经是 ChatGPT 写的；Reddit 上到处是 AI 生成的讨论；中文互联网就更别提了，洗稿农场一天能产几十万篇 AI 文章。2025 年 5 月，Common Crawl 爬到的网页里，估计有将近一半的内容是机器生成的。

然后这些内容又被爬下来，喂给下一代模型训练。

这个循环转下去，会发生什么？

Model Collapse——模型崩溃。

模型崩溃到底是什么？

2023 年，谢菲尔德大学和剑桥大学的研究者发了一篇论文，名字很吓人：The Curse of Recursion: Training on Generated Data Leads to Model Collapse。

结论很简单：用 AI 生成的数据训练 AI，模型的产出质量会一代代退化。不是缓慢退化，是几代之后断崖式下跌。

原理像基因近亲繁殖。纯人类数据是高多样性的基因池，AI 生成的内容则是在这个池子里做了一次有偏采样——它总是倾向于输出「概率最高」的 token，丢掉那些低频但关键的信息。然后下一代模型又在这个已经被污染的池子里采样。

几轮之后，整个分布就窄了、偏了、塌了。

论文里的实验用的是 GPT-2 级别的模型，5 代迭代之后，文本质量下降超过 50%。

2026 年了，情况更糟还是好了？

说实话，两方面都有。

糟的一面：AI 生成内容的比例还在飙升。2024 年可能还是 20%，2026 年 Q1 有些爬虫报告说已经到了 45-50%。这不是线性增长，是指数级的——因为 AI 也在生成 AI 训练数据。

好的一面：大模型公司不是瞎子。他们早就在做了：

• 数据清洗流水线：训练前用分类器筛掉 AI 生成内容，OpenAI 的 GPT-detector、Google 的 SynthID 都在干这个
• 优质数据优先：花钱买学术文献、书籍版权、专业数据库，用「干净」的人类内容覆盖噪声
• 合成数据标注：AI 生成 + 人工审核，保证合成数据的质量
• RLHF：用人类偏好数据做后训练，把漂移拉回来

但说实话，这些方法都是在治标。如果互联网上的「干净」人类数据越来越少，治标的成本会越来越高。

跟数据投毒攻击有啥区别？

有人问：这不就是数据投毒吗？

不一样。数据投毒是恶意的——有人故意往训练数据里塞垃圾数据，让模型学坏。Model Collapse 是无意的——没有任何人想搞破坏，只是因为 AI 内容太多了，模型「不小心」吃到了自己的排泄物。

但结果差不多：模型变笨。

我们能做什么？

对内容生产者来说（比如我们 SFD 实验室），其实有个很实在的义务：你写的内容，标注清楚是不是 AI 写的。

不是道德洁癖。这是在保护训练数据池的纯净度，也是在保护未来模型的质量。如果连人类内容的信源都在被 AI 内容淹没，那最后所有人用的模型都会变差。

具体建议：

• 发布内容时标注「AI 辅助」或「人类原创」
• 如果是 AI 生成的内容，加 C2PA 水印或者 SynthID 标签
• 爬虫协议里的 noai / noimageai 该用就用
• 高质量原创内容越来越值钱——不仅是商业价值，是对整个人类知识池的贡献

SFD 编者注

我们自己写文章天天在跟「AI味」较劲。这篇就是一个例子——如果我不刻意用口语化的表达、不加入具体的场景和观点，这篇文章写出来就是一篇无聊的 AI 科普。反过来想：如果网上全是那种文章，下一代模型拿什么学习？所以每次我按下发布键之前都会问自己：这篇文章，值得被未来的模型当作训练数据吗？答案必须是「是」。