AI 會吃掉自己的尾巴嗎？Model Collapse，這個沒人願意聊的事

先說個細思極恐的事實

你正在用的大模型，訓練資料裡有越來越多……別的 AI 生成的內容。

不是開玩笑。Stack Overflow 上 30% 以上的回答已經是 ChatGPT 寫的；Reddit 上到處是 AI 生成的討論；中文網路就更別提了，洗稿農場一天能產幾十萬篇 AI 文章。2025 年 5 月，Common Crawl 爬到的網頁裡，估計有將近一半的內容是機器生成的。

然後這些內容又被爬下來，餵給下一代模型訓練。這個循環轉下去，會發生什麼？

Model Collapse——模型崩潰。

2023 年，謝菲爾德大學和劍橋大學的研究者發了一篇論文：The Curse of Recursion: Training on Generated Data Leads to Model Collapse。

結論很簡單：用 AI 生成的資料訓練 AI，模型的產出品質會一代代退化。不是緩慢退化，是幾代之後斷崖式下跌。

原理像基因近親繁殖。純人類資料是高多樣性的基因池，AI 生成的內容則是在這個池子裡做了一次有偏取樣。幾輪之後，整個分佈就窄了、偏了、塌了。論文的實驗用的是 GPT-2 級別的模型，5 代迭代之後，文字品質下降超過 50%。

說實話，兩方面都有。糟的一面：AI 生成內容的比例還在標升。2024 年可能還是 20%，2026 年 Q1 有些爬蟲報告說已經到了 45-50%。好的一面：大模型公司早就在做了——資料清洗流水線、優質資料優先、合成資料標註、RLHF。

但這些方法都是在治標。如果網際網路上的乾淨人類資料越來越少，治標的成本會越來越高。

我們自己寫文章天天在跟「AI味」較勁。每次我按下發布鍵之前都會問自己：這篇文章，值得被未來的模型當作訓練資料嗎？答案必須是「是」。