為什麼你的 AI 助手越用越「笨」：對話歷史中毒的真實原因

你有沒有遇到過這種情況：剛開始使用 AI 助手時，回答精準俐落，但用了一兩週後，同樣的問題它開始繞圈子、重複舊答案，甚至給出和之前矛盾的建議？

這不是模型變差了，而是你的對話歷史在「毒化」它的判斷。

對話歷史的隱性污染

大多數 AI 助手會將最近的對話記錄作為上下文一起傳送給模型。這個機制本身沒問題，問題出在累積效應上。

假設你週一問了一個關於 Python 多執行緒的問題，模型給出了基於 GIL 限制的正確解釋。週三你又問了一個關於 Rust 非同步程式設計的問題，但對話視窗裡還留著週一的 Python 討論。模型在生成答案時，會不自覺地受到之前討論的影響——它可能把 Python 的 GIL 概念混入 Rust 的非同步模型解釋中，因為這兩個話題在它的上下文視窗裡同時存在。

這種現象叫「上下文污染」（Context Poisoning），2024 年史丹佛大學的一個研究團隊首次系統性地記錄了它。他們的實驗顯示，當對話歷史超過 15 輪後，模型在回答新領域問題的準確率會下降 12% 到 23%。

三個你可以立刻做的改變

1. 定期開啟新對話

最簡單也最有效的辦法。每完成一個主題討論，就開一個新對話視窗。這不是玄學，而是直接切斷上下文污染的傳播鏈。如果你的 AI 平台支援對話標籤功能，按專案或主題分類，能幫你快速定位和清理。

2. 使用「重置」提示詞

當你必須在同一個對話中切換話題時，在提問前加一句：「忽略之前的討論內容，以下是一個全新的問題：」。這相當於給模型一個明確的信號，讓它把注意力從舊上下文轉移到新問題。實測效果：在 20 輪以上的長對話中，加上重置提示詞後，模型回答的領域混淆率降低了約 40%。

3. 控制上下文視窗大小

如果你使用的是支援自訂上下文長度的 API，不要把視窗開到最大。對於日常問答，4K-8K token 的上下文已經足夠。過大的視窗意味著更多無關資訊進入模型視野，反而增加干擾。一個實用的經驗法則是：上下文視窗大小 = 你當前任務需要的資訊量 × 1.5，多出來的 0.5 是安全餘裕。

為什麼廠商不預設解決這個問題？

技術上可以自動偵測話題切換並清理無關上下文，但這需要額外的計算開銷，而且「自動清理」本身也可能誤刪有用資訊。目前業界的主流做法是把選擇權交給使用者——但前提是使用者知道這個問題存在。

下次覺得 AI 助手「變笨」了，先別急著換模型。試試開一個新對話，效果可能立竿見影。