AI 幻覺的底層機制：大模型為什麼會「胡說八道」？

先說結論：幻覺是語言模型的「出廠設置」

上週有人問我：GPT-4明明說得頭頭是道，為什麼會把一個從沒存在過的論文引用得有模有樣？ISBN號、作者名、期刊名一個不差，就是這篇論文不存在。

這不是偶發bug，這是語言模型的底層架構決定的。理解幻覺，得先理解模型到底在做什麼。

模型在干嘛：下一個Token的概率遊戲

每次生成時，LLM做的事情只有一件：根據已有的上下文，預測下一個Token最可能是什麼。

技術上講，模型輸出的是一個詞表上的概率分佈（softmax層輸出），然後按照某種採樣策略（貪心/top-k/top-p/溫度）選一個Token落地。

問題來了：這個概率是「形式上的流暢性」概率，不是「事實正確性」概率。

三類典型幻覺及其成因

1. 知識截斷幻覺

最簡單的一類。訓練數據有時間截止點，但模型不知道自己「不知道」。當被問到截止日期後的事，它不會說「我不清楚」，而是按照語境「合理推斷」填一個聽起來對的答案。

2. 虛構引用幻覺

這是最坑的一類。模型訓練時見過大量學術寫作模式，當你問它「關於XXX有什麼相關文獻」時，它會生成一個「看起來對」的引用結構——名字、年份、期刊都是從統計分佈裡採樣的，不是從索引裡查出來的。

SFD實驗室踩過這個坑：用早期Claude做技術文檔時，生成的參考文獻裡有30%是不存在的，還全部格式正確。

3. 邏輯鏈斷裂幻覺

這類幻覺發生在長推理鏈中。模型在推導第3步時可能引入了一個微小的錯誤，但後續步驟建立在這個錯誤基礎上繼續「流暢地」推進，最終給出一個邏輯自洽但結論錯誤的答案。

為什麼RAG和RLHF治標不治本

RAG（檢索增強生成）：給模型配一個外部知識庫，讓它先檢索再生成。這能解決知識截斷和事實查詢類幻覺，但解決不了邏輯鏈斷裂。

RLHF（人類反饋強化學習）：讓模型學會在不確定時說「我不確定」，但本質上是調整了輸出分佈，沒有改變模型無法區分事實與推斷的根本缺陷。

實際部署時怎麼緩解

• 自洽性採樣（Self-Consistency）：同一個問題問多次，選多數派答案。
• 引用約束提示：在prompt裡要求「只使用以下文檔中明確出現的信息」，並在輸出後做來源驗證。
• 置信度輸出：要求模型同時輸出答案和置信度（0-1），低置信度的答案觸發人工複核。
• 工具調用驗證：讓模型調用搜索/計算器/數據庫等工具，不讓LLM自己「記憶」事實。

SFD編者注：我們內部用「幻覺概率」來評估任務適配度——事實密集型任務走工具驗證鏈；創意寫作/摘要類任務放寬容忍度。這個分類本身就省掉了很多麻煩。