為什麼你的 AI 總是「一本正經地胡說八道」？深度解析幻覺（Hallucination）的底層邏輯與工程對策

在與大型語言模型（LLM）互動時，你一定經歷過這種時刻：它用極其自信的語氣，為你列舉了一個根本不存在的法律條文，或者編造了一個看起來非常真實的學術引用。這種現象在 AI 領域被稱為「幻覺」（Hallucination）。

很多使用者認為幻覺是 AI 的「Bug」，只要模型足夠大、訓練資料足夠多就能消除。但事實上，幻覺是生成式 AI 的原生特性，而非簡單的錯誤。

1. 幻覺的本質：機率預測 vs. 事實檢索

要理解幻覺，首先要明白 LLM 的工作原理。LLM 本質上是一個極其複雜的「下一個 Token 預測器」。它並不像資料庫那樣儲存事實（Fact），而是儲存了 Token 之間的統計機率分佈。

當你問它「誰是 2026 年的諾貝爾物理學獎得主」時，模型並不是在檢索一個名為 nobel_prize_2026 的欄位，而是在計算：在給定當前上下文的情況下，接下來的詞最可能是什麼。

如果訓練資料中包含大量關於諾貝爾獎的描述模式（例如：「[人名] 因為 [貢獻] 而獲得 [年份] 年諾貝爾物理學獎」），模型會傾向於按照這個機率模式填充內容。如果它沒有確切的事實知識，它會選擇一個在統計上「看起來最像正確答案」的組合。這就是幻覺的根源：模型在追求機率上的流暢度，而非事實上的準確性。

2. 常見的幻覺類型

從工程角度來看，幻覺通常分為兩類：

• 內在矛盾（Intrinsic Hallucinations）：模型生成的回答與提供的上下文直接衝突。例如你給它一段文件說 A 是 B，它卻在總結中說 A 不是 B。
• 外在矛盾（Extrinsic Hallucinations）：模型生成了無法從上下文中驗證的資訊，且該資訊與現實世界不符。這是最常見的「編造事實」。

3. 如何在工程上抑制幻覺？

既然幻覺是原生特性，我們無法透過簡單的提示詞（Prompt）讓它「永遠不說謊」，但可以透過工程架構將其控制在可接受範圍內。目前業界最主流的方案是 RAG (Retrieval-Augmented Generation)。

RAG：給 AI 配一本「開卷考試」的參考書

RAG 的核心邏輯是將「知識儲存」與「語言生成」解耦：
1. 檢索 (Retrieve)：當使用者提問時，系統先去向量資料庫或搜尋引擎中查找相關的真實文件片段。
2. 增強 (Augment)：將這些真實片段作為上下文（Context）餵給 LLM。
3. 生成 (Generate)：要求 LLM 「僅根據提供的參考資料回答問題」。

透過這種方式，LLM 從一個「憑記憶背書」的學生變成了「查資料寫報告」的助理。它的職責從「提供知識」轉變為「對知識進行總結和重組」，極大地降低了編造的機率。

其他關鍵對策

• Temperature 控制：將溫度參數調低（例如 $\text{temp} = 0$），使模型選擇機率最高的 Token，減少隨機性和創造性帶來的偏差。
• Self-Correction (自我修正)：讓模型在生成答案後，再次扮演審核員角色檢查答案是否與原文一致（Multi-step verification）。
• 引用溯源 (Citations)：強制要求模型在每個結論後標註來源 $\text{[1]}$ $\text{[2]}$。這不僅方便使用者核實，也迫使模型在生成時尋找支撐點。

總結

幻覺是 LLM 用機率模擬智慧的代價。對於開發者而言，不要試圖建構一個「全知全能且永不犯錯」的模型，而應該建構一套能夠約束模型、提供即時事實支撐的系統架構。

記住：AI 的價值在於其強大的推理和處理能力，而事實的權威性應當交給可靠的資料來源。