思維鏈（Chain of Thought）：為什麼讓 AI「想清楚」比「快回答」更重要

你問 AI 一道數學題，它直接丟出答案——經常出錯。但你加一句「請一步步思考」，正確率可能翻倍。這不是玄學，而是 思維鏈（Chain of Thought, CoT） 在起作用。

什麼是思維鏈？

2022 年，Google 的研究人員在論文《Chain-of-Thought Prompting Elicits Reasoning in Large Language Models》中提出：如果讓大型語言模型在給出最終答案之前，先寫出中間推理步驟，模型在複雜任務上的表現會顯著提升。

舉個例子：

普通提問：「小明有 12 顆蘋果，吃了 3 顆，又買了 5 顆，還剩幾顆？」

CoT 提問：「小明有 12 顆蘋果，吃了 3 顆，又買了 5 顆，還剩幾顆？請一步步計算。」

普通提問，模型可能直接輸出 "14"（錯誤）。CoT 提問，模型會輸出：
1. 小明有 12 顆蘋果
2. 吃了 3 顆：12 - 3 = 9
3. 又買了 5 顆：9 + 5 = 14
4. 答案：14

這個例子裡兩種方法碰巧都對，但在更複雜的場景——比如多步邏輯推理、數學證明、程式碼除錯——CoT 的優勢是決定性的。

為什麼有效？

核心原因：大型語言模型本質上是「下一個詞預測器」。它沒有真正的「思考」能力，但它有一個特性——當它被迫生成中間步驟時，這些步驟會作為上下文反饋給自己，相當於給自己搭了一條「鷹架」。

具體來說：

• 減少跳躍：模型不需要一步從問題跳到答案，而是分步走，每步的錯誤機率更低
• 自我糾錯：中間步驟暴露了邏輯漏洞，模型在後續步驟中可能自行修正
• 注意力聚焦：生成中間推理時，模型的注意力機制會更精確地關聯問題中的關鍵資訊

實際怎麼用？

零樣本 CoT（Zero-shot CoT）：最簡單，只需在問題末尾加一句「讓我們一步步思考」（Let's think step by step）。不需要任何範例，適用於大多數場景。

少樣本 CoT（Few-shot CoT）：在提問時提供 2-3 個帶推理過程的範例。效果更強，但需要更多 token 投入。

自動 CoT：一些框架（如 LangChain、LlamaIndex）內建了 CoT 策略，可以自動在複雜查詢中插入推理步驟。

代價是什麼？

CoT 不是免費的：

• Token 消耗增加：推理過程可能比答案本身長 3-10 倍
• 延遲增加：生成更多 token 意味著更長的等待時間
• 不一定總是更好：簡單問題（比如「北京的首都是哪裡」）用 CoT 反而浪費資源

實用建議：對簡單事實性問題直接問，對需要推理的複雜問題加 CoT。判斷標準是——這個問題需要幾步才能回答？一步？不需要 CoT。三步以上？加上。

延伸：思維鏈的變體

• 思維樹（Tree of Thoughts, ToT）：讓模型生成多條推理路徑，然後選擇最優解。適合需要「試錯」的場景。
• 思維圖（Graph of Thoughts, GoT）：把推理步驟組織成圖結構，支援回溯和平行推理。
• 自我一致性（Self-Consistency）：讓模型用 CoT 生成多個答案，取眾數。簡單但有效，在 GSM8K 數學基準上比單條 CoT 高出約 5 個百分點。

思維鏈的本質啟示：給 AI 一個「思考」的結構，比給它更多資料更有價值。這不僅是提示詞技巧，更是理解大型模型工作原理的關鍵視窗。