為什麼 AI 無法像人類一樣「思考」？深度解析 System 1 與 System 2 的工程鴻溝

在當前的 AI 討論中，我們經常聽到「推理能力」（Reasoning）這個詞。無論是 OpenAI 的 o1 系列，還是各種 Chain-of-Thought（思維鏈）技術，都在試圖讓模型在回答之前「想一想」。但從認知科學和工程實作的角度來看，目前的 LLM 依然在經歷一場從「直覺反應」向「邏輯思考」的艱難跨越。

要理解這一點，我們需要引入諾貝爾獎得主丹尼爾·卡尼曼（Daniel Kahneman）在《思考，快與慢》中提出的兩個認知系統：System 1（快思考） 和 System 2（慢思考）。

System 1：機率性的「直覺快照」

目前的標準 LLM（如 GPT-4, Claude 3.5）本質上是極其強大的 System 1。

當你輸入一個問題時，模型是在進行一次大規模的機率預測。它並不在心中建構一個邏輯模型，而是根據訓練資料中的模式，快速地預測下一個 token 是什麼。這種過程類似於人類的「直覺」：當你看到一個紅色的圓形物體時，你會瞬間反應出那是「蘋果」，而不需要經過「顏色是紅 $\rightarrow$ 形狀是圓 $\rightarrow$ 植物分類 $\rightarrow$ 是蘋果」的邏輯推演。

System 1 的特點是：
- 極速： 幾乎瞬時生成結果。
- 啟發式： 基於模式匹配而非邏輯證明。
- 易錯： 在面對複雜數學、深層邏輯或從未見過的邊緣案例時，會產生所謂的「幻覺」。

System 2：昂貴的「邏輯推演」

System 2 是人類處理複雜任務時的狀態：當你計算 $17 \times 24$ 或者規劃一次跨國旅行時，你會進入一種專注、緩慢且消耗能量的狀態。你會分步驟操作，檢查中間結果，並在發現錯誤時回溯。

在 AI 工程中，實現 System 2 的核心在於將「計算量」從訓練階段轉移到推論階段（Inference-time Compute）。

從 Token 生成到路徑搜尋

傳統的 LLM 是單向的串流輸出。而真正的 System 2 需要的是：
1. 規劃（Planning）： 將大目標拆解為子任務。
2. 驗證（Verification）： 對生成的中間步驟進行自我檢查（Self-Correction）。
3. 搜尋（Search）： 在多種可能的解法路徑中尋找最佳解（例如使用蒙地卡羅樹搜尋 MCTS）。

這就是為什麼 o1 等模型引入了強化學習驅動的思維鏈（CoT）。它們不再是簡單地預測下一個詞，而是在內部進行多次嘗試、失敗、修正，直到找到一個能夠通過驗證的答案後再將其輸出給使用者。

工程上的權衡：延遲 vs. 正確率

將 AI 從 System 1 推向 System 2 面臨著巨大的工程挑戰：

• 推論成本爆炸： 如果一個問題需要模型內部思考 $1000$ 個 token 才輸出 $10$ 個 token 的答案，那麼推論成本將增加 $100$ 倍。
• 延遲不可接受： 使用者習慣於秒回。如果一個簡單的問候需要模型「深思熟慮」三秒鐘，產品體驗將大幅下降。
• 驗證難題： 要讓模型自我修正，必須有一個可靠的獎勵函數（Reward Function）或驗證器（Verifier）。對於數學題很容易（結果對不對），但對於文學創作或戰略分析，如何定義「正確」？

未來方向：動態路由與混合架構

未來的 AI 系統不會只有一種模式，而是一個動態路由系統：
- 簡單請求 $\rightarrow$ System 1 $\rightarrow$ 低延遲、低成本回應。
- 複雜請求 $\rightarrow$ System 2 $\rightarrow$ 高延遲、高精度推演。

當我們談論 AGI 時，我們實際上是在談論一個能夠自主決定何時調用 System 2 的智能體。它知道什麼時候可以憑直覺回答，而什麼時候必須停下來，「像人類一樣」認真思考一遍。