為什麼你的AI Agent總是「知道但做不到」—

感知層 vs. 行動層

最近跟幾個做AI產品的朋友聊，大家都碰到同一個問題：模型明明很聰明，回答問題頭頭是道，但一旦要它真正做點什麼——發個郵件、改個檔案、點個按鈕——就各種翻車。這不是模型的問題，這是架構問題。

現在大多數人用AI的方式是：給AI一段文字描述，AI輸出一段文字，人去執行。這叫感知層。AI在這裡是個超級顧問，能分析、能建議、能生成，但它不直接參與世界。

行動層是另一回事——AI需要呼叫工具、操作瀏覽器、寫資料庫、發請求。這需要的不只是想清楚，而是能可靠地做出來。兩者之間有一道鴻溝，大多數AI專案就死在這裡。

模型的輸出是機率性的，但系統呼叫是確定性的。你不能「大概」呼叫了API，要麼呼叫了要麼沒呼叫。當AI需要從模糊推斷跨到精確執行，錯誤會被放大。

在SFD實驗室，我們有個教訓：讓Claude直接生成shell命令然後執行，有一次路徑搞錯了，幸好有沙箱，不然就出事了。確定性不是靠模型更聰明解決的，是靠架構約束。

Agent執行多步驟任務時，需要記住「我現在到第幾步了」、「上一步的結果是什麼」。LLM本身是無狀態的，Context window是它唯一的「工作記憶」，但這個記憶很貴且有上限。很多Agent系統在簡單任務上跑得很順，一到長流程就崩，就是因為狀態管理沒做好。

人類執行任務失敗了，會自動反思、調整策略。AI做到這一步很難。大多數Agent框架裡，一旦某步報錯，不是重試就是放棄，很少有真正意義上的「診斷+修復+繼續」。

工具呼叫（Function Calling）：讓模型聲明它能呼叫哪些工具，每次推理時決定用哪個工具、傳什麼參數，然後把工具結果喂回去繼續推理。最靈活的方案；工具定義的品質直接決定Agent能力。

ReAct框架：交替進行推理（Reasoning）和行動（Acting）。模型在每次行動前明確輸出當前的「想法」，然後執行行動，然後觀察結果。思考過程讓錯誤定位更容易，是生產中比較可靠的模式之一。

沙箱執行：所有行動先在隔離環境中執行——特別是對程式碼執行至關重要。讓Agent試試，看是否有效，再應用到真實系統。延遲更高但安全性大幅提升。

感知-行動鴻溝沒有被解決——只是被縮窄了。當前最佳實踐的Agent系統用以下組合處理這道鴻溝：結構化工具定義、明確的狀態管理、沙箱執行環境、以及對高風險行動的人工監督節點。

這是工程，不是魔法。而且這是部署生產AI系統中大部分真實工作發生的地方。