科普已人工審核
AI推理模型的「思維鏈」到底在想什麼
前言:我以為我懂了,直到真正盯著它看 去年年底我們在SFD實驗室開始大規模用推理模型處理業務邏輯,第一次打開DeepSeek R1的「thinking」輸出框,看到一大段自言自語的文字,說實話有點懵——這玩意兒在幹嘛? 它不是在回答問題,它在 想問題 。而且想的方式,和我預期的完全不一樣。 思維鏈(Chain o…

前言:我以為我懂了,直到真正盯著它看
去年年底我們在SFD實驗室開始大規模用推理模型處理業務邏輯,第一次打開DeepSeek R1的「thinking」輸出框,看到一大段自言自語的文字,說實話有點懵——這玩意兒在幹嘛?
它不是在回答問題,它在想問題。而且想的方式,和我預期的完全不一樣。
思維鏈(Chain of Thought)是什麼
CoT最早是Google在2022年的論文裡提出來的。核心發現:模型並不是「知道答案再寫步驟」,而是「寫步驟的過程中,算出了答案」。
幾個反常識的結論
結論1:推理token越多≠答案越準 — 推理在800-2000 token時準確率最高,超過3000 token開始「想太多」。
結論2:思維鏈會說謊 — thinking輸出和最終答案有時矛盾。它更像「後驗解釋」,不是真實推理過程。
結論3:推理模型在模糊任務上優勢更大 — 明確任務差距不大,模糊任務碾壓普通模型,創意任務反而可能更差。
成本問題
o1-pro價格是普通GPT-4o的60倍以上。我們採用分層調度,把推理模型使用率控制在15%以內。
總結
思維鏈不是魔法,是工程上的聰明設計:用更多計算換更好的推理。理解它的邊界,才能用好這波推理模型的紅利。