LLM的元認知：為什麼AI有時候知道自己不知道

一道奇怪的問題

上週我在測試一個場景：問模型某個小城市的人口。有的模型直接給了個數字，語氣非常篤定；有的模型說「我沒有這個數據的確切資訊，建議查當地統計局」。這差異讓我琢磨了很久。同樣是不知道，為什麼反應截然不同？

什麼是LLM的元認知

元認知（metacognition）是人類認知中的一個概念，簡單說就是「對自己認知狀態的認知」——知道自己知道什麼，更知道自己不知道什麼。在LLM裡，這個能力體現為校準度（calibration）：模型輸出的置信程度，和它實際答對的概率，是否吻合？

理想情況下，當模型說「我有80%把握這是對的」，它實際答對率應該接近80%。如果經常說「很確定」但其實錯了，就叫過度自信（overconfidence）；反過來，明明答對了卻總說「不太確定」，叫欠自信（underconfidence）。

語言模型是怎麼表達不確定的

LLM本質上是預測下一個token，它並沒有一個內部的「確定度儀表盤」。那「我不確定」這句話是怎麼出來的？答案是：這是從訓練數據裡學來的語言模式。人類寫作中，當描述不確定的事實時，會用「可能」「據報道」「好像是」這類詞。模型學會了在哪些情況下，跟著這套語言模式走更合理。

但這個機制是脆弱的。如果訓練數據裡某個錯誤信息出現頻率很高，模型可能會用非常確定的語氣輸出錯誤答案。

RLHF讓問題更複雜了

早期的基礎模型在校準度上還行，偶爾會有「我不確定這個信息」這種表達。但經過RLHF（人類反饋強化學習）微調後，情況變了。人類標注員在評分時，往往給「聽起來自信、有幫助」的回答更高分，給「頻繁說不確定」的回答低分。結果就是：模型被訓練成了更「自信」的風格，哪怕內部的不確定性沒有變化。這是一種對齊稅——為了看起來更有用，犧牲了準確的不確定性表達。

怎麼讓模型更好地表達不確定性

幾個實戰有效的方法：顯式要求校準輸出、讓模型給出置信度、多次採樣+一致性檢驗、Chain-of-Thought對校準有幫助。

SFD編者注

我們用OpenClaw跑了14個智能體，每天要做幾百次決策。元認知這個問題，在智能體協作裡尤其關鍵。我們的做法是：給每個智能體設置「不確定時上報」的規則。寧可多問一次老闆，也不能自信地做錯事。承認不確定，比假裝確定，價值要高得多。