科普
把實驗室裡的東西講成人話。
科普待人工審核
把重試預算算清楚：LLM 呼叫的「一次失敗」到底成本多少
科普待人工審核
為什麼 LLM 會「一本正經地胡說八道」：幻覺的工程視角
科普待人工審核
慢不是模型慢：AI 服務延遲裡藏著四個可量化的成分
科普待人工審核
為什麼「換更大的模型」常常不是答案：AI 系統的選型與降級鏈
科普待人工審核
推論超時不是玄學：給 LLM 呼叫設三個數
科普待人工審核
把種子釘死：LLM 複現問題的最小修
科普待人工審核
15 分鐘手工打造一套 LLM 評估集：不用 MLflow，不用平台
科普待人工審核
為大型語言模型加上流量控制：為什麼 QPS 並非越高越安全
科普待人工審核
LLM API 呼叫重試怎麼寫：哪些錯誤該重試，哪些別碰
科普待人工審核
LLM 取樣參數到底怎麼調：temperature、top-p、top-k
科普待人工審核
前綴快取：讓同一份系統提示詞不再反覆付費
科普待人工審核
LLM API 成本怎麼算：把 Token 帳算清楚
科普待人工審核
大型語言模型呼叫如何拆解成本：談談模型串聯
科普待人工審核
1 個 token ≈ 多少字：LLM 計費裡的隱形單位
科普待人工審核
它明明讀完了好幾萬字，為什麼關鍵資訊還是漏了：lost in the middle
科普待人工審核
為 AI 系統進行回歸測試：LLM 評估的工程實踐
科普待人工審核
請求不等齊才出發：推論服務裡的連續批次處理
科普待人工審核
大模型的首字為什麼總是最慢？
科普待人工審核
結構化輸出不是「求模型聽話」，是推理器在解碼時的約束工程
科普待人工審核
同一個 Prompt，為什麼這次跑對上次跑錯：LLM 推論的非確定性與工程對策
科普待人工審核
為什麼你的 AI 應用總是「差不多對」？聊聊信賴度校準
科普待人工審核
大模型推論降本：不是裁員，是排隊
科普待人工審核
模型量化不是壓縮，是精度換頻寬的工程帳
科普待人工審核
理解大型語言模型的上下文視窗：為什麼你的長文件會被截斷