文章待人工审核
AI工作流的成本优化:先砍浪费,再谈便宜模型
成本为什么会失控 AI 成本最常见的失控点,不是单次调用太贵,而是重复调用太多。一个任务如果没有明确边界,模型会反复读取相同背景、重复总结同一批文件、在无效方向上生成多版内容。每一次看起来都不大,累积起来就会明显增加成本。 长上下文也是成本放大的原因。把整份日志、整段历史和所有候选方案都塞进 prompt,会让模…

成本为什么会失控
AI 成本最常见的失控点,不是单次调用太贵,而是重复调用太多。一个任务如果没有明确边界,模型会反复读取相同背景、重复总结同一批文件、在无效方向上生成多版内容。每一次看起来都不大,累积起来就会明显增加成本。
长上下文也是成本放大的原因。把整份日志、整段历史和所有候选方案都塞进 prompt,会让模型变慢,也会提高费用。更糟的是,过长上下文会降低注意力质量,让模型更容易忽略真正关键的证据。
第一优先级是减少无效 token
优化成本首先要裁剪上下文。日志用关键片段,文件用路径引用,历史用摘要,重复规则放进技能或系统配置。模型每次只需要看到完成当前步骤所需的信息。
对于批量任务,可以先让一个低成本步骤做分类和去重,再把真正需要深度处理的项目交给高能力模型。这样比所有内容都走主模型更稳定。
第二优先级是减少返工
返工通常来自验收标准不清楚。比如“优化 UI”如果没有截图、断点、组件范围和设计规则,模型可能做出看起来努力但不能上线的改动。后续再修,就会消耗更多时间和 token。
在生产工作流里,先定义 gate 更省钱:要跑哪些测试,要看哪些页面,要保存哪些截图,什么情况算失败。标准越清晰,返工越少。
便宜模型要用在合适位置
便宜模型适合做摘要、分类、初稿、结构化转换和候选生成。不适合直接负责高风险发布、复杂调试和最终内容定稿。成本优化不是降级一切,而是把模型能力放到最有价值的位置。
最好的成本控制,是让系统少做无意义的事。便宜模型只是其中一个工具,不是全部答案。