成本即设计约束
当模型被锁死、成本是硬约束时,模式选型本身就是设计。这正是工程判断该出现的地方。
定义
大多数 Agent 设计文章默认扩展的路径是"换更贵的模型"。 但生产里模型常常被锁死在最便宜的可用档,单次调用成本被业务方设成硬上限—— 这不是工程师能动的旋钮。设计问题从"用哪个模型"变成"用哪些模式组合, 让这个固定模型在这个成本下撑住这种工作负载"。 成本约束下的模式选型,才是真正的工程表面。
它命名了什么问题
[TODO · 咖哥本人填这段:真实场景。RegTech / 客服 / batch processing 这类生产场景里, "用更贵的模型"不是选项—— 业务方已经把 token budget 锁死。 这时候才看出工程师水平:同样的 Sonnet,有的人编排出可用系统,有的人卡死在 retry loop。 建议你举一个具体例子,把 "cost-as-constraint" 从抽象变成画面。]
它如何改变设计决策
- 推理深度变成预算,不是质量旋钮。加一层反思循环不再"总是好", 而是 2-3 倍成本上浮,要拿到值得的位置才行。
- 路由模式变成一级公民。复杂度路由(R2)不是可选优化—— 在查询分布偏斜时,它是把平均成本控在天花板下的唯一办法。
- 缓存与程序性记忆变成架构。技能包(F2)、分层保留(M1)、失败日记(M4) 不再是优化项,而是承重结构。
谱系
- 数据库查询计划器在内存预算下——同一个 query 在不同 cache 大小下有不同最优计划
- 嵌入式系统——RAM 锁死时,算法选择就是设计
- SRE 错误预算——失败成本作为绑定约束塑造发布策略
- 成本感知编译器——JIT 按 profile 数据优化,不是按抽象偏好
它不是什么
- 不是省成本。省成本是降低开销;成本即约束是接受天花板,在里面做设计。
- 不是"用最便宜的模型"。模型是给定的,设计是你拿它构建什么。
- 不是优化。优化是调一个已经选好的设计;成本即约束是选择设计。
- 不是中国市场的特殊问题。所有规模化的生产 Agent 最终都会撞到这件事; 富裕公司晚一点撞到,但一定会撞到。
在哪里展开
- 模式选项卡(Pattern Selection Card)方法论——把成本档作为第一阶段过滤器
- 书:Designing AI Agents(Manning, 2026)—— Ch7 治理 + Ch10 生产 Harness
- 工作样例:RegTech RAG 案例(待发表为独立 essay)
引用格式:黄佳 (2026). 成本即设计约束. kage-ai.com/zh/concepts/cost-as-design-constraint/