⚙️ Agent LLMOps 与面试实战
预算与成本治理
Agent LLMOps 与面试实战专题：用 2 个核心问题讲清原理、取舍与落地。
一句话定位
SLO、队列、幂等、容灾、网关、预算、CI/CD 和项目表达。 以一次业务任务而非一次模型请求为运维单位，覆盖在途状态、外部副作用和人工节点。
核心原理与问题解析
如何控制 Agent 总预算？
预算包含 Token、模型金额、工具费用、步骤、墙钟时间和人工成本；运行前分配，步骤中原子扣减，接近上限压缩、降级或请求追加。
继续想： 并行调用如何预留？；超预算时怎样交付部分结果？
如何定位 Token 成本异常？
按版本、任务和 Span 比较输入/输出、工具结果、摘要、重试与缓存命中。常见是历史膨胀、重复检索、循环和工具 Schema 过多。
继续想： 如何设置成本告警？；哪些内容最适合压缩？
工程落地检查
- 定义任务成功率、P95/P99 和成本 SLO
- 长任务使用队列、租约与 Checkpoint
- 写操作使用幂等、Saga 和对账
- 灰度比较质量、安全、延迟与成本
- Runbook 明确止损、降级、恢复和责任人
常见误区
- 接口 200 就当任务成功
- 重试没有总预算和幂等
- 只监控模型，不监控工具、队列和业务结果
对应面试题
O12 如何控制 Agent 总预算？ · O13 如何定位 Token 成本异常？