⚙️ Agent LLMOps 与面试实战
幂等、Saga 与对账
Agent LLMOps 与面试实战专题:用 2 个核心问题讲清原理、取舍与落地。
一句话定位
SLO、队列、幂等、容灾、网关、预算、CI/CD 和项目表达。 以一次业务任务而非一次模型请求为运维单位,覆盖在途状态、外部副作用和人工节点。
核心原理与问题解析
Exactly-once 工具执行能保证吗?
跨网络通常很难端到端严格保证,实际使用至少一次投递加幂等键、状态机和对账,获得业务意义上的一次效果。
继续想: 幂等键由谁生成?;不可幂等动作怎么办?
Saga 模式如何用于 Agent?
把跨系统任务拆成可确认步骤,每步有状态和补偿动作;失败时按反向补偿,无法补偿的步骤前审批并转人工。
继续想: 补偿也失败怎么办?;何时用 Outbox?
工程落地检查
- 定义任务成功率、P95/P99 和成本 SLO
- 长任务使用队列、租约与 Checkpoint
- 写操作使用幂等、Saga 和对账
- 灰度比较质量、安全、延迟与成本
- Runbook 明确止损、降级、恢复和责任人
常见误区
- 接口 200 就当任务成功
- 重试没有总预算和幂等
- 只监控模型,不监控工具、队列和业务结果
对应面试题
O05 Exactly-once 工具执行能保证吗? · O06 Saga 模式如何用于 Agent?