AI 知识库首页

Agent CI/CD

Agent LLMOps 与面试实战专题:用 1 个核心问题讲清原理、取舍与落地。

一句话定位

SLO、队列、幂等、容灾、网关、预算、CI/CD 和项目表达。 以一次业务任务而非一次模型请求为运维单位,覆盖在途状态、外部副作用和人工节点。

核心原理与问题解析

Agent 的 CI/CD 应包含什么?

代码测试、Prompt/Schema 静态检查、离线评测、安全红队、沙箱集成、成本阈值和构建物版本;通过后才允许灰度。

继续想: 评测太慢怎么办?;模型服务波动导致门禁失败怎么办?

工程落地检查

  • 定义任务成功率、P95/P99 和成本 SLO
  • 长任务使用队列、租约与 Checkpoint
  • 写操作使用幂等、Saga 和对账
  • 灰度比较质量、安全、延迟与成本
  • Runbook 明确止损、降级、恢复和责任人

常见误区

  • 接口 200 就当任务成功
  • 重试没有总预算和幂等
  • 只监控模型,不监控工具、队列和业务结果

对应面试题

O16 Agent 的 CI/CD 应包含什么?

延伸资料

OpenTelemetry Traces · OpenAI Production Best Practices