LLMOps 与项目面试题（O01–O20）
20 道容量、队列、容灾、成本、发布和项目表达题。
回答必须包含失败路径、监控、预算和回滚。
建议先口答 60～90 秒，再展开【追问问题】。不要背句子，要说清判断依据和取舍。
O01｜Agent 服务的 SLO 应怎么定？
简明答案： 按业务定义成功率、P95/P99 完成时间、可用性、安全事件和成本上限，并区分同步回答与异步任务。模型接口可用不等于任务成功。
【追问问题】
- 错误预算怎么用？
- 部分完成算成功吗？
关联知识： Agent SLO 与容量
O02｜如何做容量估算？
简明答案： 从峰值任务 QPS、每任务模型轮数、Token、工具并发、平均/尾部时长估算模型配额、Worker、队列和存储，再用压测校准。
【追问问题】
- 并行分支如何计入？
- 突发流量怎样吸收？
关联知识： Agent SLO 与容量
O03｜为什么长任务要异步队列？
简明答案： HTTP 生命周期不适合分钟级任务，队列可削峰、重试、取消和恢复。API 返回 task_id，Worker 按租约执行，客户端通过事件或查询获取进度。
【追问问题】
- 消息重复怎么办？
- 任务优先级如何设计？
关联知识： 任务队列与 Worker
O04｜什么是租约 Lease？
简明答案： Worker 领取任务后在有限时间拥有执行权并续租；崩溃后租约过期，其他 Worker 可接管。配合 Checkpoint 和幂等避免重复副作用。
【追问问题】
- 续租失败怎么办？
- 两个 Worker 同时执行如何防？
关联知识： 任务队列与 Worker
O05｜Exactly-once 工具执行能保证吗？
简明答案： 跨网络通常很难端到端严格保证，实际使用至少一次投递加幂等键、状态机和对账，获得业务意义上的一次效果。
【追问问题】
- 幂等键由谁生成？
- 不可幂等动作怎么办？
关联知识： 幂等、Saga 与对账
O06｜Saga 模式如何用于 Agent？
简明答案： 把跨系统任务拆成可确认步骤，每步有状态和补偿动作；失败时按反向补偿，无法补偿的步骤前审批并转人工。
【追问问题】
- 补偿也失败怎么办？
- 何时用 Outbox？
关联知识： 幂等、Saga 与对账
O07｜Agent 应如何限流？
简明答案： 同时限制用户/租户任务数、模型 Token、工具 QPS、并发和预算；队列做背压，按优先级公平调度。只限 API 请求无法控制内部放大。
【追问问题】
- 重试风暴如何避免？
- 共享模型配额怎样分配？
关联知识： 容灾、限流与降级
O08｜什么是 Circuit Breaker？
简明答案： 当依赖连续失败达到阈值时暂时停止调用，快速失败或走降级；半开状态少量探测恢复。它防止级联故障，不替代重试。
【追问问题】
- 应按工具还是供应商熔断？
- 半开流量怎么设？
关联知识： 容灾、限流与降级
O09｜Prompt Cache、结果缓存、语义缓存有何区别？
简明答案： Prompt Cache 复用相同前缀计算，结果缓存复用完全相同请求结果，语义缓存复用相近问题答案。越靠后越需考虑时效、权限和错误传播。
【追问问题】
- 写操作能缓存吗？
- 缓存 Key 要包含什么？
关联知识： 缓存与请求去重
O10｜如何做模型网关？
简明答案： 统一供应商适配、认证、路由、超时、重试、配额、缓存、日志、成本和数据策略，对上提供稳定接口。业务层仍决定任务级模型策略。
【追问问题】
- 网关会隐藏供应商特性吗？
- 如何透传 Trace？
关联知识： 模型网关与路由
O11｜如何做模型 Fallback？
简明答案： 先区分限流、超时、内容拒绝、Schema 不兼容和质量不足，再选择同模型重试、备用模型、降级流程或人工。备用路径必须预先评测。
【追问问题】
- 不同 tokenizer 如何计费？
- 何时不能切供应商？
关联知识： 模型网关与路由
O12｜如何控制 Agent 总预算？
简明答案： 预算包含 Token、模型金额、工具费用、步骤、墙钟时间和人工成本；运行前分配，步骤中原子扣减，接近上限压缩、降级或请求追加。
【追问问题】
- 并行调用如何预留？
- 超预算时怎样交付部分结果？
关联知识： 预算与成本治理
O13｜如何定位 Token 成本异常？
简明答案： 按版本、任务和 Span 比较输入/输出、工具结果、摘要、重试与缓存命中。常见是历史膨胀、重复检索、循环和工具 Schema 过多。
【追问问题】
- 如何设置成本告警？
- 哪些内容最适合压缩？
关联知识： 预算与成本治理
O14｜如何做 Agent 灰度发布？
简明答案： 锁定模型、Prompt、工具和索引版本，从 shadow、内部、少量租户到逐步放量，比较质量、安全、P95 与成本，并设自动回滚。
【追问问题】
- 在途任务使用哪个版本？
- 知识库索引如何灰度？
关联知识： 测试与发布
O15｜Shadow Traffic 有什么价值？
简明答案： 新版本接收真实请求但不影响用户结果，可比较路由、工具计划和成本。涉及副作用时工具必须模拟或只读，避免影子流量真的执行。
【追问问题】
- 如何比较开放式输出？
- 隐私要求怎么处理？
关联知识： 测试与发布
O16｜Agent 的 CI/CD 应包含什么？
简明答案： 代码测试、Prompt/Schema 静态检查、离线评测、安全红队、沙箱集成、成本阈值和构建物版本；通过后才允许灰度。
【追问问题】
- 评测太慢怎么办？
- 模型服务波动导致门禁失败怎么办？
关联知识： Agent CI/CD
O17｜如何设计 Runbook？
简明答案： 按告警列出观察指标、Trace 查询、常见根因、止损动作、降级、恢复、责任人和升级路径。值班人员不应临时阅读 Agent 提示猜原因。
【追问问题】
- 哪些故障必须停写？
- 如何定期演练？
关联知识： 运行手册与事件响应
O18｜Take-home Agent 项目面试重点是什么？
简明答案： 不仅要能跑，还要有清晰 README、边界、错误处理、最小评测集、测试、Trace、安全说明和取舍。一个可靠小闭环胜过堆很多框架名。
【追问问题】
- 两小时先做什么？
- 评测部分写多深？
关联知识： Agent 编码面试
O19｜怎样回答 Agent 项目复盘题？
简明答案： 用背景与指标、你的职责、架构选择、最难失败、证据驱动修复、量化结果和仍未解决问题组织。避免只说使用了哪些库。
【追问问题】
- 没有线上数据怎么办？
- 失败项目如何讲？
关联知识： Agent 项目面试表达
O20｜Senior Agent Engineer 与初级岗位差异是什么？
简明答案： 初级重点能实现工具/RAG 和调试；高级要定义评测、控制故障域、做容量成本、安全治理和跨团队取舍，并能解释何时不用 Agent。
【追问问题】
- Staff 级系统设计看什么？
- 如何证明技术判断？
关联知识： Agent 项目面试表达