AI 知识库首页

多 Agent 安全

记忆与多 Agent 系统专题:用 1 个核心问题讲清原理、取舍与落地。

一句话定位

状态、记忆生命周期、Checkpoint、通信、任务分配和冲突处理。 先确定状态归属和可验证接口,再决定是否拆 Agent;角色数量不是能力指标。

核心原理与问题解析

如何保护 Agent 间隐私?

按任务最小化共享字段,使用资源引用而非原文,跨组织时重新授权并脱敏;子 Agent 不能继承主 Agent 全部凭据。

继续想: Handoff 是否继承身份?;如何审计数据流向?

工程落地检查

  • 区分消息、状态、短期记忆和长期记忆
  • 记忆携带来源、时效、作用域和置信度
  • Handoff 明确输入输出与决策权
  • 共享最少上下文和最小权限
  • 统一终止、预算、冲突与人工升级规则

常见误区

  • 让多个 Agent 自由聊天却没有终止条件
  • 把摘要当唯一事实源
  • 子 Agent 无条件继承主 Agent 权限

对应面试题

M19 如何保护 Agent 间隐私?

延伸资料

Anthropic Multi-Agent Research System · LangGraph Memory