
做AI Agent相关开发的朋友多数都会经历这样一个过程先被单Agent的全能感惊艳然后在复杂任务面前被它狠狠教育。去年我重写了三个版本的多智能体方案最终稳定下来的是一个基于agency-agents思路的代理团队架构——不追求某个Agent无所不能而是把任务拆给一群各司其职的小Agent让它们像一家微型公司那样协作。这篇文章就把这个思路的完整设计、搭建过程、踩坑记录和调试经验都摊开来讲希望给正在纠结要不要上多Agent协作的人一点参考。1. 从超级个体到代理机构我为什么放弃单Agent方案1.1 单体Agent在复杂任务面前迅速失控的三个表现先说结论如果你的任务链路超过三个步骤、需要调用两种以上外部工具单体Agent的可靠性会肉眼可见地下降。我在模拟项目X里做过一组对比测试同样一份调研A方案可行性输出对比文档并翻译成英文版本的任务单体Agent的表现非常典型。第一个表现是指令漂移。Agent在长上下文里聊着聊着会逐渐偏离原始目标。它可能花了大篇幅分析方案背景却把输出对比文档这种硬性交付要求给弱化掉了。第二个表现是工具链串行阻塞。单体Agent按顺序调工具一旦中间某次调用返回超时整个任务就卡在那里而且它往往会尝试修复结果是调用更多工具、消耗更多时间。第三个表现最致命错误被自我修正机制放大。模型发现自己第一步做错了会主动重来但重来之后的决策基于已经混乱的上下文经常越修越偏。这不是模型能力不够而是把太多职责塞进了一个上下文窗口。一个人既当CEO又当财务又当法务又当客服他也会顾此失彼。如果你遇到了和我一样的困境可以考虑换一个思路让每个Agent只负责一个窄而明确的职责再用一个协调机制把它们组织起来——这就是agency-agents模式的核心。1.2 agency-agents模式的核心思想相当于开了一家AI咨询公司Agency-agents这个名字很形象它想表达的就是与其培养一个超人不如成立一个代理团队。这个团队里有一个项目经理角色Director负责拆解任务、分发指令、验收结果下面有研究员Researcher、执行者Executor、审查者Reviewer等角色各自处理自己擅长的那一小块。用人话说这套系统就像一家AI咨询公司。客户也就是用户只跟项目经理对话项目经理把活儿拆成专业模块分给对应的人每个人干完活再把结果交回来由项目经理汇总、校验、决定是否需要返工。这样做有三个天然好处上下文隔离。每个Agent的prompt和上下文只包含自己负责的内容不会被无关信息污染指令漂移的概率大大降低。故障边界清晰。哪个环节出错定位到那个Agent就行不需要在一大段对话里翻找问题根源。能力可替换。某个Agent表现不理想单独换掉它的模型或prompt不影响整个系统的其他部分。当然这不是银弹。任务极简单、单轮问答就能搞定的场景引入Agent团队纯属给自己增加复杂度。什么场景该用什么场景不该用后面我会专门谈。1.3 什么场景适合代理团队什么场景没必要我总结了一套简单的判断标准如果任务满足以下任意两条就可以考虑agency模式需要多个专业领域的知识比如既懂技术又要写文案还要做排版任务链路超过5个步骤且步骤之间有明确依赖需要多次调用不同工具且工具之间共享中间结果对错误容忍度低希望每个阶段都有独立验证。反过来如果你只是生成一段文案、做一个简单的文本总结、或者一次工具调用就能完成的事千万别上多Agent。协调开销和token消耗会让简单问题变复杂体验反而更差。2. 代理团队内部怎么运转角色、编排与通信协议2.1 角色分离Director、Researcher、Executor到底谁说了算一个最小的agent团队我认为至少需要三个角色再多就看业务复杂度了。**Director协调者**是整个系统的入口和大脑。它不负责具体干活只负责三件事理解用户目标、拆解子任务、把子任务派给合适的执行角色并验收结果。它说谁来做就是谁来做执行角色不能自己改任务。**Researcher研究员**负责信息获取类任务比如查文档、查数据、搜索资料它的产出是一份结构化的事实摘要必须标注来源和置信度。**Executor执行者**负责动作类任务比如生成代码、写文件、调接口它的产出是可交付的产物和一份简短的执行说明。有读者会问加一个Reviewer审查者是不是更好我的经验是在早期版本里可以先不加。多个角色互相审查容易形成审了改、改了再审的死循环。等系统稳定了再针对最常出错的环节加一个专门审查者效果会好很多。2.2 三种主流编排模式与适用边界Agent团队怎么协作业内目前有几种常见编排模式我用一个表格做了对比这样更直观编排模式工作方式优点缺点适用场景链式编排A做完传给BB做完传给C线性推进结构简单、逻辑清晰、容易追踪一旦中间环节出问题整条链断掉步骤依赖固定的流水线任务路由编排Director根据任务类型选择一条执行链或单个Agent处理灵活、按需调度、不会做无用功依赖路由判断的准确性有多种类型任务的混合场景群聊式编排所有Agent共享一个对话空间自由发言讨论信息透明、能互相纠偏上下文增长快、容易跑题和互相带偏头脑风暴、方案评审类任务我最初采用的是群聊式结果发现两个Agent经常围绕一个措辞问题来回扯皮。后来改成Director路由分发配合链式子任务执行稳定性明显提升。如果你是第一次做agent团队建议从路由链式的组合开始这是最可控的方案。2.3 Agent之间如何说话消息协议与结果收敛多Agent协作里最容易被忽略的是通信协议。如果你让Agent之间用自然语言自由对话系统很快就会变成一个大型茶话会信息冗余且无法程序化校验。我的做法是定义一套结构化的消息协议所有Agent之间的通信都走这套协议。核心消息结构包括以下几类TaskAssignDirector向执行Agent派发任务携带task_id、任务描述、输入参数、验收标准、资源限制ToolCallAgent请求调用工具包含工具名、参数、调用方和task_idToolResult工具返回结果含状态、数据以及执行耗时SubtaskResult子任务完成结果含结果摘要、产物引用、置信度和自检声明Terminate终止信号可能是正常完成、失败、或触发了安全兜底。有了这套协议系统里跑的就不是聊天记录而是工作流事件每一类消息都能被单独追踪和统计。收敛结果的时候Director只需要等待属于某个task_id的SubtaskResult不会再有这句话到底是结论还是过程描述的歧义。3. 搭建最小可运行的Agency系统从设计到跑通3.1 先抽象五个核心组件别急着写业务代码我建议你在写任何业务逻辑之前先把下面五个组件抽象出来。这五个组件是整套系统的最小骨架后续所有功能都能挂在这上面扩展。Registry注册中心登记所有Agent和工具的配置包括名称、模型、prompt、可用工具列表、权限范围Planner任务规划器由Director使用负责把用户目标拆成结构化子任务TaskContext任务上下文保存任务执行过程中的状态、中间结果、token消耗和消息记录Toolbox工具箱统一管理所有外部工具负责参数校验、白名单校验和超时控制Bus消息总线负责各Agent之间的消息路由同时把每一条消息写入日志。用Python伪代码来描述这个骨架大致长这个样子class Registry: def __init__(self): self.agents {} self.tools {} def register_agent(self, name, agent_config): self.agents[name] agent_config def register_tool(self, name, tool_func, allowed_agentsNone): self.tools[name] { func: tool_func, allowed_agents: allowed_agents or [*], }这几个组件之间没有复杂的依赖关系。Registry负责知道有什么Toolbox负责能干什么Planner负责要干什么TaskContext负责干到哪了Bus负责怎么沟通。有了这个骨架你后面换模型、加工具、改角色都只是配置层面的变化不需要动架构。3.2 一套可落地的Agent状态机与任务令牌设计每个Agent在执行任务时不该处于自由发挥状态而应该被一个状态机管住。我使用的状态集合是这些IDLE空闲 -RUNNING运行中 -WAITING_TOOL等待工具返回 -WAITING_SUBAGENT等待子Agent结果 -DONE完成 /FAILED失败 /TERMINATED强制终止状态机的好处一是所有异常都能映射到有限的状态上方便写兜底逻辑二是在调试时你一眼就能看出某个Agent卡在了哪个环节。每次Agent接收任务时我都会生成一个任务令牌它是一组元数据{ task_id: t-20240516-001, parent_id: null, assignee: researcher, scope: 调研报告, token_budget: 8000, max_iterations: 10, deadline: 2024-05-16T12:00:00Z, strict_output: true }这个令牌一旦派发出去就和Agent之间形成了契约关系它必须在token_budget范围内、max_iterations轮内、deadline之前完成并且按strict_output要求输出结构化结果。超出任何一条系统直接判FAILED不给模型再聊两句的机会。3.3 用一次性的Stop条件兜底防止Agent无限循环多Agent系统最怕的就是无限循环Agent A问Agent BAgent B说信息不足Agent A又问B两个就在对话里打转。这种情况在自然语言对话里特别容易发生因为模型有一种不想让对话结束的倾向。我的解决办法是设置四个一次性的Stop条件任何一个被触发任务立即终止迭代上限单个子任务内的Agent思考-行动循环最多max_iterations次空转检测如果连续两次行动调用了同一工具、传了几乎相同的参数视为空转立刻终止Token预算硬顶任务令牌里写了token_budget累计消耗超过就直接切断人工准入点某些高影响操作比如删除文件、发送外部请求必须等人工确认超时未确认则终止。这套兜底机制看起来简单但实际救我太多次了。没有它之前一次卡死的任务可能会默默消耗几百K token直到我手动发现。3.4 跑通后的效果验证我的最小系统实测结果我用上面的骨架搭了一个最小系统跑了一轮真实对比。任务设定是研究三种开源协议的差异输出一份选型建议表格并针对选择结果生成一封500字左右的推荐邮件草稿。指标单体Agent最小Agent团队完成耗时6分58秒3分12秒总Token消耗约2.6万约1.8万输出格式合格第一次不合格修正后通过直接通过是否需要人工干预1次纠正跑题0次可追溯问题环节较困难精确定位到研究阶段这个结果不算严谨的基准测试但足以说明趋势在结构明确的复杂任务上Agent团队在耗时、token消耗、稳定性和可追溯性上全面占优。耗时优势主要来自并行化——研究任务和执行任务是可以同步进行的而单体Agent只能串行来做。4. 踩坑清单多Agent协作最容易翻车的四个故障链4.1 故障一Agent互相甩锅任务在对话里打转这是我踩的第一个大坑。当时的群聊式架构里Researcher说信息不足需要Executor先产出数据Executor说数据来源需要Researcher先明确口径两个Agent来回推了四五轮而Director没有介入机制。等到我发现的时候一次任务已经消耗了超过预算两倍的token。排查链路我复述一遍给你做个参考路径。当时我先看了任务日志发现消息循环的特征是同一对Agent之间超过4次同主题对话。然后我加了一个规则任何两个Agent之间针对同一个task_id的消息往来超过3轮Bus就自动上报给Director由Director裁决是继续、改派还是终止。再之后我把群聊式改成路由式这个问题几乎绝迹。别让Agent之间自由争论到天荒地老必须有层主控制。4.2 故障二工具被乱调用越权问题比想象中更早出现工具权限问题是我在项目中期遇到的。当时系统中有一个发送邮件的工具和一个读取本地文件的工具我把它们注册进Toolbox之后没有为主管Agent单独设置权限限制。结果有一次主任Agent在拆解任务时觉得给用户发一封确认邮件是个好主意直接调用了邮件工具而用户根本没有提出这个需求。这不是模型恶意而是它要完成目标的过拟合。修复方法我给每类工具加了作用域控制。Agent只能调用它自己的注册信息里被允许的工具Director也只能调用极少数管理类工具。同时所有外部副作用操作发邮件、写文件、调第三方接口都配置了人工准入点。另外每条工具注册信息里我都会写明该工具只能处理分配给你的执行子任务禁止在无明确指令时使用这段约束放在system prompt的最前面稳住了大部分乱调用行为。4.3 故障三共享上下文无限膨胀Token预算直线失控我早期犯的一个典型错误让所有子任务的中间结果都汇总到Director的上下文中Director要带着完整材料去推进下一步。任务跑一半Director的上下文就塞满了各种原始代码片段、网页摘要、工具返回JSON。这样的后果一是token成本飙升二是Director被无关信息干扰开始重读并总结这些材料产生大量无意义输出。后来我改成分层记忆机制。每个子Agent完成工作后不是把原始结果直接上报而是先让一个独立的Summarizer Agent把结果压缩成结构化摘要摘要里只包含结论、关键数字、来源引用、待办建议。Director的上下文只保留这些摘要原始产物放在外围存储里按需取用。压缩这步看起来多了一次模型调用但省下的token往往是好几倍。4.4 故障四子任务结果不可信主任Agent照单全收这是我认为最危险的坑Director天然信任SubtaskResult。在某个场景中Researcher汇报根据多方来源方案A的开源协议为宽松型Director就直接采纳并写进了最终报告。实际上那个信息是错的来源是某论坛的二手评论不是官方协议文本。修复方案有两层。第一层是要求Researcher上报时必须带上原始来源链接和置信度评分0到1置信度低于0.7的结果Director必须标记为待验证而不是直接采纳。第二层是针对高风险结论系统会强制做一次交叉验证——由另一个Reader Agent从不同来源独立获取数据然后比较两者口径是否一致。这相当于给小团队配了一个审计角色虽然增加了一点开销但换来了结论的可靠性值。5. 可观测性怎么做让代理团队停止黑盒化5.1 给每个Agent建一张追踪卡trace_id加事件日志做了多Agent系统之后你会发现最痛苦的事情不是它没干活而是你不知道它到底在干什么。要解决这个问题必须从设计第一天就埋好可观测性。我给每条用户请求生成一个全局唯一的trace_id这个ID贯穿所有子任务、工具调用、消息传递。每一次Agent状态变迁、每一次ToolCall、每一次消息收发都会以JSON Lines格式写入事件日志。字段大致是{ timestamp: 2024-05-16T11:23:05.001Z, trace_id: tr-9f2e1a, task_id: t-20240516-001, agent: researcher, event: state_change, from: RUNNING, to: WAITING_TOOL }有了这张日志表我可以随时回答三个问题当前任务走到了哪个环节哪个Agent正在干活上一个工具调用结果是什么在商用可观测性平台之外即便是自己写脚本过滤日志也比瞎猜强一百倍。5.2 评估Agent团队的关键指标不只盯着最后结果以前我评估系统好不好只看最终答案像不像样。后来我发现这完全不等于团队健康。一套好的指标体系应该覆盖过程质量我在Dashboards上长期盯这几个指标指标名称说明健康信号任务完成率最终以DONE状态收尾的比例越高越好理想大于90%空转率因空转检测被终止的任务比例越低越好高于5%要排查工具调用成功率所有ToolCall中成功率低于70%要考虑工具本身问题上下文压缩比压缩后的摘要字符数 / 原始结果字符数压缩比过高可能信息丢失平均分支深度一个任务平均产生多少层子任务超过5层考虑简化拆解策略这个表如果单独看每一项都显得很基础但合在一起已经足够帮我判断系统是在健康运行还是在勉强维持。我一度凭着工具成功率狂掉这个信号快速定位到了某个外部接口返回格式变更的问题要是只盯着最终结果这个故障至少要多藏两三天。5.3 调试时平时用的方法里我只建议这几招在多Agent系统里调试肉眼读prompt的效率实在太低了。我试过不少方法最后留下的就这几招性价比最高单独抽取子Agent测试。不要总是从完整任务出发。把某个Agent的prompt、工具配置、输入样例单独抽出来构造一个最小测试集在隔离环境里跑。大多数Agent的毛病在单测阶段就能暴露。把慢模型当审查者。让一个速度快但能力弱的模型去执行用一个更强但速度慢的模型做抽查和修正。这种组合在token成本和准确率之间非常均衡尤其适合批量任务。给风险操作加一个影子模式。新接入工具时先让工具返回假的模拟结果而不是真实调用外部接口。等验证了Agent能正确解析工具返回之后再切换到真实执行。这套玩法我称之为先排练后上台。建立Prompt专题回归集。每次改动某个Agent的prompt后都会跑一遍几十条历史问题。这些问题的答案不要求完美但要求不该出现的错误不再出现。这是最便宜的防退化手段。这几个招数都算不上新奇但在实际项目里真的是它们撑住了系统的稳定性。最后再分享一个非常实用的小技巧给每个Agent的system prompt末尾都加一段角色边界声明。内容大致是你是该团队中的研究员你的唯一职责是收集并验证信息你不负责起草方案也不负责给用户直接下发结论当你发现任务超出你的边界时明确返回需要Director决策的请求。这个声明在关键时刻能逼模型停住手而不是自作主张。很多人觉得多Agent系统的成败在模型能力实际操作下来我越来越确定系统的稳定性更多是设计出来的。