Anthropic 长运行应用护栏设计:GAN 启发式多 Agent 架构

本文由 AI 自动摘录整理,原始链接:Harness design for long-running application development

推荐指数:7/10(推荐读原文)

背景

Anthropic 工程师 Prithvi Rajasekaran 分享了在长运行自主编码 agent 中护栏设计的最新实践。受 GAN(生成对抗网络)启发,他设计了一套多 Agent 架构(生成器 + 评估器),将前端设计和全栈应用开发两大不同领域的能力推向新高度。文章详细阐述了 naive 实现的两大失败模式(上下文焦虑、自我评估偏误),以及如何通过结构化护栏系统性地突破这些瓶颈。

核心观点

  • GAN 启发式架构:将生成对抗网络思想引入 agent 设计,用独立的生成器和评估器 agent 形成反馈循环,评估器用 Playwright MCP 真实操作应用界面进行打分,驱动生成器持续迭代改进
  • 主观质量的可量化评估:将 “这个设计好看吗” 转化为可评分的具体标准(设计质量、原创性、工艺、功能性),用 few-shot 示例校准评估器,使其具备比生成器自身更严格的审美判断
  • 护栏简化方法论:模型越强,护栏应越精简。从 Opus 4.5 到 4.6,成功移除 sprint 分片结构,因为新模型的原生能力已不需要这种分解;但规划器和评估器依然带来明显增益

补充要点

  • 上下文焦虑:Sonnet 4.5 在长上下文下会过早收尾工作,仅靠 compaction(压缩摘要)不够,需要 context reset(清空上下文 + 结构化交接)才能解决;Opus 4.5 几乎完全消除了这个行为
  • 自我评估偏误:让 agent 评价自己的作品时,它倾向于自信地表扬——即使客观质量明显平庸。分离生成和评估角色后,调优一个独立评估器比让生成器自我批评容易得多
  • Sprint 契约机制:生成器和评估器在每个 sprint 前协商 “done” 的定义(具体实现细节和可测试的行为),用文件传递沟通,确保构建内容忠实于规格
  • 前端设计四准则:设计质量(整体感)、原创性(非模板/AI 泛式)、工艺(排版层次、间距一致性、颜色和谐)、功能性(用户能否完成任务),权重重设计质量和原创性
  • 成本与质量权衡:完整护栏版本比 solo agent 贵 20x+(6 小时/$200 vs 20 分钟/$9),但输出质量天差地别——solo 模式核心功能直接不工作,护栏版本能生成可用的完整应用
  • 评估器的迭代调优:开箱即用的 Claude 是差劲的 QA agent——会发现问题然后说服自己不算事。调优方法是读日志、找判断差异点、更新 QA prompt,经过多轮迭代才能达到合理水平
  • DAW 实验:用更新后护栏一次性生成了一个浏览器内数字音频工作站(4 小时/$124),可编排旋律、鼓点、混响,agent 能端到端驱动所有功能
  • 模型越强,空间越大:好模型不是让护栏不再重要,而是让护栏可以把目标提高到新高度——在模型能够独立完成的事情之上,去攻克更复杂的任务