导语

当AI智能体开始自主运行数小时甚至数天,如何理解它们在做什么、为什么这样做?来自约翰霍普金斯大学、CMU、艾伦研究所等机构的研究者联合发布了ACT*ONOMY——一个为AI Agent行为分析量身打造的分类体系。这篇论文的意义,不仅在于提供了一套工具,更在于它揭示了一个根本性问题:AI正在变得越强,我们越看不懂它。 Agent时代的能力与困惑 以Claude Code、Codex为代表的AI Agent已经可以在复杂环境中自主运行数小时,执行多步骤任务。然而,它们的推理轨迹和执行日志本质上是大量的非结构化自然语言,这使得人类很难在规模上理解其行为模式。研究者需要回答的问题是:Agent在做什么?它的行为模式是否稳定?哪些模式预示着失败? 三层结构的分类体系 ACT*ONOMY通过扎根理论(Grounded Theory)方法构建了一套三级分类体系:10个核心行为(Actions)、46个子行为(Sub-actions)、120个叶子类别。研究者从大量Agent运行轨迹中归纳出这套结构,而非预设框架,体现了数据驱动的方法论自觉。 核心行为包括信息检索、代码编写、任务规划、自我反思等典型Agent行为模式。子行为则对每个核心行为进行了精细拆分——例如"代码编写"可细分为"生成"、"调试"、"优化"等不同环节。叶子类别则进一步区分具体的操作细节。 实践价值:从黑箱到可解释 ACT*ONOMY的价值体现在三个层面。首先,它提供了跨Agent行为比较的可能性——可以清晰对比Claude Code和GPT-4在相同任务上的行为差异。其次,它可以刻画单个Agent在不同任务轨迹中的行为漂移,识别出预示失败的行为信号。第三,它为Agent设计者提供了明确的优化方向——哪些行为是冗余的,哪些环节是薄弱点。 开源生态 论文同步发布了开源仓库,包含自动分析Pipeline和扩展协议。这意味着整个研究社区可以持续为分类体系贡献新的行为模式,使其保持对前沿Agent能力的覆盖。这是一个正确的研究姿态——可解释性不是一次性工程,而是持续演进的生态。 观点 当前AI行业痴迷于让模型"更强",却很少关注我们能否真正理解模型在做什么。ACT*ONOMY代表了一种更成熟的研究方向:承认智能体的行为是复杂的、可变的,需要专门的工具去解读而非假设它透明可控。这篇论文值得任何在做Agent产品或研究Agent安全的人认真阅读。