ICML 2025 Spotlight | 谁导致了多智能体系统的失败？首个「自动化失败归因」研究出...

文章预览

想象这样一个场景：你开发了一个由多个大型语言模型 Agent 组成的智能团队，它们协作完成复杂任务，比如一个 Agent 负责检索，一个负责决策。然而任务失败了，结果不对。 问题来了：到底是哪个 Agent 出了错？又是在对话流程的哪一环节？调试这样的多智能体系统如同大海捞针，需要翻阅大量复杂日志，极其耗时。 这并非虚构。在多智能体 LLM 系统中，失败常见但难以诊断。随着这类系统愈加普及，我们急需新方法快速定位错误。正因如此，ICML 2025 的一篇 Spotlight 论文提出了「自动化失败归因（Automated Failure Attribution）」的新研究方向，目标是让 AI 自动回答：是谁、在哪一步导致了失败。 该工作由 Penn State、Duke、UW、Goolge DeepMind 等机构的多位研究人员合作完成。 论文标题：Which Agent Causes Task Failures and When? On Automated Failure Attribution of LLM Multi-Agent ………………………………