为什么大模型企业都在强调可以连续工作XX小时的Agent和模型?长时运行Agent解析(Long-Running Agents)


在 2025-2026 年的 AI 领域,一个现象越来越突出:各大企业如 Anthropic、OpenAI 等,在产品发布和演示中反复强调他们的 AI 代理(Agent)能够“连续运行数小时、整夜执行任务、无人值守”。例如,Anthropic 的工程博客中展示了如何让 AI 代理在长项目中自主运行数小时,甚至跨多个会话保持进度。 McKinsey 的 2025 年 AI 全球调查也指出,AI Agent的长期运行能力正驱动实际价值创造。 这不是简单的营销噱头,而是反映了 AI 从短期交互向复杂任务处理的转变。在很多博客和文章中,把这种强调长时间不间断运行的AI Agent系统称为长时Agent(即Long-Running Agents)。

一个普遍的疑问是,大模型不应该是越快回复越好吗?为什么这些企业反而强调长时运行?其实,这源于现实任务的复杂性:许多问题需要多步迭代、数据处理和外部交互,无法在秒级响应中完成。长时运行强调的不是“慢”,而是自主处理长时间任务的能力,让 AI 从“快速回答者”转向“可靠执行者”。

很多人常见的误解是认为长时间运行的Agent是指“模型一直在思考”,像一个不眠不休的超级大脑。事实上,这种长时运行更多是系统级设计的结果:任务被作业化处理,结合恢复机制和治理框架,模型只是其中一环。

本文将简单分享一下为什么现在的企业都强调长时运行的Agent,它的价值以及可能需要什么才能做好。

1. 定义:什么叫“长时运行 Agent”

长时 Agent 不是简单的长上下文模型、更大 token 处理能力,或更长的对话历史。这些是基础,但不足以定义长时运行。

相反,长时 Agent 是指 AI 系统能够跨多个会话、多次工具调用和多阶段产物,仍能完成同一个目标。LangChain 的 Agent 工程状态报告中强调,长时代理的核心在于处理长地平线任务,通过内存和工具集成实现。 X 平台上的讨论也指出,长时代理如 Anthropic 的 Claude Code,能自主运行数小时完成特征部署。

那么简单总结一下,一个长时运行的Agent需要至少具备下面三个方面的能力:

  • 自治
    自己拆解任务、调度子步骤、纠错并收敛到目标。
  • 上下文工程
    信息外置存储、选择性取用、阶段性压缩,避免上下文爆炸。
  • 耐久运行时
    支持断线恢复、异步作业、检查点、可观测性,以及权限与预算控制。

2. 长时运行的AI Agent价值:为什么“能跑很久”会改变产品形态

说了长时运行的Agent之后,很自然的一个问题是为什么我们需要这种形态的Agent。简单来说不是我们期望长时运行,而是因为很多复杂的任务只能通过拆解步骤,不间断的、持续的解决才能获得最终的答案。早先大家讨论AI Agent应用的时候重点关注调用接口、工具等能力,但是比较少关注一次性调用可能也无法解决复杂问题。而AI Agent应用想要获得实际的价值,需要能解决更多步骤的工具调用以及更多的上下文问题。这里主要体现在下面几个方面:

大模型的应用从“回答”变成“交付”

之前的 LLM 或者说 Copilot 的主要目的是提供文本回答,稍微复杂一点的可以通过RAG(检索增强生成)来获取答案。而长时 Agent 的目标是能生成实际交付物,如代码 PR、报告、数据表、工单、配置变更或可复现实验结果。这里的关键差异在于解决这些复杂的问题,需要有阶段产物 + 验证 + 继续推进的能力。这一点在IBM 的 2025 年的AI Agent 预期和现实的报告中也有体现,即AI Agent更加强调从“一次性输出”转向“迭代交付”。

大模型应用从“同步聊天”变成“异步作业”

针对我们所说的这些复杂任务,例如为网站增加一个新的功能,用户不再…

— 以上为试看内容(约 40%),开通会员后阅读全文 —