2025年,Agent很忙。
上半年忙着比谁的模型更聪明,下半年忙着解决一个更现实的问题:怎么让这些聪明的Agent真正“动起来”?
有些企业满怀期待地引入“数字员工”,希望它们能自动完成数据整理、客户服务、代码编写等重复性工作,然而现实却频频“打脸”:任务执行到一半突然中断,面对突发流量时响应迟缓,算力成本居高不下,甚至因为安全漏洞让企业数据面临风险。
这不是个别现象。据Gartner测算,2028年全球Agent市场规模将达到2850亿美元,届时15%的日常业务决策将由Agent自主完成,33%的企业软件将原生嵌入Agentic AI能力;IDC则指出,2024年中国AI Agent软件市场收入规模首次突破50亿元人民币,预计2028年将跃升至8520亿元人民币,2023~2028年复合年增长率高达72.7%。其中,面向企业端的应用长期占据98%以上份额。
但当这些在Demo中表现惊艳的Agent投入真实的高并发业务环境时,便频频陷入“跑不动、不安全、不兼容”的窘境。
问题的症结在于:传统云计算基础设施与Agent的原生特征之间,存在着代际错配。Agent的高自主性、长会话、突发负载等特点,难以被为传统应用设计的架构所支撑。
于是,行业逐渐形成共识——“Agent跑起来,Infra先铺路。”
Agent Infra,这个从技术后台走向幕前的新赛道,正在成为决定AI Agent规模化落地的关键变量。
1.从AI Infra到Agent Infra:一场范式革命
要理解Agent Infra的价值,需要先看清楚AI应用正在经历的范式转变。
传统AI应用追求的是“确定性”——输入相同的数据,输出相同的结果。
但Agent的出现打破了这一切。它具备不确定性、复杂性和自主性。想象你在使用一个传统的数据分析软件。你输入同一份销售数据,每次都会得到相同的报表,这就是确定性。
但当你换成Agent来做同样的工作,情况就不一样了。今天它可能重点分析地区差异,明天可能关注季节趋势,后天又可能发现价格敏感性。
这种不确定性源于大模型的概率推理机制,让Agent的行为难以精确预测。企业在应用Agent时必须接受这种不确定性,同时通过工程手段将其控制在可接受范围内。
当这个Agent出现错误时,排查就成了一场侦探游戏——是因为你的提问方式(Prompt)有歧义?还是它从历史对话(记忆)中提取了错误信息?抑或是调用的数据源(知识库)本身就有问题?
在传统软件中,你可以单步调试、逐行排查;但在Agent系统中,这些组件像一团乱麻,相互影响又难以拆解。这就是复杂性,它让传统的调试方法失去用武之地。
最让人担心的是自主性。传统软件只会做你让它做的事,但Agent会“自作主张”。它可能自己决定调用某个API、执行某段代码、访问某个网站。
这种能力让它能够处理复杂任务,但也带来了风险:如果它被恶意提示词诱导,可能做出危险操作;如果它对权限边界理解错误,可能越权访问敏感数据。
在传统软件的安全模型中,“自主行动”通常意味着系统被入侵了;但对Agent来说,自主行动恰恰是它的核心价值。如何让这种自主性既强大又安全,是基础设施必须解决的问题。
这三大特征并非孤立存在,它们相互交织,构成了AI Agent范式的核心。不确定性与复杂性是自主性的内在体现,而自主性则将前两者带来的风险具象化。
腾讯云产品团队在思考Agent Infra的演进逻辑时,提出了一个核心观点:云计算的发展史,就是在企业应用架构不断演进的过程中,持续化解“偶然复杂度”的过程。从单体应用时代的IaaS,到微服务时代的容器治理平台,再到大数据时代的一站式数据引擎,每一次技术跃迁都是为了让开发者从基础设施的繁琐中解放出来,专注于业务创新。
云计算发展史,图源:GeeksforGeeks
Agent时代同样如此。当Agent需要执行代码、访问网络、操作数据库时,传统的云基础设施已经无法满足其“高频、轻量、突发、即时响应”的工作模式。
Agent Infra的出现,正是云计算对这一新型工作负载挑战的必然回应。随着AI竞争焦点从模型能力转向基础设施支撑能力,Agent Infra已成为全球云厂商争夺的战略高地。
在国际市场,三大云厂商已展现出鲜明的技术路径和战略侧重。
-
AWS凭借在云计算基础设施领域的深厚积累,于今年7月推出Agent Core预览版,它基于Lambda FaaS深度定制全托管运行时,提供记忆管理、身份验证、代码执行等工具,强调安全、可扩展和多Agent协作。值得注意的是,Agent Core专注于保障Agent运行,而非构建Agent本身。
-
微软Azure选择了生态协同的差异化路径,在今年5月推出AI Foundry Agent Service,深度集成NVIDIA NIM微服务与AgentIQ工具包,形成从模型优化到Agent调度的全链路能力。依托Functions FaaS的事件驱动架构,它支持1小时长时运行与企业级IAM权限管理。
-
谷歌GCP则走轻量化与普适性路线,Vertex AI Agent Builder聚焦构建和管理多Agent系统,用低代码降低了Agent开发门槛,让企业无需深厚编程能力即可构建客服、HR问答等场景的智能体。
尽管技术路径各异,但云厂商们都有一个共同的目标:为Agent提供更高弹性、更低延迟、更强安全、更长会话的保障,支撑其真正落地千万级企业场景。
2.沙箱:Agent跑起来的第一道关
在Agent Infra的诸多能力中,沙箱是最关键的一环。它为Agent提供隔离、监控、记录、约束的受控执行环境,是智能体与真实世界之间的安全边界。
但问题在于,传统沙箱太慢。
传统虚拟机的启动方式为长时间运行…