AI 创新实践|「架构师 Agent」系统化落地


前言

当前,在业界,AI 仍然无法很好的理解“复杂技术系统”,也无法针对性的达成完善的技术方案设计,“架构师”仍然只能由“人”担任。繁忙业务的架构师每天仍然要参与 N 多个技术讨论、技术决策,去讲自己的技术思考、技术设计—— 架构师的人力颈明显。

单个技术系统内部AI 逻辑理解和推理,在业界已经有了比较好的落地,但对于“跨复杂业务系统的架构理解与设计”并没有比较好的系统性解决方案提出来;而这个 topic 本身是迈向 7 x 24 小时Agentic Coding 的必经之路,AI 需要对复杂系统有很好的理解之后,才能针对性的做好技术方案设计、问题排查、乃至无人值守的自动化迭代。

我们希望,让大型存量分布式系统成为 AI 可理解、可推理、可验证的工程系统,让AI Agent 可以真正的变成「架构师」。

01

AI 仍难以理解复杂系统架构

很多团队第一次使用 AI Coding 时,都会发现一个类似的问题:从零做一个小系统,效果往往很惊艳;一旦把 AI 放进运行多年的大型系统里,效果就开始不稳定。

小系统里,AI 能在很短时间内搭出页面、接口、数据模型、测试和部署脚本。大型复杂系统里,一个看上去不复杂的需求,可能涉及十几个仓库、几十个接口、若干配置中心和异步消息链路。AI 写代码本身未必慢,真正慢的是它不知道该从哪里开始,也不知道哪些地方绝不能动。

这不是一个单纯的模型能力问题。代码生成能力已经足够强,局部修改、补测试、解释调用链,很多模型都做得不错。困难在于,复杂系统真正重要的知识并不完整地存在于代码中。

一个字段为什么不能删除,某个历史分支为什么必须保留,一条 MQ 消息为什么只能新增字段不能改语义,某个接口为什么不能在网关层做校验,某个配置为什么必须跟发布灰度一起生效......这些信息可能散落在历史方案、事故复盘、配置平台、同事经验和没有被正式记录的约定中。人类工程师靠长期参与、沟通和事故记忆补齐了这部分上下文;AI 如果没有被提供这些事实,只能依据局部代码做推断。

所以,AI 在复杂存量系统中最容易出现的错误,往往不是代码语法错误,也不是编译器或单测能直接发现的错误,而是「局部正确、整体错误」:逻辑写在了不该承担职责的服务里;增加了一个看似方便的同步调用,却消耗了核心链路的超时预算;删掉了一段看似冗余的兼容逻辑,破坏了老版本客户端或下游离线任务。

以架构师的核心职能技术方案设计为例,技术方案设计决定了需求应该落在哪些系统、改动应放在哪一层、哪些能力可以复用、哪些约束不能突破,以及改完以后如何证明它仍然安全。AI Coding 的效率会放大方案正确性,也会放大方案错误的传播速度。方向错了,AI 只会更快地把错误落实成大量代码。

复杂存量分布式系统有一个很大的难题:AI 必须跨越业务语言、架构链路、多个服务和真实代码,才能获得足够上下文来生成技术方案。很多团队目前的做法仍是由架构师或者资深工程师先完成人工方案,再把确定的改动点交给 AI 编码;在与集团内外和多部门同事、同行的交流中,我们也观察到,技术方案设计仍是人工介入最深的环节之一,仍然是需要架构师强力介入的环节。

02

白纸与旧城:新系统容易,存量系统困难

除了系统规模以外,新系统、已有系统对于AI 的挑战也差别非常大。

在AI 的加持下,一名研发工程师,就可以用一周的时间写出类似Salesforce 的系统,实现大部分基础功能。

但是如果让他在已有的Salesforce 系统上做一个中等规模的AI Coding 迭代,可能反而一周搞不定。

这是因为新系统、老系统,对AI 来讲差别也很大,核心差别在于历史上下文的认知、生效方式。

从零开始开发一个新系统,AI 面对的是一张相对干净的“白纸”。边界可以新建,模块可以新拆,接口可以新定,历史包袱也少。即使某些设计不够优雅,后续调整的成本通常仍然可控。

就相当于人一样,一个订单系统让一位新同学开发往往可以几天之内看到雏形,而如果让这位同学在已有的订单系统上开发,往往需要几天的时间去熟悉历史代码和历史业务场景。

而存量技术系统像一座运行多年的城市。路网、管线、旧建筑、临时改造和居民习惯共同决定了它今天的样子。你不能只看一条街上的建筑风格,就决定把地下管线挖掉;也不能只看到一个服务里的代码,就断定它拥有某项业务的最终决策权。

大型分布式系统至少有四类知识同时影响方案设计。

  • 第一类是业务知识。产品说“优化退款体验”“增加人群投放”“调整订单展示”,这些都是业务语言。它们对应的业务对象、状态含义、边界和例外,并不必然等同于代码中的类名和字段名。一个“订单”在不同团队的口语里,可能是交易订单、支付单、配送单或对账单;如果概念没有被消歧,后续检索和设计很容易从第一步就偏离。
  • 第二类是架构知识。一个用户请求从客户端进入之后,经过哪些 BFF、领域服务、下游 RPC、消息和异步任务?哪些服务拥有数据主责,哪些只是聚合和展示?哪里允许最终一致,哪里必须强一致?这些决定了变更应该落在什么位置,也决定了影响分析的范围。
  • 第三类是服务内部知识。单个服务中的 API 契约、领域对象、状态机、数据库、缓存、消息、定时任务、配置项和测试方式,决定了“具体怎么改才安全”。仅靠临时 grep,AI 可以找到一些相关文件,却未必知道哪个入口是主路径,哪个分支是历史兼容,哪个字段会被下游消费者依赖。
  • 第四类是工程与组织知识。例如超时、重试、限流、灰度、发布、回滚、安全审批和监控规则。这些往往不改变业务代码的表面逻辑,却直接决定方案能否上线、故障是否可控。

从这个角度看,“存量复杂系统”的困难在于知识彼此断裂。代码只表达了部分实现事实;文档可能表达了一部分设计意图;配置记录了运行时行为;经验沉淀了大量没有写下来的约束。如果没有一套机制把它们组织起来,AI 就很难从一个 PRD 走到完整的技术方案。

这也是我们希望解决的痛点:让「存量的大型分布式系统」不再只存在于少数人的脑中,而是逐步成为 AI 可以全方位理解、进而参与方案设计、研发执行和线上排查的工程系统。

尤其「技术方案设计阶段」是整个AI Coding 的核心部分,是AI Coding 最重要的源头起点。

在公开可见的实践中,这种面向复杂存量分布式系统的端到端组合仍不常见,这部分能力目前业界一直没有很好的可靠解决方案。

足以证明达成这个目标确实是有难度、有挑战的,但是从价值来讲又是有必要性的,因此我们称之为 —— 难而正确的事!

03

难而正确的事:行业走到了哪里

从 Spec、Harness 到系统理解

我们也调研了最近2年的相关技术设计、与探索实践,其实业界早就普遍意识到,直接把一句自然语言需求交给 Coding Agent,再期待它完成复杂研发,并不是稳定的工作方式,所以是持续有一些新的技术设计、技术方法论、实践产生:

  • 第一条主流路线是 Spec-Driven Development:GitHub Spec Kit 将流程组织为 Spec → Plan → Tasks → Implement,用结构化产物把需求、计划和任务串起来。Kiro 也将需求、设计、任务拆成独立文件;对于复杂、陌生或高风险的需求,它建议保留阶段性审阅和需求分析,而不是直接进入执行。
  • 第二条路线是长程 Agent 的 Harness:Anthropic 在长程开发实验中发现,只给模型一个高层目标并不足以得到生产级结果,需要通过初始化、任务拆分和结构化交接,让后续会话知道前面已经完成了什么、还缺什么。这解决的是长时间执行过程中的上下文连续性问题。
  • 第三条路线是 Agent-friendly Repository:OpenAI 的实践强调:给 Agent 一张地图,而不是一千页说明书。短小的 AGENTS.md 负责路由,结构化文档负责承载事实,CI 和自动化检查负责发现知识陈旧、链接失效和结构漂移。

这些思路和方向都很重要,也和我们的实践高度一致。不过这些实践比较多的还是偏单个微服务系统内部实践,对于跨复杂多系统的工业实践层面,并没有给出比较理想和细节的设计。

而我们希望向前一步,让AI 能够完成“复杂系统理解”,并能够真正做到类似于人类架构师一样实现跨多系统、甚至多终端的技术方案设计、推理等。

04

从技术方案设计Agent 开始

虽然我们要做的是「架构师Agent 」,但是为了避免空泛化的设计和过于发散的思考,我们把决定先从架构师的核心职能之一 —— 技术方案设计开始,逐步落地我们的架构师Agent。

图示:技术方案设计,是AI Coding、乃至 7 x 24 小时的 Agentic coding 的必经之路。

但是技术方案设计现在基本都是由架构师人工完成的,无法摆脱架构师的脑子和能力。

站在业界的角度,我们希望通过一种系统性的设计和落地,切实帮助到我们的日常工作,扩大AI 提效的Scope 和高度。同时,也尽量形成可迁移的方法论或者流程,以帮助到更多的团队乃至业界的工程师。

我们的设计思路是系统化地让 AI 完成技术方案设计:先理解需求,再理解业务和系统,再回源代码与配置,最后给出可执行、可验证、可审计的方案。这个过程的关键,不是一条更长的 Prompt,而是一套持续演进的知识工程与Agent 迭代路径。

由此也可以看出,其中主要的几个抓手和关键点:需求质量、分层知识库(全面性、准确性、渐进式披露)、LLM基模(推理能力)、技术方案产出规范。

我们先从“知识库建设”开始第一步落地。

05

知识库的系统性建设落地

在之前的文章《分解一座冰山:后端系统“AI 知识库体系”建设实践》中已经系统性的讨论和设计过知识库体系,在文章发布后,也有很多不同部门的同学过来找我们讨论,包括大家各自在知识库建设过程中遇到的一些问题比如:指标衡量方式、什么样的知识库结构比较好、如何用指标衡量知识库建设效果等。

因此,本文会根据我们之前已发表文章中的内容以及大家关心的话题,做更多进一步的细化阐述。

尤其是AI 时代,对于知识库建设方面,很多团队天然想到的就是RAG。我倒不是不推荐RAG,我们更认为知识库建设的第一层看到的不应该是RAG,应该是「领域」。

注:引用上一篇文章的原图,其中蓝色背景框部分,是性价比比较高的模块,适合越早投入见效越快的模块。

5.1 知识库应该首先“对齐领域”:结构化的设计

1.5 年之前,我对AI 一直有一个比喻:“能力强大的小学生”。当时 AI 确实很强大,但是思路层面非常懵懂,经常需要复杂的提示词才能让他理解任务,并理解这个任务对应在现实世界中的实际逻辑,从而去更加准确的完成人类交给的任务。

而最近一年多的大模型迭代,让我们看到了非常不一样的能力,就是基模能力越来越强,我现在已经很愿意把AI 基模形容为“能力强大的大学生”了:对物理世界、人类需要的数字世界、各种商业逻辑、互联网业务逻辑等都有了比较强的内化性理解。

但无论是小学生还是大学生,我对团队同学提的建议是: 把AI 当做一名刚毕业的很聪明的实习生来引导,指导它的工作。

虽然当前主流的大模型采用的 Transformer 架构和人脑神经思考反馈机制差异很大。但是从实践层面来看,其推理结果和原始输入是有非常大的强相关性的。原始输入越精确,得到的结论越精确、且越高效。这和人类的认知、思考模式的习惯也比较类似。

如果我们新入职的实习生同学,最快引导其工作的方式,应该也是给到他一个结构性比较强的文档,层层递进的熟悉和了解自己的工作,而不是丢给他一个文档库,让他自己去检索。

人类架构师对于技术系统的设计,是有很成熟的类似DDD(领域驱动设计)这样的方法论的。所以,我们的架构应该天然是有领域边界的,天然是“面向领域强结构化”的。

同样,为了提高AI 对于业务、系统的理解效率, 我也强烈推荐让AI 理解这种“强结构化的领域知识”,而不是给AI 一个知识库让它自己搜。

5.2 反直觉设计:为什么不首推 RAG

讨论知识库时,很多人的第一反应是 RAG:把历史 PRD、技术方案、会议纪要、接口文档、复盘和 Wiki 都放进向量库,需要时检索 Top K 片段交给模型。

RAG 很有用,但它不应该是复杂系统知识建设的第一选择。

原因很简单:检索解决的是「从资料中找出可能相关内容」,并不天然解决「AI 是否已经拿到了做出完整工程判断所需的知识集合」。

当数千篇非结构化文档进入同一个索引时,常见的问题会同时出现。

  • 首先是颗粒度不一致:一篇完整方案、一次会议纪要、一段接口说明、一个事故复盘里的截图说明,都可能成为检索单元。它们的知识密度差异很大。一个命中的片段看起来相关,并不代表它涵盖了这个问题真正重要的边界。
  • 其次是语义相似不等于工程相关:用户说“订单取消”,检索可能找到退款、履约、营销、风控中的大量相似描述,却不一定找到“状态机不可跳转”“某个 Topic 仍有历史消费者”“这个接口只有聚合服务可以调用”这类决定方案正确性的约束。
  • 再次是 Top K 的完整性、结构性没有保证:RAG 很容易返回若干看起来相关的文档,但这些文档可能来自不同时间、不同业务范围,甚至互相矛盾。模型拿到的是一些碎片,而不是一条完整链路。上下文越来越长,注意力却没有更集中,推理效率反而下降。

所以,RAG 的问题在于它很难独立承担知识建模的职责,把大量低结构、低密度、碎片化资料统一检索,得到的经常是一座更容易搜索、但依然杂乱的文档仓库。

这里对应的第一性原理思考就是:知识是有结构的,更适合被结构化的索引和理解。信息(比如新闻类内容)是结构化松散的,更适合被平行/平铺化检索。

5.3 “蒸馏架构师的大脑” :业务知识库的建设

在上一篇文章中,对于「业务知识库」结构,我们给出了如下这种结构设计。也有很多同学来找我们问如何实现这个知识库,效果如何等等。

business/├── index.md├── meta/│   └── index.md├── principle/│   ├── index.md│   ├── timeout.md│   ├── idempotency.md│   ├── consistency.md│   ├── degradation.md│   └── compatibility.md├── scenario/│   ├── index.md│   └── scenario-*.md├── reference/ #关联、引用内容├── practice/│   ├── index.md│   └── practice-*.md└── history/    └── history-YYYYMMDD.md

其实这层知识库的主要目标是“把架构师脑子里的隐性知识挖出来”,从而尽量摆脱“技术方案必须依赖架构师的隐形知识才能产出”的魔咒,让AI 对人的依赖进一步降低,进而更快的迈向 7 x 24 小时的 Agentic Coding 和交付。所以,从这一点来讲,就是把架构师大脑中的知识蒸馏出来,形成文档。

而为了实现这个目标,我们开发了新的 skill business-knowledge-distill ,这个 skill 是专门用来根据比如技术方案设计文档、技术稳定性体系梳理串讲文档等进行蒸馏,梳理成强结构化的 business-knowledge 的。

同时,因为很多文档中有“交互图”,这个skill 也会下载并分析对应的图片内容,一起转为结构化的业务知识库,从实际生成效果来看还是非常赞的,尤其在技术方案设计阶段发挥了很大作用。

以高德的实时公交业务为例,我们一次蒸馏后形成的业务知识库如下,文件内详细内容暂不展开。

.├── evidence│   └── images│       ├── b5bebae4a0aba2c0a551.png│       ├── be6c21dc82612f040f2f.png│       ├── d05045ed77ba108686e8.png│       └── image-manifest.json├── history│   └── history-20260817.md├── index.md├── meta│   ├── departure-timetable.md│   ├── index.md│   ├── line-and-station.md│   ├── nearby-recommendation.md│   ├── realtime-bus-info.md│   └── service-roles.md├── practice│   ├── capacity-planning.md│   ├── index.md│   ├── scheduled-tasks.md│   └── stability-risks.md├── principle│   ├── data-sync.md│   ├── degradation.md│   ├── index.md│   └── traffic-governance.md├── reference│   ├── bus-data-server.md│   ├── bus-platform.md│   ├── bus-rs-nds.md│   ├── crowd-engine.md│   ├── gbfs-service.md│   ├── index.md│   ├── info-service.md│   ├── opendi.md│   ├── poi-search.md│   └── srtbus.md├── review-queue.yaml├── scenario│   ├── arrival-query.md│   ├── bus-main-image.md│   ├── data-sync.md│   ├── departure-timetable.md│   ├── index…
— 以上为试看内容(约 40%),开通会员后阅读全文 —