本文从“道、法、术”三个层面对比AI工程与传统软件工程的异同,指出AI工程并非推倒重来,而是在传统工程坚实基础上,为应对大模型带来的不确定性(如概率性输出、幻觉、高延迟等)所进行的架构升级:在“道”上,从追求绝对正确转向管理概率预期;在“法”上,延续分层解耦、高可用等原则,但建模重心转向上下文工程与不确定性边界控制;在“术”上,融合传统工程基本功与AI新工具(如Context Engineering、轨迹可视化、多维评估体系),最终以确定性架构驾驭不确定性智能,实现可靠价值交付。
引言
最近在准备一场题为《AI搜索技术演进实践》的分享时,我收集到不少架构师同行的疑问,其中反复出现的一个问题就是:AI 工程架构与传统工程架构究竟有何不同?这其实也是我自己曾长期思考的课题。身处 AI 快速发展的时代,许多开发者难免产生“AI 焦虑”——尤其当外界不断讨论“AI Coding 将改变开发方式”时,这种不安更显真切。 然而,过去一段时间的实践让我逐渐厘清了一个关键认知:AI 工程并非对传统工程经验的全盘否定,而是在我们过去十几年构建的坚实工程地基之上,为应对“不确定性”所进行的一次精准架构升级。 传统工程以“确定性”为基础——输入明确、逻辑清晰、输出可预测。但 AI 系统天生具有“概率性”和“涌现性”,这让原有的确定性范式面临挑战。不过,这种挑战并不意味着根基动摇。相反,若我们借用“道、法、术”的框架来审视,会发现支撑软件工业的核心逻辑依然稳固。 本文将以一名从平台基建转向 AI 用户端应用的实践者视角,尝试从架构层面梳理 AI 工程与传统工程在“道法术”维度中的变与不变,希望能为大家提供一些思考线索与实践启发。
关于 AI 搜索的实践
在深入探讨“道法术”框架下的架构演进之前,不妨先简要回顾我们团队在 AI 搜索领域的实践历程。自 2023 年 3 月起,我们启动了“淘宝问问”的孵化项目,先后尝试了对话式助手、Copilot 和语音助手三种产品形态。目标是为用户提供更便捷、智能的一站式生活消费解决方案——借助自研大模型,让用户能用自然语言表达丰富、细致且个性化的购物需求,从而获得更精准的商品与服务推荐。这也是业内较早探索大模型在电商场景落地的尝试之一。
随着技术演进与用户反馈的积累,项目逐步聚焦于核心场景,重新定义产品方向。2025 年初,我们基于具备深度推理能力的大模型,推出新一代 AI 搜索产品——“AI 万能搜”,并在双 11 前上线“ AI 清单”。
从概念验证到成熟产品,AI 搜索的工程架构也经历了系统性演进:
- 2023 年:采用主流开源框架构建单体 Agent 架构,快速验证可行性;
- 2024 年:转向多模态全双工交互 + RAG(检索增强生成)为主流的技术栈;
- 2025 年:构建支持复杂推理的混合智能体体系,通过分层组件化设计、Multi-Agent 架构与 Context Engineering(上下文工程)等模块,逐步形成可支撑企业级产品交付的工程体系。
这一过程主要面临三大技术挑战:① 架构范式尚不成熟作为一个新兴领域,AI 工程缺乏统一的行业标准,各团队多处于探索阶段。技术栈迭代迅速,框架理念频繁演进。而且随着大模型能力和 Agent 的不断演进,架构思路和范式在不断变化。有个比较典型的例子,就是 langchain 框架,Chain → Agent → Graph → Agent,三年换了四次方向。AI 这个赛道,技术栈迭代太快了。我们的应对策略是:务实演进,业务先行。以 MVP(最小可行产品)驱动业务闭环,在现有能力下快速跑通链路,再通过迭代逐步加固架构。例如,在流式协议支持不足的初期,我们采用“客户端轮询 + 服务端分段缓存”的临时方案支撑首版体验;在构建多模态实时交互通道时,借助音视频基础设施,快速搭建出首个可交互 Demo。 ② 业务需求高度不确定作为创新产品,AI 助手的验证周期短,方向调整频繁。仅一年内,我们就完成了多次大版本迭代,并尝试多个实验性功能。这部分恰是平台架构最擅长的领域。我们通过高配置化、可插拔的工程框架,低成本响应变化:抽象出 AI 搜索的核心领域模型与通用组件,复用主搜的业务编排能力,构建支持动态配置的插件体系。Prompt、Tool、SOP(标准操作流程)等关键模块均可通过配置热更新,并支持细粒度实验,极大提升了迭代效率。 ③ 大模型特性带来的工程难题前两类挑战在多数创新业务中普遍存在,而大模型本身引入了新的复杂性:高延迟、幻觉、上下文过载、输出非确定性、推理成本不可控等。我们的解法是:将大模型的“波动性”视为系统设计的基本约束。通过上下文工程(Context Engineering)、异步预加载、熔断降级等机制,内建服务鲁棒性,确保可用性、事实一致性与用户体验的稳定性。同时,配套建设了电商知识库、标注平台和评估体系,形成“模型-数据-工程”闭环。
挑战-对策-解法 ▐成型的 AI 搜索工程体系 经过持续演进,我们已形成一套完整的 AI 搜索工程体系,主要包括以下模块:
- 终端:基于跨端框架,支持灵活扩展答案卡片类型,实现多场景复用;集成 Markdown 增强、ASR(语音识别)、TTS(语音合成)等能力,并创新交互形式如动态筛选、流式翻页、内容折叠等。
- 网关与协议:包含流式通信协议,实现端到端低延迟通信;同时构建多模态全双工长连接通道,支持 Agent 与客户端双向实时交互。
-
服务端:采用 Multi-Agent 架构,通过统一的 Agentic 框架,实现业务逻辑编排、模型调度与工具调用;提供开放接口协议,兼容多种接入方式,支撑灵活集成。
-
Multi-Agent 架构:与算法团队共建面向电商场景的大模型协作框架,使 Agent 能自主规划交互流程——既能主动引导用户、输出结构化知识,又能将答案原子化、多样化呈现,摆脱传统固定意图的限制。
-
大模型:基于自研大模型进行业务定制,通过 Multi-Agent 架构进行编排和交互。
这套架构并非一蹴而就,而是在“不确定性”中不断试错、抽象、沉淀的结果。它既继承了传统工程对可靠性、可维护性和可扩展性的追求,又针对 AI 特性进行了精准升级——这正是我们理解“AI 工程不是推倒重来,而是架构进化”的实践注脚。接下来,我将从“道、法、术”三个维度,系统剖析其中的变与不变。
道:从“追求绝对正确”到“管理概率预期”
“道、法、术”是中国传统哲学中一套深刻的认知框架:
- 道:根本规律与价值理念,是认知的底层;
- 法:制度与方法体系;
- 术:具体操作与技术手段。
在工程语境下,“道”决定了我们如何看待系统的本质、目标与边界。 ▐不变:目标和原则 无论技术如何演进,软件工程的根本使命始终未变。正如《架构整洁之道》所强调:“软件架构的终极目标,是以最小的人力成本满足系统构建与长期维护的需求。”这一原则在AI时代依然成立——用有限资源,可控地交付可持续的价值。 因此,以下核心准则并未因AI的引入而动摇:
- 控制复杂性仍是架构设计的首要任务
- 稳定交付与持续演进依然是衡量工程团队成熟度的关键标尺
我们不能因为模型具有“智能”就容忍系统频繁崩溃,也不能以“AI不可控”为借口放弃对用户体验的基本承诺。 ▐变:确定性 VS 概率性 真正发生范式转移的,是对“正确性”本身的理解。
- 传统工程建立在确定性之上。系统行为遵循 $y = f(x)$ 的严格映射。输入固定,输出必须一致;行为可穷举、可验证。“Bug”是非黑即白的存在——要么正确,要么错误。
- AI工程则运行于概率空间之中。智能输出是大模型、提示(prompt)、上下文与环境共同“涌现”的结果。其本质具有内在不确定性。此时,“正…