Harness 与 Agent 工程 · MCP与框架接入 · 2025-10-19

万字长文|基于 MCP 的 AI 应用新架构设计体系:深度剖析与落地实践

探索AI应用架构新范式:MCP如何重塑AI Agent协作模式,解决开发痛点并提升效率。

核心内容:

  1. MCP概念解析及其与Function Calling的核心差异
  2. 应对MCP落地四大挑战的完整技术方案
  3. Server First理念驱动的AI应用架构新范式

本文提供了一个全面的视角,来看待如何利用模型上下文协议(MCP)实现 AI 应用新架构设计体系的落地实现,核心内容主要是以下5点:

下面详细介绍之。 *—1*—

AI Agent 现状与架构

AI 大模型在商业领域的应用正成为推动创新和效率提升的核心力量。其关键在于多个AI Agent 的协作,这些 AI Agent 通过分工与合作,共同承载 AI 应用所支持的业务需求。这种协作模式不仅优化了企业运营,还展现了 AI 在解决高影响力挑战中的潜力。

目前 AI Agent 与各种 Tools(业务服务接口)、Memory(存储服务接口)以及 LLMs(大语言模型)的交互主要通过 HTTP 协议实现。除了 LLMs 基本遵循 OpenAI 范式外,与其他 Tools 和 Memory 的交互需要逐一了解它们的返回格式进行解析和适配,这增加了开发的复杂性。当一个 AI 应用包含多个 AI Agent,或者需要与多个业务服务接口和存储服务接口交互时,开发工作量显著增加,主要体现在以下三个方面:第一、寻找合适的接口

第二、解析接口返回格式

第三、编排多个 AI Agent

因此,目前许多 AI应用只包含少数几个 AI Agent,甚至很多应用背后只有一个 AI Agent。这也是目前 AI 应用背后的 AI Agent 仍处于第一阶段(Siloed, Single-Purpose Agents)的原因。为了使 AI Agent 进入第二阶段(Platform-Level Agents),我们使用云原生 API 网关作为统一的接入层,通过网关的三种不同角色,解决了部分复杂度问题:第一、作为南北向流量网关

第二、作为 AI 网关

第三、作为东西向网关

然而,上述方法仅解决了部分复杂度问题,更核心的寻找接口和解析接口的问题仍未得到解决。直到 MCP(Model Context Protocol)的出现,我们看到了真正通往第二阶段(Platform-Level Agents)的道路,甚至有望触及第三阶段(Universal Agents, Multi-Agents)。 *—2*—

MCP 架构设计剖析

1、MCP 是什么?MCP(模型上下文协议,Model Context Protocol)是由Anthropic(Claude 的开发公司)开发的开源协议,旨在为大语言模型(LLM)提供一种标准化的方式,以便它们能够连接到外部数据源和工具。它就像是 AI 应用的“通用接口”,帮助开发者构建更灵活、更具上下文感知能力的 AI 应用,而无需为每个 AI 模型和外部系统组合进行定制集成。MCP 的设计理念类似于 USB-C 端口,允许 AI 应用以一致的方式连接到各种数据源和工具,如文件、数据库、API 等。

MCP 包含三个核心概念:第一、MCP Server

第二、MCP Tool

第二、MCP Client

2、MCP 的运作机制要真正理解 MCP,我们需要深入其运作机制,这不仅能揭示 MCP 调用方式与传统 HTTP 调用方式的差异,还能让你明白为何 MCP 能够助力 AI Agent 迈向第二阶段。

以开发一个获取时间的 AI Agent 为例,用户只需提问“现在几点了?”即可。假设我们已有一个处理时间的 MCP Server,其中包含两个 MCP Tool:一个用于获取当前时区,另一个用于获取当前时间。

基于 MCP 的调用过程分为六个核心步骤:

第一、用户提问

第二、LLM 推理

第三、调用 MCP Tool

第四、返回结果

第五、内容规整

第六、最终反馈

在整个 MCP 调用过程中,MCP Server 及 MCP Tool 的信息至关重要。从第一步和第二步可以看出,这些信息为 LLM 提供了解决问题的关键线索。这些信息本质上就是 MCP 中的 System Prompt,其核心作用是为 LLM 提供清晰的指导,帮助其更好地理解用户需求并选择合适的工具来解决问题。

3、MCP System PromptMCP(模型上下文协议)与传统协议定义不同,它并没有固定的数据结构。其核心在于通过自然语言清晰地描述 MCP Serve r和 MCP Tool 的功能及作用,让大语言模型(LLM)通过推理来选择最合适的 MCP Server 和 MCP Tool。因此,MCP 的本质仍然是提示词工程(Prompt Engineering)。

以下是一些关键的示例和步骤解析:

第一、 MCP Client(Cline)中的 System Prompt

Cline 是一个 MCP Client,其 System Prompt 对 MCP Server 和 MCP Tool 都有明确的描述。比如:它会详细说明每个 MCP Server 的功能以及其中包含的 MCP Tool 的作用。这种描述为 LLM 提供了足够的上下文,使其能够理解每个工具的用途。

上图告诉 LLM:

上图告诉 LLM:

第二、流程第一步:发送问题和 System Prompt

在调用流程的第一步,用户的问题(如“现在几点了?”)和 System Prompt 一起被发送给 LLM。System Prompt 的作用是为 LLM 提供清晰的指导,帮助其理解用户问题的背景和可用的工具。

第三、流程第二步:LLM 返回解决方案

在第二步,LLM 根据用户问题和 System Prompt 中的信息,推理出最合适的 MCP Server 和 MCP Tool,并返回明确的解决方案。比如:LLM 可能会返回:“使用 time MCP Serve r中的 get_current_time MCP Tool 来解决用户的问题。”并以 XML 格式 返回给 Client/Agent。

通过这种方式,MCP 利用自然语言描述和 LLM 的推理能力,动态地选择和调用最适合的工具,从而实现灵活且高效的 AI 应用开发。

4、MCP 与 Function Calling 区别通过前面的介绍,相信大家对 MCP 有了清晰的认识。MCP 是否解决了找接口和解析接口的问题呢?答案是肯定的。因为这两个任务都交给了 LLM(大语言模型)来完成。

第一、LLM 负责为 AI Agent 找到最合适的接口。

第二、AI Agent 调用接口时,无需解析返回结果,而是将结果原封不动地交给LLM。

第三、LLM 结合用户问题和接口返回的结果,进行内容规整处理。

那么,MCP 与 LLM 的 Function Calling 有什么区别呢?核心区别在于是否绑定特定的模型或模型厂商:

第一、MCP 是通用协议层的标准,类似于“AI 领域的 USB-C 接口”,定义了 LLM 与外部工具/数据源的通信格式,但不绑定任何特定模型或厂商。它将复杂的函数调用抽象为客户端-服务器架构,使得不同模型和工具之间的交互更加灵活和通用。

第二、Function Calling 是大模型厂商提供的专有能力,由大模型厂商定义,不同厂商在接口定义和开发文档上存在差异。它允许模型直接生成调用函数,触发外部 API,依赖模型自身的上下文理解和结构化输出能力。

例如,LLM Function Calling 需要为每个外部函数编写一个 JSON Schema 格式的功能说明,并精心设计一个提示词模板,才能提高 Function Calling 响应的准确率。如果一个需求涉及几十个外部系统,那么设计成本将是巨大的,产品化成本极高。

而 MCP 统一了客户端和服务器的运行规范,并且要求 MCP 客户端和服务器之间也统一按照某个既定的提示词模板进行通信。这样,通过 MCP 可以加强全球开发者的协作,复用全球的开发成果,降低开发成本,提高开发效率。

5、MCP 的本质与挑战通过前面的讨论,我们可以总结 MCP(模型上下文协议)的本质:MCP 并非一个固定的数据格式或结构,而是系统提示词与 MCP Server 和 LLM 之间协同关系的结合。它通过自然语言描述 MCP Server 和 MCP Tool 的功能,让 LLM 能够推理出最适合的工具来解决问题,从而解决了找接口和解析接口的问题。

然而,将 MCP 引入企业级生产应用时,会面临诸多挑战:

第一、描述 MCP 信息的系统提示词的挑战

第二、MCP Client 与 MCP Server 之间协同关系的挑战

总之,尽管 MCP 为 AI 应用开发带来了灵活性和效率提升,但在企业级应用中,仍需克服系统提示词的安全性、管理、调试以及 MCP Client 与 MCP Server 之间的协同关系等多方面的挑战。

*—3*—

AI 应用架构设计新范式

为了解决 MCP 在企业级应用中面临的诸多挑战,对 AI Agent 的架构进行了深度重构。通过在云原生 API 网关和注册配置中心 Nacos 中引入 MCP 增强能力,成功解决了大部分挑战点。同时,分别针对快速开发 MCP Server 和提升开源 Dify 性能的问题提供了有效解决方案。这些举措共同构建了一个基于 MCP 的 AI 应用开发新范式,推动了 AI 应用的高效开发与部署。

云原生 API 网关与 Nacos 的 MCP 增强:通过这两个产品的增强能力,解决了系统提示词的安全性、管理、调试以及 MCP Client 与 MCP Server 之间的协同关系等核心挑战。云原生 API 网关提供了强大的流量管理和安全防护功能,而 Nacos 则在服务发现和配置管理方面发挥了关键作用,确保了 MCP Server 和 LLM 之间的高效协同。通过这些增强能力的实现,解决了 MCP 在企业级应用中的关键挑战。3.1、AI 应用架构新范式剖析AI 应用架构结合 MCP,我们定义了 AI 应用架构的新范式。

一个云原生 API 网关三种角色,具备统一的管控底座,同时又实现各角色的协同调度。

Nacos 发挥注册中心优势,增加 MCP Server 的注册能力,实现普通服务和 MCP Server 的统一管理,结合网关实现现存业务0改造转换为 MCP Server。

以下是对图中8步核心调用链路的解析:第一步用户请求:用户向 AI 应用发起请求,请求流量首先进入流量网关(云原生 API 网关)。第二步请求转发:云原生 API 网关维护管理不同类型的 AI Agent 的 API 或路由规则,将用户请求转发至对应的 AI Agent。第三步获取 MCP 信息:AI Agent 在需要获取数据时,向 MCP 网关(云原生 API 网关)请求获取可用的 MCP Server 及 MCP Tool 信息。第四步 LLM 交互(可选):MCP 网关可能维护大量 MCP 信息,借助 LLM 缩小 MCP 范围,减少 Token 消耗,向 AI 网关(云原生 API 网关)发请求与 LLM…

— 以上为试看内容(约 40%),开通会员后阅读全文 —

原文出处:https://www.53ai.com/news/LargeLanguageModel/2025101952347.html