AI落地Best Practice · 企业与业务成品 · 2026-05-25

万级实时推理的商品领域Agent实践思考和总结

商品Agent如何支撑亿级商品实时推理,将开发周期缩短至一周?本文分享商品域从离线到实时、从单点提效到系统自治的架构演进。

核心内容:

  1. “事件驱动的Function-Centric Agent”两层架构设计
  2. 整合三类商品知识库实现高效实时推理
  3. 在亿级商品核心场景的落地效果与未来展望

过去几年商品域为应对AI化挑战,构建了"事件驱动的Function-Centric Agent架构"。该架构采用两层设计:上层为业务场景workflow编排层,下层为统一能力供给层,通过AIFunction标准化封装工具和领域知识。系统整合了显性事实、关联情景和隐性经验三类商品知识库,实现了在离线业务流程统一,并基于商品事务事件实现高效实时推理。目前已在商品属性、卖点等核心场景落地,覆盖亿级商品,显著提升信息完整性和搜索转化率,新需求开发周期缩短至1周/人,为商品智能化从"单点提效"迈向"系统自治"奠定基础。

引言

随着大语言模型的兴起,商品域在商品理解业务中引入大模型能力,对商品卖点、规格等核心链路进行升级改造。早期沿用T+1离线批处理的生产思路,已在多个场景取得了较好的前台效果。

在这个过程中我们在不断思考几个问题:

(1)AI化是未来很长一段时间的主线,商品域拥有最全的品类和商品供给,工程侧应该储备什么样的技术基建能力,能够立足当下解决业务实际问题,并面向未来持续演进?仅在离线链路跑通几个案例是远远不够的,数据资产和能力的复用必须作为长期目标来对待。

(2)AI化这一抽象命题在商品域如何拆解为可落地、可演进的技术路线?

(3)当前工程使用AI更多的是离线链路,且商品模型各异,是否从离线推理走向实时推理?若到SKU粒度是否能够支撑?当前商品的数万级的写入变更, DB上数据行的变更峰值至少为数十万,是否有有效的方案能解决推理成本问题?大模型生产的数据怎么评价?

(4)在业务上,SKU化的背景和趋势,已经提了这么多年(据材料记载SKU化从2015年左右就有陆续提出),能不能通过agent的思路在商品领域有更完整的解决方案?

为什么是商品Agent? 在 2025 年初的大模型工程实践中,业界已探索出多种将大模型能力落地的路径,包括:

这些范式在各自场景中仍有价值,但面对商品域这类高复杂度、强标准化、需持续演进的业务系统,它们均存在“能力碎片化”与“工程不可持续”的瓶颈。例如,仅靠 RAG 无法自动完成“采集小红书站外知识 → 调用统计算法策略 → 分析属性在当前类目下消费者的提及率 → 生成决策属性建议和理由 → 提交审核”这一多跳流程;仅靠微调无法适应每日新增的品类规则或平台政策变化。

而 Agent 正是在这些基础能力之上构建的更高阶抽象:

更重要的是,2024–2025 年大模型原生支持 Agent 能力的技术拐点已经到来:

因此,选择 Agent 并非否定其他范式,而是以 Agent 为“操作系统级”容器,将 Prompt、RAG、Function Calling、Fine-tuned 模型等能力有机整合为可工程化交付的智能单元。它既继承了已有技术的成果,又解决了其在复杂业务场景中的组合性、状态性和可持续性短板。

商品域结合Agent这一新的技术趋势,我们认为搭建商品领域Agent是实现商品智能化从“单点提效”迈向“系统自治”的关键跃迁,不仅是技术架构的升级,更是对商品数据生产与消费范式的重构,也正是工程侧在 2025 年坚定选择 Agent 作为 AI 化主路径的根本原因。因此,过去一个季度,商品中心围绕“商品Agent”开展初步建设,探索将大模型能力以可控、可集成的方式嵌入商品生命周期链路。重点围绕搜索/详情参数&摘要的智能化建设,支持更清晰、一致、可比的商品信息呈现,从而辅助消费者更高效地获取关键决策信息。

商品Agent架构建设

落地商品 Agent 这类面向具体业务领域的 AI Agent时,远不止“接入大模型 + 写 Prompt”那么简单——真正实现其可用、可靠、可提效、可运维,需要系统性地完成一系列工程化工作

▐框架选型

2025年被称为Agent元年,集团内外“涌现”了非常多的智能体框架,涵盖大模型Agent的方方面面,包含workflow编排、工具集成(MCP)、memory管理等,更有CrewAI、MetaGPT这样的多Agent解决方案。通过广泛评估和调研,我们最终决定选择轻度“耦合”spring-ai-alibaba来构建商品域Agent应用。毕竟在集团成熟的Java生态下,新的技术栈势必带来更多的额外复杂度,可维护性差并且与现有系统的集成难度显著升高。但未来也会向多应用类似微服务的架构演进,引入开源社区丰富的Agent组件如deepeval做评测、deepresearch做事实性验证等。附上在调研阶段,对一些相关框架病结合商品特性做一个的简单对比小结:

▐架构设计

架构设计主要围绕以下几个命题来进行:

(1)面对具象的各异的前台业务场景,需要重点建设哪些组件来降低新场景的开发成本。

(2)商品领域知识如何融入大模型调用流程?

(3)要实现成本的最优,我们认为需实时和离线结合使用,那如何设计workflow及其调度 实现在离线处理逻辑一致?

(4)是否能走向实时推理?

结合大模型agent的几个核心(抽象)要素,我们认为Agent的应用架构应该足够简单和灵活,应采用类似大数据处理引擎的视角来看待Agent架构。因此我们将商品 Agent 抽象为两层结构:上层是面向业务场景的 workflow 编排层,下层是统一的能力供给层,两层之间通过抽象的AIFunction接口来交互。

我们希望底层通过 AIFunction 对各类工具和领域知识进行标准化封装,向上提供结构清晰、语义明确、调用稳定的函数接口,从而支撑上层灵活、高效地构建智能流程。为此也开发了轻量的aiagentsdk,提供一组简洁易用的注解,如:@AIWorkflow、@AIAction、@AIFunction、@AIParameter、@AIResult、@AIResultField等。在注解和切面的增强下,所有function可轻易转换成一组高质量的mcp工具,供问答型agent自由调用。

AIFunction定义规范

使用agent-sdk中定义的注解@AiFunction进行声明,其中参数使用@AiParam进行标注。AiFunction中包含如下字段:

基础必备字段(最小集合):这部分字段须统一行业规范,如OpenAI Function Spec中规定的字段名和用途,具备健壮性。

扩展字段:

AIFunction访问规范

function作为整体架构约束,提供workflow、AI自规划两种模式下统一的访问方式会使得架构更统一和完整;但workflow是提前编排好的一组节点,节点内function也是固定的,基于统一入口的调用方式会使得常量或者枚举类泛滥,不好管理。比如下面这样的代码片段:

functionRegistry.invoke("ITEM_QUERY");functionRegistry.invoke(FuncEnum.ITEM_QUERY);

因此必须在架构SDK层面对此进行约束和改良。我们要求调用function时,必须按照{Registry}.{DomainRegistry}.{FunctionClass}.{FunctionName}的方式进行调用(仿照老IC客户端的模式)。这种方式若人工实现,势必带来很重的负担,每次新增Function都必须去对应的分组中进行手动声明。

因此希望通过lombok的模式,对注解进行编译期扫描,自动生成引用,来完成以下这样的链式调用:

registry.item().query().invoke(params)

这样在代码层面、编译器、运行期架构拥有一个统一、完整的视图。

AIFunction具体实例

一个典型的function声明如下:

publicinterfaceItemQuery { String QUERY_AI_ITEM_BY_ID = "queryAiItemById"; @AiFunction(name = QUERY_AI_ITEM_BY_ID, description = "查询商品信息", expose = true) @AiResult(description = "商品数据") AiItemDO queryAiItemById(@AiParameter(name = "itemId", description = "商品ID")Long itemId);}

其中返回值AiItemDO对HSF接口返回的ItemDO做了大量精简和字段含义的标注,再通过商品文档知识库的辅助,帮助大模型在ReAct的loop中准确选择工具并得到恰当的解释。

回到前面提到的开发成本的命题,在这样的设计下,新的场景可以快速复用已有的function能力。如“workflow产出的结果也可以使用通用的Repo工具进行context和推理结果的存储(OdpsWriter和在线StorageWriter)。

知识库架构图

知识定义

  1. 显性事实知识
  2. 在商品领域是对“显卡的GPU品牌是XXXX”、“显卡类目同一SPU下不同SKU差异较大”的客观描述。
  3. 关键使用场景:运营决策(试跑阶段的数据有效的沉淀一些行业或者品类知识,后续可以用于做类目灰度的优先决策)、prompt增强、数据清洗和标准化
  4. 关联情景知识:
  5. 这层知识将商品与商品、需求场景连接起来,未来可以考虑与人的关联。如:商品-商品关系、商品-场景。
  6. 关键使用场景:主配件
  7. 隐性经验知识
  8. 知识的顶层,难以被量化,但也最能建立信任和情感连接。通常来源于大量用户的使用经验、专家的评测和品牌的文化沉淀。
  9. 关键使用场景:商品卖点、参数说明

知识生产&应用

显性知识生产

显性知识生产链路围绕“类目-属性元信息”构建,整合五类数据源:商品SKU主数据、商品图片(如主图)、外部素材(如小红书笔记和用户评价)、原始商品属性以及人工评测与运营配置,分别输入统计分析模块和LLM理解模块:前者计算填写率、SKU数量、PV对等统计指标,后者从图像和文本中提取属性、识别用户关注点并生成同义词与解释说明;二者输出与人工校验结果共同汇聚为结构…

— 以上为试看内容(约 40%),开通会员后阅读全文 —

原文出处:https://www.53ai.com/news/LargeLanguageModel/2026052564897.html