2025年4月,在 InfoQ 举办的 QCon 全球软件开发大会上,本文作者进行了“因果推断与大模型融合:电商定价策略的变革实践”专题演讲。期间阐述了如何应用大模型方法应对电商定价挑战,优化商品定价策略,提升决策的科学性与精准度,期待与大家讨论交流、相互学习。
引言
随着电商的快速发展和价格透明度的不断提升,消费者在购物前往往会货比三家,挑选自己最满意的商品。为此,我们设计了一套模仿消费者购物行为的算法,基于相似品价格,为给定商品生成合理的价格建议。具体流程分为以下三步:
1.输入待核算价格商品描述;
2.从数据库中提取与该商品相似的商品及其价格;
3.根据相似商品给出价格建议,同时输出推导逻辑。
目前,该能力已应用于自营新品价格审核:每天都有大量新品上架,其定价由供应商提报,采销部门负责审核。由于商品数量庞大,审核成本高昂,接入该能力后,可显著提升人工审核效率。
基于大语言模型的建模方法
在建模过程中我们主要遇到如下难点:
1.覆盖全品类:需覆盖数百个品类,而不同品类的比价逻辑存在较大差异,例如某些需要进行单位价格转换,某些则需考虑材质差异对价格的影响。
2.商品信息复杂:商家常采用赠品、套装、专供型号等方式增加比价难度,增加了模型判断难度。
3.可解释性:比价过程中需详细阐述价格推导逻辑,明确参考了哪些相似商品及原因。
针对上述3个难点,大语言模型提供了解决问题的新思路:
1.其具备丰富领域知识,能够处理不同品类的比价逻辑;
2.能较好地理解复杂商品信息;
3.相较于传统机器学习模型,大语言模型不仅能给出价格预测,还能提供解释说明。
应用RAG(Retrieval-Augmented Generation)架构,设计的定价流程如下:
说明:
1.检索器:从商品池中基于文本相似度和embeding召回与目标商品最相似的竞品,并将其作为生成模型的prompt输入
2.生成器:使用推理模型基于相似品价格推导出主商品价格,提升定价的准确性与可解释性。
3.强化学习奖励设计:从三方面构建 reward:
- 定价误差:模型定价与实际成交价的偏差尽量小。
- 相似品之间价差幅度:相似商品间价格差异尽量小。
- 属性提取:商品属性与规格识别的准确度。
通过过程奖励与树搜索优化模型效果
在推理模型训练过程中,链式思维(Chain-of-Thought,CoT)无法依赖人工标注,须由模型自动生成。此时,单纯“探索”会带来过多低质量尝试,单纯“利用”又容易陷入已有思路的局限。通过过程奖励与树搜索机制的协同作用,我们既让模型探索新的推理路径,又有效利用已学知识,显著提升了推理正确率和训练效率。
过程奖励与树搜索实现方式
在计算价格环节,我们会将待定价商品的描述与相似品的描述及价格构造成prompt,并通过LLM生成预估价格。整个CoT过程分为以下3步:
•step 1:将单位价格进行转换,目标是通过单位价格的转换来缩小相似品之间的价差。使用相似品之间价格的变异系数来计算奖励(reward)。
•step 2:对价格进行排序,将价格计算简化为对不同商品价格高低的比较。奖励(reward)取决于模型排序结果与实际排序之间的差异。
•step 3:计算最终价格,给出最终报价。奖励(reward)依据预估价格与实际价格之间的差异来确定。
step 1:计算单位价格好的,先将所有参考商品的总价统一折算到“元/斤”:...{ "unit": "斤", "unit_count": {"B7": 150, "B1": 500, ...}}step 2:计算排序我现在需要处理用户的问题,帮助他们将商品A插入到集合C中,并确保单位价格从高到低排序。首先,我得仔细阅读用户提供的任务要求和输入信息,确保自己理解正确。...{ "order": ["B7", "B1", ...]}step 3:计算价格假设A的单位价格预估为0.0450元/克,那么它应该插入在B4(0.04453)之后,B6(0.03993)之前。...{ "price": 0.04}
预训练
在预训练阶段,由于CoT是通过特定构造方式生成的,我们首先通过设计提示词来生成一批严格遵循CoT模板结构的样本。随后,我们使用SFT对基座模型进行预训练,确保模型输出的CoT格式符合预期要求,同时提升三步推理中每步的合理性与准确性。
强化学习
由于本方法的步骤固定且层数较少,我们采用BFS策略进行CoT样本的扩展和收集。在每一步推理中,模型会生成多个候选解,通过过程奖励选取当前阶段中质量较高、潜在价值较大的候选保留,并将其作为下一阶段的扩展起点。这样可以高效收集到更多符合预期且接近最终价格的CoT样本,提…