基于 RAG 的 AI 搜索技术实践
1. 搜索演进思路
2. 关键技术落地实践:重点阐述技术点的实际落地方式
3. 总结展望
分享嘉宾|钟啸林 NIO(蔚来汽车) 搜推算法负责人
编辑整理|陈锡杜
内容校对|郭慧敏
出品社区|DataFun
01
搜索演进思路
1. 搜索三个阶段
(1) 第一阶段:被动搜索
典型应用:谷歌等传统搜索引擎。
核心特点:用户主动发起搜索,系统基于 RAG 技术增强搜索或总结结果,交互随搜索结果返回而结束。
局限性:用户查询词简短,模型难充分理解意图,无法预判用户后续需求。
(2) 第二阶段:半主动搜索
典型形式:对话式交互(如 Kimi、DeepSeek 等应用)。
核心特点:
提供持续对话界面,支持用户多轮提问与交互(如展示 “其他人还在问” 引导进一步问询)。
结合多模态对话技术,提升用户活跃度(DAU)与体验。
商业模式潜力:通过替代传统搜索实现盈利,目前处于开发阶段。
(3) 第三阶段:主动搜索
理想目标:系统预判用户需求,无需用户明确表达。
典型场景:汽车等领域(如监测到胎压异常时,主动推送处理方案、胎压值及服务通道)。
落地特点:依托后台数据监测,可能在垂直领域(如车联网)优先实现。
2. 从被动搜索到主动搜索
(1) 被动搜索阶段(第一阶段)的局限
仅提供 “是什么” 的检索与总结(如告知用户车辆有 “运动模式”),无法满足用户 “如何做” 的操作需求(如驾驶模式设置步骤)。
(2) 向半主动搜索过渡(第二阶段)的改进
增加服务通道:在 RAG 总结后提供操作入口(如点击按钮跳转 APP 设置驾驶模式),形成 “搜索 + 总结 + 服务通道” 模式。
交互延伸思考:发现用户期望系统自动完成任务(如识别设置意图后直接协助调整驾驶模式),而非仅提供手动入口,引出主动搜索构想。
(3) 主动搜索阶段(第三阶段)的目标
系统预知用户意图,经用户确认后自动执行后续动作(如监测胎压异常时,主动完成报警、推荐服务并联动车载系统处理)。
(4) 当前实践的核心问题与解决方案
核心问题:用户需求从 “信息获取” 转向 “任务完成”,传统搜索仅停留在信息层面,缺乏行动闭环。
解决方案:多模态结果整合:结合自然搜索结果(实体检索、相关性检索)、自动化信息卡片(如胎压数值)与 RAG 智能助手生成内容,统一展示。
交互形态设计:
顶层:RAG 生成总结性信息(如驾驶模式功能介绍);
中层:直接展示服务通道(如 “立即设置驾驶模式” 按钮);
底层:列出自然搜索结果(如其他用户常见问题)。
技术实现关键点:大模型训练
样本要求:需超过 1 万条高质量标注样本(如用户意图 - 操作路径映射数据),样本质量直接影响大模型微调效果。
当前定位:仍处于从第一阶段向第二阶段过渡状态,需通过持续优化对话交互与任务执行能力,逐步向主动搜索演进。
02
关键技术落地实践
1. 意图识别和请求改写/扩充
(1) 添加自定义 Token (Add Token): 多数开源大模型允许添加自定义 Token。这对于处理特定领域的词汇至关重要,例如一些行业术语或特有表达(如讲者提到的“驾象”,作为“代驾”的一种更专业的说法),这些词汇通用大模型往往难以准确理解。通过增添专用 Token,能确保模型正确把握这些词汇的特定含义,避免歧义。
(2) 监督微调(SFT - Supervised Fine-Tuning): 进行常规的监督微调训练。
(3) 直接偏好优化 (DPO - Direct Preference Optimization): SFT 在处理许多“疑难案例”(hard cases)时效果有限——这些案例即便是人工也很难明确归类。DPO 作为一种类强化学习的训练方法,能让模型在两个选项(A/B)中学会选择相对更优的一个,从而提升模型的泛化能力。
模型训练完成后,便会部署上线,提供一个在线模型接口。除此之外,我们还建立了一套线上实时干预策略。例如,当业务部门新增一个活动或词汇,而模型在训练阶段未曾见过时,该策略能够通过分钟级统计分析用户交互行为(如用户搜索某新词后总是点击某个特定活动链接)来推断用户意图,进而实时校正线上搜索结果。
在性能方面,最初线上模型的接口响应时间为 350 毫秒。我们认为对于用户查询(Query)这一初始交互而言,此延迟偏高。为此,我们引入了基于 Redis 的缓存机制:请求首先访问缓存,若命中,则在 10 毫秒内直接返回结果;若未命中,再调用耗时 350 毫秒的实时模型接口。
基于缓存的引入,我们曾考虑是否可以利用一个更大、更精确的模型来生成缓存内容,以期获得更快的线上响应和更准的缓存结果。然而,(讲者示意此方案已调整或放弃)我们发现现有的小尺寸模型已能达到很高的准确率(最新的意图识别模型准确率约 96%),因此无需采用更大的模型。当前做法是,小模型直接在线上调用,其结果异步存入缓存,这样做也保证了数据的一致性,避免了使用多模型可能导致的结果不一致问题。
关于提示工程(Prompt Design),我们认为其整体设计与定义相对直接。而在 DPO 训练的样本设计方面,我们会筛选出“疑难案例”,并将其构建为“采纳”(chosen)与“舍弃”(rejected)的样本对,用以指导模型学习正确的偏好。
最终,我们线上服务的平均响应时间(AVG)控制在 250 毫秒左右,表现已相当迅速。在进行压力测试(包含大量长尾请求)时,响应时间可能会略有增加。
2. 多模态向量检索
(1) 文本向量检索
我们最初致力于实现文本的向量检索。这项通用的文本向量技术旨在覆盖社区资讯、服务等业务场景下特定话术的召回,以及商品信息的检索。为此,我们进行了数月的数据样本生成与聚合工作。
在选择基础模型(Base Model)方面,初期我们选用了当时中文开源领域表现最佳的 BGE 1.5 模型。目前,我们正在评估 GTE 模型的新版本(此版本尚在离线评估,未正式上线)。针对 BGE 版本,我们选取了最优模型,并在内部的召回率(Hit Rate)测试中验证了其最佳效果后采纳。
样本积累主要通过三种途径:线上疑难案例(case)的挖掘、规则生成以及人工标注。基于这些累积的大量样本,我们进行了模型训练。训练过程中,我们注重样本多样性的调控,确保不同业务类型的样本数量按比例分配。训练方法上,主要采用批量内负采样(in-batch negative sampling)策略,并结合对比学习损失函数(contrastive loss)等方法。训练完成后,模型在各个业务领域的测试集上,召回率基本都能达到95%左右。我们还进行了线上 A/B 实验,在其他条件一致的情况下,仅替换向量模型,也观察到了显著的指标提升。
(2) 文本检索的局限与多模态的需求
尽管文本向量检索模型取得了良好效果,但我们发现仍存在一些问题无法解决:
内容供给的挑战:许多内容(如图文帖子)文字描述极少,甚至只有一张图片,导致文本向量…