AI落地Best Practice · 企业与业务成品 · 2024-07-05

平安壹钱包:RAG等技术在金融支付类ToC应用场景的探索与落地

支付行业作为金融生态系统中的重要组成部分,其数字化转型不仅关系到企业自身的竞争力,更直接影响着亿万用户的日常生活。

随着移动支付、在线银行、数字货币等新兴支付方式的普及,用户对支付服务的便捷性、安全性和个性化需求日益增长。政策监管的加强、数据隐私的保护、技术伦理的考量,都是金融支付类企业在 To C 应用探索中必须面对的现实问题。金融支付类企业在种种约束条件下,如何实现 To C 业务的落地,同时在技术上不做取舍处理,成为亟待解决的问题。

在日前举办的 ArchSummit 全球架构师峰会上,平安壹钱包用户研发部技术负责人王良分享了平安壹钱包落地的业务场景和 RAG 向量检索 + 知识库 + 标注平台等技术的实际应用案例,以及在政策监管下如何通过应用立项、合规监管审批,怎样进行业务线选择等相关经验,帮助金融支付类企业在数据受限的环境中实现大模型的 To C 应用的落地。

王良 平安壹钱包用户研发部技术负责人

8 月 16-17 日,FCon 全球金融科技大会将在上海举办。本届大会由中国信通院铸基计划作为官方合作机构,将邀请国内外金融机构及金融科技公司专家分享其实践经验与深入洞察。AIGC、RAG、Agent 智能体等作为焦点话题,届时也将有多个议题分享,广发银行信用卡中心商业智能负责人徐小磊将分享《AIGC 在银行线上渠道的应用实践》,工银科技技术总监孙科伟将分享《人工智能技术在金融科技领域的应用探索》,蚂蚁集团投研支小助技术负责人纪韩将带来《多智能体协同范式在金融产业中的应用实践》...... 大会更多演讲议题已上线,点击链接可查看目前的专题安排并提交议题:https://fcon.infoq.cn/2024/shanghai/

以下是王良老师分享全文(经 InfoQ 进行不改变原意的编辑整理):

平安壹钱包的落地探索非常感谢 InfoQ 极客传媒的邀请,也很荣幸能有机会就大模型在金融支付类公司的应用落地和大家进行交流,抛转引玉 ,今天跟大家聊一聊我们平安集团的平安大模型以及在业务落地上的一些实践和经验。

首先,大模型大家肯定都是知道的,自从 ChatGPT 这款应用产品发布之后,仅用了两个月时间,全球用户数就突破一亿了,这比我们人类历史上所有的流行产品速度都要快很多。2 个月破亿这个记录有多惊人,我给大家看一组数据。

固定电话用户破亿用了 75 年,手机 16 年,当智能手机普及之后进入到移动互联网时代,破亿的速度首次缩短到 6 年内,并且以极快的发展速度进入到 1 年以内。从固定电话到移动电话,再到互联网时代的应用程序,信息传递的速度不断加快,信息传递的方式和载体也发生了根本性的变化。说一个大家可能没有察觉到的细节,比如打电话的手势已经在现在的小朋友过家家时不再使用了。

换成了手掌平方在 耳朵边

这预示着信息传播方式的巨大变化。当下许多研究报告和机构预测,到 2026 年,将有 80% 以上的企业接入生成式 AI 或大模型。我个人觉得这个不算激进,甚至还有一些保守,那么以上这些信息汇总起来看,就是告诉我们,要快,不然就跟不上要掉队了。

那么为了不掉队于时代,我们进行了多次调研和头脑风暴,讨论的结果有 2 个确定和 1 个不确定。其中一个确定是【确定未来:AI 大模型未来的前景是明确的,AI 必然会重构世界。】他不像元宇宙或者 web3.0 先有概念,在概念出来后,都在等应用场景的普及,等发展。另一个确定是:【确定现在: 要想不掉队就必须现在就开始进入】,AI 的发展太迅速了,等慢悠悠的确认好方案的时候,友商公司已经有成品了。不确定的是:【不确定落地场景:解决什么需求?降本增效还是扩大收益?用什么技术?开源闭源。。。。。。】这些都是不确定的,这就会涉及到如何去寻找落地场景的问题。2 个确定是全员达成一致的,我们很快就聚焦在不确定的落地场景上,在这里我要特别强调一下,在立项之前,决定做什么的阶段,技术不是影响价值最大的,想要选对选好有价值的落地场景,很重要的一点就是业务驱动,要找能支持项目落地且能持续运营的业务场景,有运营不断的反馈、维护、营销,才能保证项目是可持续发展的。接下来给大家一些寻找落地场景的思路。

  1. 从最熟悉的领域入手
  2. 让 AI 学习最优秀员工的能力,再让它辅助其他员工,实现降本增效
  3. 寻找“文本”进,“文本”出的场景。因为任何问题都可以用语言去描述,把大模型看做是一个函数,给输入,生成输出,大模型最厉害的就是回答你的问题。
  4. 不要追求大而全,将任务拆解,先解决小任务,小场景,再考虑怎么工程化的把每一步整合起来,这也是周鸿祎说的“小切口大纵深”。

选好场景在制定落地方案时,有 3 个重点:原理、实践和认知。如果没有深入理解大模型的原理,就没办法举一反三,走不了太远。一定要有实战经验,没有实践,只能光纸上谈兵做事不落地。认知水平不高,就没有办法做出最优的决策,能达到的天花板就很低。

场景选好,接下来就是技术选型。模型分为开源模型和在线模型。开源模型可以部署到本地,前后台链路都在自己手里,模型文件、项目文件、还有模型权重、等等在本地部署,因此可以更好的确保数据安全性。但成本也更高,因为需要自己购买硬件,还需要投入技术进行维护。在线模型就可以通过 API 调用,在线模型普遍性能更强,调用的技术门槛和硬件门槛更低,配套模型生态和服务更加完善,不需要维护,前期成本投入会比较少。知道这两种优缺点还不足以评估技术选型,因为还要了解国家的政策要求。不同的类有不同的政策要求。一些有监管要求的企业在政策上是不允许使用非开源大模型的,比如银行在使用大模型时,把用户数据上传到百度、阿里、OPENAI 的大模型就有可能会涉及到法律合规问题。

无论哪个行业,只要是面向用户的,他就必须符合监管要求,涉及到国家的法律道德、涉及到意识形态、那这个在合规性方面要求是非常高的。在用大模型的时候,我们担心的可能是大模型无法回答问题或给出错误答案。但更害怕大模型随意回答,尤其是在涉及国家、民族和相关的重要历史问题时,必须确保大模型不会在这些问题上“一本正经地胡说八道”,这造成的后果是很严重的,所以选择一个靠谱的大模型是非常重要的。目前国内报备审批通过的大模型效果都是很好的。这张表是面向 C 端用户、面向政府、面向商用、出海的一些要求,如果本身对数据安全的要求特别高,那么只能选择开源大模型来保证数据隐私。

合规与报备在 2023 年 7 月 10 日,政府发布了一项声明,强调了生成式人工智能服务安全的基本要求。根据这一声明,任何 To C 的人工智能服务在上线前都必须根据各种暂行办法报备,并接受审查。虽然现在只是暂行办法,但这不意味着没有约束,暂行办法背后有《网络安全法》、《数据安全法》和《个人信息保护法》等法律法规的支撑,如果违反这些规定就可能会面临处罚或者下线。关于报备的经验和一些关键信息的填写,我整理了一份文档在 PPT 中有提到,大家可以在 archsummit 官网下载我的演讲稿资料查看 。

业务场景中的 RAG 应用简答说一下我们的应用落地场景, 一个即时的回答企业微信用户的 AI 运营平台,主要目的不是给大家演示我们的产品,而是展示产品背后的运作逻辑。

在这个场景中,我们应用了 RAG 的技术,把一些业务场景中的知识输入大模型。这个知识库中包含活动营销的相关信息,也包含一些行业规范等内容。我们会提取文本进行数据清洗,然后切割成 chunk 文本嵌入到向量库中。当用户提问时,问题本身也会被转换成向量形式,与向量库中的向量进行匹配,然后通过 prompt 提示词工程和平安大模型,返回生成的答案给到用户。

那么我们为什么用 RAG?因为大模型还是有一些小缺陷或者说是不足的地方,比方说模型训练数据 cut-off 、私有数据、保密数据、可解释性、幻觉等问题。如果问大模型, ArchSu…

— 以上为试看内容(约 40%),开通会员后阅读全文 —

原文出处:https://www.53ai.com/news/AIjinrong/2024070553098.html