AI大模型领域大概每两三个月就会产生一个新词,比如AIGC、RAG、copilot、Agent、Sora、多模态大模型等等,让人眼花缭乱,今天我们就来谈一谈这些概念背后的实质以及在企业数字化、智能化中如何应用。 一、AIGC和RAG
AIGC就是AI Generated Content,用AI来生成内容,这些内容可能是文章、图片、视频等。通常是你只要写一段指导语告诉大模型,大模型就能按照你的描述来生成相应的文、图、视频。RAG,英文是Retrieval-Augmented Generation,对应的中文是检索增强生成,也可以理解为生成前需要基于已有的数据/知识。在企业环境中,直接基于一个意图/指导语,而不基于已有数据/知识的生成相对较少,比如企业营销人员生成一段小红书文案或图片,通常要基于自己企业的产品或服务,而已有的产品/服务可能存放在某个数据库/知识库里。因此企业内部落地AI,包括用AI来做内容生产,多数场景可能是RAG这种架构。
对于RAG的直观理解,可以参考国内近期爆火的kimi,交互是问答模式,但以检索出来的资料为基础(kimi所在公司认为自己产品强在无损长文本输入,不算是典型的RAG):
RAG在企业中常见应用场景是利用内部的知识/数据做搜索、问答、推荐、生成。这些应用通常都能帮助对应业务场景的效率提升,但这样的应用效果通常都是点状的。在企业数字化转型中,还有一个更重要、更影响全局的应用场景就是认知和文化转变。数字化转型常说的转认知、转模式、转流程、转机制等等,其中模式、流程、机制容易落到系统中,但人的认知转变较难通过系统直接完成。“场景试点-树立样板-传播学习-迭代升级”是不少企业中促进大家认知转变的基本方法,但总结知识经验/实践案例门槛较高、周期较长,之后传播学习阶段的线上推送往往没太多人看,而线下集中学习也较难组织和评估结果。
利用RAG可以怎么做呢?可以用大模型,从日常工作文档、汇报资料中,参考规则和范例,提炼出最佳实践、操作手册、“干法”;通过大数据和AI技术,精准推送给每个需要学习的员工;并利用大模型分析学习者后续的工作文档和资料,确认之前学习的样板案例有没有被消化吸收,这样就可以形成知识/经验快速、高效流动的闭环。当然,这套方法也可以面向企业外部各种文档、报告,将外部的知识经验、最佳实践,快速转化为内部的知识和经验。具体而言,上述过程的实现,有如下关键点:
1、需要提供一定数量的总结报告、操作手册等给到大模型作为训练材料,大约几十份到数百份作为样例即可;
2、已有文档资料可能有几十、数百份,从中提炼知识或做文档比对时,需要大量算力和token成本,可采用召回优化、算力优化等方法降低费用,一份成本可控制在数百元;3、精准推送在以往就有较多落地案例,但需要高质量的人员标签数据,可以基于岗位知识地图(每个岗位需要哪些知识支撑工作)标签来推送,从而提高准确率;4、文档经过大模型加工的信息安全问题,可通过企业内部部署大模型的方式解决,开源大模型相对成本较低,近期LLama3等开源大模型能力也越来越强。另外,最佳实践在未经总结之前,一开始都隐藏在当事人的头脑里,这时候需要结合一些知识萃取的方法,让当事人讲述难以忘怀的瞬间,并按SCORE(背景、冲突、选项、结果、评价)、STAR(情境、目标、途径、结果)等框架来总结出里面的关键信息。以往知识萃取通常是人来完成,现在可以录音录像后用大模型转换和自动提取,从而大幅压缩萃取的时间。由此可见,用好RAG&AIGC,也可以更好的支撑企业内部的知识/经验沉淀,从而使企业获得长久的竞争力。
二、copilot和agent
copilot是副驾驶的意思,在大模型领域通常也把copilot模式的AI叫做智能助手。微软Bing搜索里面就有一个“copilot”(如下图),并且微软也是copilot这个概念的重要推手。但Bing搜索里的“copilot”更多想表达的是对传统搜索模式的颠覆:
更有“智能助手”、“AI副驾驶”这种感觉的,是Edge浏览器里内置的copilot,可以在浏览器右侧展开或收起,对用户当前浏览器里开展的事情起到辅助的作用,国内也有一些产品如小明AI,做的是浏览器插件模式,展现形式与Edge内置的基本类似,也可以唤出/收起:
另外一种较为常见的copilot模式是把大模型能力嵌入各种日常工作软件中,如钉钉、飞书中聊天、文档、项目管理等模块引入了大模型,帮助用户做总结、改写、生成等,或者像github copilot这种,安装插件到自己的代码编辑器中,帮助提升编写效率:
说完copilot,再谈谈AI agent。业内习惯将agent翻译成智能体、智能代理等,是能够在一定环境中自主执行任务或者作出决策的智能系统。AI agent可以是软件形式,也可以是集成到物理设备中的系统,人们期望的智能体能够在没有人类干预的情况下执行任务或作出决策;与人类用户、其他代理或系统进行交互和沟通;感知其所处的环境变化,并据此作出反应;不仅能够响应环境变化,还能够主动采取行动以实现特定的目标或任务。智能体的架构中通常都有计划、记忆、执行等模块,熟悉心理学的话会感觉agent就是一个“人”:
Agent的创建和使用已经被工具化、服务化,一些开源框架比如Dify、毕昇、FastGPT等受到了比较多的关注和应用:
这些框架中可以根据你的业务场景和需求,编辑一个工作流来满足,理论上它能做各种各样的事情:
copilot和agent是可以结合的:copilot可以…