事情要从几天前说起:
和一个开发朋友日常进行闲聊,他提了一嘴他公司最近在优化的一个项目:
整一套面向青少年的心理辅助 Agent 助手,用来做情绪疏导和危机干预。
「现在卡在知识库搭建这块,」他说,「你懂吧,我们打算搞个知识图谱,给AI来进行诊断」
我灌了口可乐,随口说了句:「这年头你们还搞 RAG 啊?会不会有点落伍了?」
沉默,是今晚的康桥。。。。。。
「……不是知识图谱跟 RAG 有毛线关系啊??」
「不是你说的吗?你们这个项目不就是要给 AI 外挂一个知识库?」
「大哥,不要看到外接知识库就说是RAG啊,知识图谱,懂吗??」
此处再省略5分钟科普。。。。
哈,讲完后发现我拉了坨大的,这俩完全是两个东西!
然后回去他建议我找了个开源SKILL,自己动手给我现在的项目搭了一套知识图谱。
说实话,真的感谢他给我科普了这一趟,在完整了解这俩概念,并且搭建完一次知识图谱后,我的编程习惯都感觉被重塑了(什么恶堕?)这个本地图谱的好用程度有点超乎我的预期了。
于是在今天,我决定把我这段经历写成文章,重点把这三件事说清楚:RAG 和知识图谱到底是什么、Graph RAG 又是什么、以及我自己实操下来,被本地知识图谱五个被彻底改变的编程习惯。
先搞清楚:RAG、知识图谱到底有什么区别
介于我已经在上文丢过脸了,所以先花一点篇幅把概念厘清。如果您是本来就懂行的大佬,可以直接跳到第四节看实操。这部分主要面向和我之前一样没有厘清概念的朋友:
1.RAG 到底是什么
RAG全称是“检索增强生成”,其核心思想是把大模型自身参数里的“记忆”和外部检索到的“非参数记忆”结合起来,用检索结果辅助生成答案。比如说,你去问AI问题:
北京烤鸭属于什么菜系?
正常情况下,这个问题本身会作为上下文被塞给大模型,大模型根据自身训练参数里的记忆给出回答。
但是问题很明显,这大模型训练的时候没有学习相关信息,或者相关信息不是最新的,最正确的(例如被最新的“北京鸭腿事件”给盖过去了。只是举例嗷,没有阴阳阿姨的意思),大模型回答的质量可能会令人不满意。
而使用了RAG以后,通过拼接外部的额外记忆或知识:
-
北京烤鸭是北京的著名美食
-
北京烤鸭属于京菜
-
北京烤鸭的主要食材是鸭肉
把这部分知识拼成一个完整的输入prompt:
{北京烤鸭是北京的著名美食。北京烤鸭属于京菜。北京烤鸭的主要食材是鸭肉。} + {北京烤鸭属于什么菜系?}
由于上下文给大模型提供了更多的上下文,大模型相当于翻书翻到了正确资料,现在的回答变得更加靠谱,精准的找到了“京菜”这一关键信息,于是回答道:
北京烤鸭属于京菜,主要食材是鸭肉
当然,这只是一个简单的示例。下面讲一下完整的RAG流程。
由于搭建RAG通常伴随着搭建向量数据库,导致很多人误解:向量数据库==RAG。我之前刚开始起步的时候也犯过这个错误,但是实际上RAG 是一种系统流程,向量数据库只是 RAG 里常用的一个组件。
一个典型 RAG 系统通常包括:
-
- 原始资料
-
- 切分成 chunk
-
- 转成 embedding 向量
-
- 存进向量数据库
-
- 用户提问
-
- 检索相关 chunk
-
- 把 chunk 作为上下文交给大模型
-
- 大模型生成答案
所以 RAG 是一条链路:
在实际运行过程中,chunk 是重要的单元,一般称之为“分块”,比如一篇 10 页 PDF,会被切成很多 chunk:
chunk 1:第1页第1段
chunk 2:第1页第2段
chunk 3:第2页第1段
...
每个 chunk 会被转成向量。
用户问题也会被转成向量。
然后系统会问:哪些 chunk 和这个问题在语义上最接近?
这就是向量检索。检索完以后,就回到我们最初的步骤,把检索到的内容拼接回问题:也就是问北京烤鸭到底是什么菜系。然后让大模型回答就完事了。
2. 知识图谱:完整的推理链路约束
知识图谱的思维模型完全不同。它不是把文档切成碎片去检索,而是把知识拆成「实体 + 关系」的三元组。
还是北京烤鸭的例子,用知识图谱表示:
(北京烤鸭, 属于菜品类型, 北京菜)
(北京菜, 属于, 中国菜)
(北京烤鸭, 主要食材, 鸭肉)
(北京烤鸭, 烹饪方式, 烤制)
(鸭肉, 来源于, 鸭子)
(鸭子, 属于, 禽类)
(禽类,…