昨天我们学习了 Coze Studio 的工作流功能,通过在可视化画布上拖拽节点,迅速编排和搭建复杂的工作流。今天,我们将继续探索 Coze 的另一个核心功能 —— 知识库,学习如何为智能体注入私有或专业领域的知识,解决大模型幻觉和专业领域知识不足的问题。
创建知识库
大模型虽然知识渊博,但其知识截止于训练日期,并且对于私有或专业领域的知识一无所知。知识库功能正是为了解决这个问题而生的,它通过 RAG 技术,让智能体能够基于我们提供的专属资料库来回答问题。
我们首先进入 “资源库” 页面,点击 “+ 资源” 并选择 “知识库”,创建知识库:
Coze Studio 提供了三种不同类型的知识库:
- 文本格式:文本知识库支持用户上传 PDF、TXT、DOC、DOCX、MD 等格式的文件,解析和分片后存储于向量数据库;它基于内容片段进行检索和召回,大模型结合召回的内容生成最终内容回复,适用于知识问答等场景;
- 表格格式:表格知识库支持用户上传 CSV 和 XLSX 文件,导入表格数据,按行进行划分;它基于索引列的匹配进行检索,同时也支持基于 NL2SQL 的查询和计算;
- 照片类型:照片知识库支持用户上传 JPG、JPEG 和 PNG 图片,通过大模型对图片进行标注;它基于标注信息的相似度匹配,找到与用户问题最相关的图片,给大模型用于内容生成;
Coze Studio 的知识库功能依赖于 Embedding 服务和向量化存储组件。
其中 Embedding 服务支持三种接入方式:
- OpenAI - 兼容 OpenAI 协议的 Embedding 接口
- ARK - 火山引擎提供的 Embedding 服务
- HTTP - 调用本地部署的模型服务,需要满足 Coze 自己的一套 接口协议,暂不支持 Ollama 或 Xinference 协议
这里我使用的是 OpenAI 的 text-embedding-3-small 模型,下面是 .env 配置示例,注意它的向量维度为 1536:
export EMBEDDING_TYPE="openai"export OPENAI_EMBEDDING_BASE_URL=""export OPENAI_EMBEDDING_MODEL="text-embedding-3-small"export OPENAI_EMBEDDING_API_KEY="sk-xxx"export OPENAI_EMBEDDING_BY_AZURE=falseexport OPENAI_EMBEDDING_API_VERSION=""export OPENAI_EMBEDDING_DIMS=1536export OPENAI_EMBEDDING_REQUEST_DIMS=1536
另外,向量化存储组件支持开源向量数据库 Milvus 和火山向量数据库 VikingDB,默认使用 Milvus,一般不修改:
export VECTOR_STORE_TYPE="milvus"export MILVUS_ADDR="localhost:19530"
如果你想切换成 VikingDB,可以使用下面的配置:
export VECTOR_STORE_TYPE="vikingdb"export VIKING_DB_HOST=""export VIKING_DB_REGION=""export VIKING_DB_AK=""export VIKING_DB_SK=""export VIKING_DB_SCHEME=""export VIKING_DB_MODEL_NAME=""
由于修改的是环境变量,通过 --force-recreate 重启服务:
$ docker compose --profile '*' up -d --force-recreate --no-deps coze-server
文本知识库
创建知识库时选择 “文本格式”,并填写知识库名称和描述,导入类型选 “本地文档”,然后点击 “创建并导入” 按钮,进入 “新增知识库” 的 “上传” 页面:
如果导入类型选 “自定义”,则进入 “新增知识库” 的 “文本填写” 页面,支持用户手动录入文档名称和文档内容。
我们上传一个简单的 PDF 文件(可以包含文本、表格、图片等元素),进入 “创建设置” 页面:
和其他的 RAG 系统类似,我们需要为知识库配置 文档解析策略 和 分段策略。Coze Studio 支持两种文档解析策略:
- 精准解析:支持从文档中提取图片、表格等元素,需要耗费更长的时间;支持设置过滤内容,可以将一些特定的页面排除掉;
- 快速解析:不会对文档提取图像、表格等元素,适用于纯文本;
如果上传的文件是扫描件,往往需要开启 OCR 功能,Coze Studio 目前只支持火山引擎的 通用 OCR 服务,可以免费开通试用:
开通后创建密钥,获取 AK 和 SK,然后将其填到 .env 配置文件中:
export OCR_TYPE="ve"export VE_OCR_AK="AK..."export VE_OCR_SK="SK..."
同样的,由于修改的是环境变量,通过 --force-recreate 重启服务:
$ docker compose --profile '*' up -d --force-rec…