只用文件系统和 Bash,Vercel 做出了一套高效 RAG
不建向量库,也能做 RAG?Vercel 给了一个新答案
Vercel 发了一篇博客:Build knowledge Agents without embeddings。开源了一个知识库agent问答项目 Knowledge Agent Template。
该项目不靠“embeddings”实现了一个知识库搜索问答系统。它把知识库当成一个可搜索的文件系统:模型在 sandbox 里调用 grep、find、head、cat 这些普通命令,先找文件,再读文件,再综合答案。
按照官方博客的说法,他们内部一个销售电话总结 agent 的单次成本,从大约 $1.00 降到了 $0.25,而且输出质量还更好。
为什么一套看起来很普通的文件系统操作,被 Vercel 重新组织之后,可以成为一条足够实用的 RAG 路线?
这篇文章就沿着这条主线展开,主要看三件事:
Vercel 这个项目具体是怎么做的。 文件系统加 bash 为什么在代码、文档、知识库场景里有效。 这套方法的边界、代价和适用范围在哪里。
这是个什么项目
站在用户视角看,这个项目做的事情其实很好理解:
你先把知识接进来,用户再像平常聊天一样提问,Agent 则在后台真的去翻这些文件,然后把找到的内容组织成答案。
这里的“知识”,可以是 GitHub 仓库、文档内容、YouTube 转录等。接进来之后,它们不会先进向量库,而是会被整理成一份可以搜索的文件集合。
所以对用户来说,体验大概就是三步:
管理员先把知识源接进系统。 用户在 Web Chat、GitHub 或 Discord 里直接提问。 Agent 在后台搜索真实文件、读取相关段落、整理答案返回给你。
如果本地知识里找不到足够信息,当前这套实现还允许它再补一次 web_search。
从技术上看,这里面真正关键的动作也不多:
先把外部知识同步成一份 snapshot repo,内容都落成普通文件。 查询时把这份文件快照挂到 Vercel Sandbox 里,并尽量复用已有 sandbox,减少启动开销。 给模型开放 bash和bash_batch两个受限工具,让它通过grep、find、head、cat这些命令完成搜索和阅读。
Vercel 这套方案最有价值的地方,是把文件系统检索做成了一条可复用、可解释、可控成本的工程路径。
文件系统 + bash,怎么被组织成一套 RAG
我找到了我关注的核心文本,其实就是一段系统提示词,源文件在 BASE_SYSTEM_PROMPT
重点是 Fast Search Strategy 这一段。
Agent 底层模型对bash读文件的操作天然了熟于心,Claude code/Codex 每次打开的时候就需要读文件,读系统指令,用户自定义指令,skill列表等。
所以这段提示词里最值得看的,是这些命令如何被约束、组合和工程化。
1. 优先批次bash,一次读写
BASE_SYSTEM_PROMPT 里开头一句是:
ALWAYS prefer `bash_batch` over sequential `bash` calls. Combine search and read in the same batch.
提示词首先约束优先使用 bash_batch 而不是串行 bash, 同时尽量在一次batch执行中完成搜索文件和读文件操作。整段提示词都是这一句话的详细展开。
内部定义了一个函数可以批量处理多条bash指令, 比如大模型可以一次把以下三条指令合并发下去:
bash_batch: [
"grep -rl "keyword" docs/source1/ --include="*.md" | head -5",
"grep -rl "keyword" docs/source2/ --include="*.md" | head -5",
"head -100 docs/source1/getting-started/index.md"
]bash_batch 的价值主要在于把多条命令打包成一次工具调用。
它省下来的主要是:
多轮工具调用带来的模型思考开销 中间步骤的 token 消耗 Agent 在长循环里越走越散的风险
对 Agent 来说,这更像是一次性打包检索计划:少几轮 tool loop,往往就少几轮试探和 token 消耗。
2. 克制检索文件,够用就行
提示词里面给出bash指令指导用法:
### Quick reference
| Task | Command |
|------|---------|
| Find files by cont…