来源：抖音 @丁师兄大模型
背景：技术团队的工程决策
在 AI 工程师领域，关于 Claude Code 为何放弃传统的 RAG（检索增强生成）架构而转向基于 grep 等系统命令的代码检索，是一个极具争议且值得深挖的话题。这一决策并非一时兴起，而是基于 Anthropic 工程师在 Latent Space 播客中透露的工程实践。据披露，Claude Code 早期版本曾尝试使用标准的 RAG 技术，通过本地向量数据库和 embedding 进行代码索引，但很快发现效果并不理想，最终切换为一种被称为 ‘Agentic Search’（代理搜索）的模式——即让模型直接调用 grep、glob、find 等 Linux 命令进行实时搜索。
核心原因：代码场景下 RAG 的三大根本性缺陷
尽管许多人笼统地认为“RAG 效果不好”，但在代码工程场景中，RAG 架构面临着三个具体的、几乎致命的挑战。
1. Embedding 对代码标识符的语义理解失效
代码并非自然语言，它是结构化的精确标识符。RAG 的核心在于向量相似度匹配，但向量空间在处理代码标识符时存在严重的语义模糊。
例如，函数名 getUserById 和 deleteUserById 在向量空间中由于共享大量 Token，其距离非常近。然而，这两个函数的功能完全相反：一个是查询，一个是删除。在代码检索这种对准确率要求极高的场景下，这种语义混淆是致命的。相比之下，函数名、类名和变量名本身就是最精确的检索关键词。grep 的精确匹配（Exact Match）天然比语义匹配更可靠，它能确保搜索 processPayment 时精准命中，而不产生语义漂移。
2. RAG 管线的准确率具有“乘法效应”
RAG 流程涉及文档切分（Chunking）、Embedding 生成、向量检索、重排序（Rerank）以及最终生成等多个环节。这是一个长链路的工程系统，其最终准确率是各环节准确率的乘积。
假设每个环节都能做到 90% 的准确率，经过五个环节层层递减，最终的整体准确率可能不到 60%。更糟糕的是，一旦结果出错，调试极其困难（被称为“噩梦级调试”）：你很难判断是 Chunk 切分不合理、Embedding 质量差、还是 Rerank 模型有偏差。相反，grep 失败的原因只有一个：关键词没匹配上。这种结果的确定性和可解释性，在工程维护上具有巨大的价值。
3. 索引的时效性与同步难题
代码仓库的变化速度极快。上午建立的向量索引，可能因为新代码的提交、文件结构的重组，在下午就已经过时。
如果坚持使用 RAG，团队必须频繁重建索引，这将带来巨大的计算开销（Embedding 计算资源昂贵且耗时）；或者选择容忍索引滞后，但这会导致错误的检索结果。而 grep 是实时搜索，它直接读取磁盘上的文件，永远反映代码的最新状态，彻底解决了索引同步的痛点。
架构哲学：无状态设计与“Everything is the Model”
从更深层的架构哲学来看，Claude Code 的选择符合计算机科学中经典的“无状态设计”（Stateless Design）原则，类似于 Unix 管道、REST API 和 Serverless 架构的演进路线。
- 零配置与零运维： 不构建索引意味着“零配置”，用户只需 Clone 代码即可使用，无需等待漫长的 Embedding 构建过程。不维护状态也意味着没有索引卡住、缓存损坏等运维隐患。
- Bitter Lesson 的体现： Anthrop 内部遵循“Everything is the Model”的原则，即尽量让模型本身去驱动决策，而不是在模型外围搭建复杂的工程管线。模型能力越强，整个系统就能自动变强，这是一种更优雅的演进方式。
- 安全性优势： RAG 方案通常需要将代码切片并存储 Embedding 数据，无论是本地还是云端，都存在信息泄露的风险。学术研究表明，从 Embedding 反推原始内容在理论上是可行的。而 Claude Code 的方案完全在本地执行
grep，从架构上彻底杜绝了数据外流的安全隐患。
辩证思考：这不是银弹
当然，放弃 RAG 并非完美无缺，Claude Code 的方案也付出了明显的代价，主要是 Token 消耗极大。
传统的 RAG 是一次性检索，而 Claude Code 的模式需要模型进行多轮交互：列出文件目录、读取文件内容、进行多轮探索性搜索。这种实时操作消耗的 Token 远超一次性向量检索，这也是 Milvus 等技术团队公开批评该方案“烧 Token”的原因。此外，在大型代码库中，纯 grep 处理概念级搜索（如“查找所有与权限校验相关的逻辑”）可能存在短板，因为 grep 无法覆盖所有变体写法，容易漏检。
因此，业界的共识正在走向“混合方案”：用精确搜索（如 grep）处理标识符级别的查找，用语义检索处理概念级别的探索。Claude Code 选择了极简的一端，而 Cursor 等工具选择了向量索引的一端，未来两者很可能会在中间收敛。
面对“为什么放弃 RAG”这样的面试题，回答的核心应包含三层：
- 技术事实层： 讲清 Embedding 对代码语义的失真、RAG 管道长链路的准确性衰减以及索引时效性难题。
- 架构哲学层： 阐述无状态设计带来的低运维成本，以及 “Everything is the Model” 的工程理念。
- 辩证层： 承认方案在 Token 成本和概念级模糊搜索上的局限性，展现全面的工程视野。