如何利用 RAG 结合知识库强制约束 LLM 减少代码逻辑幻觉

要强制约束 LLM 减少逻辑幻觉，不能只靠 Prompt 里的“请严格遵守”，得在 RAG（检索增强生成）的链路里做强语义对齐。我最近在处理一个大型旧项目迁移时，尝试了一套“知识索引 + 动态上下文注入”的方案，效果比单纯用 Cursor 的 @Codebase 稳得多。

核心逻辑是：把业务逻辑定义为“真理集”，在检索阶段强行过滤无关干扰。

具体操作步骤：

1. 构建结构化的 Markdown 知识库
不要直接扔 .java 或 .py 文件。LLM 对结构化文档的权重感知更高。我把所有核心业务逻辑、接口定义、禁忌项写成 .md 文件，格式如下：

# 订单状态流转逻辑
- 状态 A 只能流转至 B 或 C
- 严禁在 [OrderService] 之外直接调用 [PaymentGateway]
- 异常处理必须抛出 CustomBusinessException，禁止使用 RuntimeException

2. 优化检索粒度（Chunking Strategy）
很多 RAG 幻觉是因为切片太碎，导致 LLM 只拿到了代码片段而丢失了上下文。我把切片单位从字符数改为函数级/类级切片，并给每个切片强制加上元数据标签（如 module: payment, type: business_rule）。

3. 编写强约束的 System Prompt
在调用 Claude 3.5 或 GPT-4o 时，通过 System Prompt 强制它在回答前先检索知识库，并要求它在代码注释中标明依据。

你是一个严格的代码审查专家。
在生成代码前，必须检索 <Knowledge_Base> 标签中的内容。
如果检索内容与你的预判冲突，必须以 <Knowledge_Base> 为准。
输出要求：在修改的代码行上方，必须标注 [依据: 知识库文件名#章节]。

踩过的坑：
最严重的问题是“检索污染”。如果知识库里有过时的文档，LLM 会极其忠实地执行错误指令。解决办法是引入一个简单的版本时间戳过滤，在检索阶段通过向量数据库的元数据过滤，只加载 version >= 2.0 的文档。

效率提升点：
通过这套方案，我发现 LLM 在处理复杂状态机逻辑时的错误率降低了约 40%。以前它经常凭直觉写 if (status == 1)，现在它会查文档发现状态值应该是 OrderStatus.PENDING 并准确写出。

推荐的工具链配置：
向量数据库： Qdrant 或 Pinecone（支持元数据过滤）
编排框架： LangGraph（用来做检索后的结果校验，如果结果不匹配，触发二次检索）
IDE 插件： 配合 Cursor 的 .cursorrules 文件，把上述约束逻辑直接写进项目根目录，让 AI 每次生成代码前自动加载。