如何防止 AI 在法律证据生成中通过 RAG 或 Prompt 制造“事实幻觉”
从技术实操层面来看，这种伪造通常有两种路径：一种是通过精心设计的 Prompt 模拟特定人物的口吻，使虚构的证词在语气上毫无破绽；另一种则是利用 RAG（检索增强生成）机制，在知识库中故意喂入错误的数据源，让 AI 在生成答案时能够通过“有据可查”的虚假事实来误导审阅者。
要在实际工作中构建一个具备鲁棒性的法律 AI Agent，或者在审核 AI 生成的证据时避免被误导，建议在工作流中引入以下三层校验逻辑。
首先是建立强制性的交叉验证机制。绝不能信任 AI 给出的任何一个结论，除非它能提供可核对的原始出处。在开发法律 AI 插件时，不能仅依赖模型输出，而应在后端增加一层验证逻辑。例如，可以编写一个简单的校验函数，将 AI 输出的案例编号或法律条款实时回传至权威法律数据库进行检索。如果 database.search(citation_text) 返回的结果为空，系统应立即触发 Warning: Potential AI Hallucination 警告，强制人工介入审核，而不是直接将结果呈现给用户。
其次是在 Prompt 层面实施严格的约束，切断 AI 的“脑补”路径。很多法律从业者在使用 AI 时，提示词过于宽泛，导致模型在面对信息缺失时倾向于通过训练数据进行推测。一个高质量的法律审计 Prompt 应当明确限定范围，例如要求模型扮演“资深法务审计员”，并明确指令：“仅基于提供的文本内容回答，若文档中未提及，必须直接回答‘未提及’，严禁根据常识或训练数据进行推测”。在输出格式上，应强制要求采取 [事实陈述：原文引用] + [逻辑漏洞：分析原因] 的结构，通过强制引用原文来压缩 AI 编造事实的空间。
最后，对于关键链路的证据认定，建议采用多模型对比审计法。由于不同模型的训练语料和权重分布不同，它们在处理相同事实时的“幻觉点”通常不一致。在处理高风险证据时，可以将同一段文本分别交给 Claude 3.5 Sonnet 和 GPT-4o 进行解析。如果这两个顶尖模型对同一事实的认定出现了严重分歧，那么该处极大概率存在 AI 幻觉或被人为诱导篡改。通过这种冗余校验，可以有效过滤掉单模型生成的伪造细节，确保提交至法庭的证据具备真实性。
