长文档中间信息缺失的对策：三种提示方法对比与应用场景
在处理长度超过5万字的法律合规文档时，Claude 3.5 Sonnet 和 GPT-4o 会优先聚焦文档开头和结尾，导致中间30%-70%区间的关键信息召回率显著下降。这种现象源于模型注意力分布的物理局限性，而单纯通过客气的提示词无法有效改变。研究者通过实验验证了三种提示优化策略，能在不改变模型架构的情况下显著提升准确性。
第一种方法：索引锚点法
这种方法要求模型在生成回答前，先扫描并明确标注与问题相关的章节编号或页码。例如，在分析前强制执行以下步骤：
在分析之前，先检索并列出所有与[特定问题]相关的句子，标注章节号。只有列出所有引用片段后，才基于这些片段给出最终结论。在测试中，Claude 3.5 采用该策略后，召回率从60%提升至90%以上。这种方法特别适用于结构化文档，如合同、法规或技术规范，其中信息分布有明确的逻辑区间。如果文档没有章节编号或页码，可以替换为段落标记或关键词位置，但必须确保模型能明确识别“锚点”位置。
第二种方法：结构化分块引导
针对文档的逻辑结构，这种方法要求明确指定信息分布区间，避免模型进行全局模糊搜索。例如，错误的提示方式是“分析关于成本的部分”，而有效的提示应精确到：
“成本信息在B部分第三至第五节，请重点检索该区间，提供‘搜索坐标’”
这种方法的前提是文档有明确的标题或节次划分，否则模型可能无法准确定位区间。在应用时，需结合文档的实际结构，避免过于宽泛的描述，如“分析主要内容”或“总结核心观点”。
第三种方法：角色约束与输出限制
通过分步骤提取和梳理关键点，避免模型尝试一次性总结全文。推荐的步骤链路为：
- 提取文档中所有关于X的关键点（不限数量）
- 对Step 1提取的点进行去重和逻辑梳理
- 给出最终结论
这种方法在GPT-4o上表现出较高的指令遵循度，但其对中段信息的感知力较弱，可能产生幻觉式的“信息不存在”结论。相比之下，Claude 3.5 Sonnet 在长文本处理上更为稳健，配合锚点法几乎实现全量覆盖。DeepSeek-V2 在中文逻辑关联上表现突出，但偶有循环重复中段内容的情况，可能源于其在长文本分段处理时的局部优化偏好。
三种方法的适用条件与注意事项
索引锚点法和结构化分块引导需依赖文档的明确结构，而角色约束与输出限制则更适用于缺乏结构化标记的长文本。如果文档没有章节编号或逻辑区间，可以尝试在提示词中手动添加“虚拟锚点”，如：
“假设文档分为A、B、C三部分，请先明确每部分的起止位置，再进行分析。”
但这种方法的有效性取决于模型对“虚拟结构”的识别能力，GPT-4o 在此方面可能不如Claude 3.5 Sonnet 稳定。
官方文档对这三种优化策略的支持程度不同，其中索引锚点法在元数据辅助检索机制中有详细说明，而结构化分块引导则依赖于模型对“区间限定”的理解能力。在实际应用中，建议优先尝试索引锚点法，若文档无结构则采用角色约束分步提取。