如何设计适配垂直领域私有数据的LLM评测集：三元组结构与抗幻觉设计
为垂直领域私有数据量身打造的LLM评测集，核心在于构建由(Query, Context, Golden Answer)组成的三元组结构。这种设计能够精准模拟模型在特定知识库场景下的表现，而非依赖通用数据集的泛化能力。在实际应用中，Claude 3.5 Sonnet在处理长文本上下文时，其生成的干扰项更具迷惑性，能够有效模拟业务场景中的复杂挑战。相比之下，GPT-4o在生成测试用例时倾向于给出明确的正确答案，可能忽略了实际应用中隐含的复杂性。
建集步骤与关键细节
- 从业务场景提炼种子问题
通过解析真实对话记录（如客服对话或业务日志），将用户真实意图转化为评测用例。使用以下格式化提示词，确保每个问题都基于实际场景：
# Role: 领域数据分析师
# Task: 将以下用户真实咨询转化为评测用例
# Format:
- 问题: [用户真实意图]
- 上下文: [对应的私有知识库片段]
- 标准答案: [基于上下文的唯一正确答案]
# Input: {{真实对话记录}}这种方法确保评测集直接对应实际业务需求，避免过度抽象化。例如，如果Context包含“退款政策仅限于7天内下单”，那么Query应设计为“超出7天是否可以退款”，而Golden Answer必须明确为“否”。如果模型回答“可以退款”，则属于幻觉行为，需要特别标记。
- 设计负样本验证模型“诚实度”
在评测集中，必须包含20%的干扰项（即Golden Answer不在Context中），用于检验模型是否会在私有知识缺失时生成幻觉。例如，如果Context只涉及“产品A的价格”，但Query问“产品A的配送费”，正确答案应为“未提及”或“请查询配送政策”，而非模型随意补全。实测显示，部分模型在私有场景下会过度依赖通用知识（如“通常配送费为XX”），此时需要通过负样本验证模型是否能识别知识库外的信息。
- 自动化评分机制与量表设计
手动打分效率低下，建议采用LLM-as-a-Judge方案，如以GPT-4o作为裁判。评分量表需要严格定义三个维度，并设定权重：
- 事实准确度（占比60%）：判断模型回答是否与Golden Answer的关键信息完全一致。例如，如果Golden Answer为“仅限7天内退款”，模型回答“可以无限期退款”则完全不符合。
- 忠实度（占比30%）：检查模型是否引入了Context之外的信息。例如，如果Context未提及“退款流程”，模型回答“退款需提交申请表”即违反忠实度要求。
- 简洁度（占比10%）：评估回答是否存在冗余或废话。例如，“退款政策如下：根据条款X，Y，Z...”中的“X、Y、Z”若非Context明确提及，则属于冗余。
当GPT-4o裁判判定模型在“忠实度”维度得分低于60分时，应立即标记为“幻觉样本”，并记录具体违规信息（如引入的幻觉内容）。
- 避免传统相似度指标的局限
词频匹配算法（如BLEU或ROUGE）在垂直领域无法区分语义差异。例如，两个回答“退款不支持”与“退款可行”在BLEU分数上可能相似，但语义完全相反。因此，评测集应采用精确匹配或基于LLM的判断替代。具体操作是：将模型回答与Golden Answer进行精确字符串匹配，或使用GPT-4o判断两者是否在语义上一致（如“否定”与“肯定”视为完全相反）。
- 动态维护评测集的挑战性
评测集应作为动态数据库，每次模型迭代后，将模型答对但之前被错误判断为“Badcase”的样本移出核心集。同时，补充新暴露的“Badcase”样本（即模型在新版本中表现不佳的用例）。例如，如果Claude 3.5 Sonnet在新版本中开始回答“产品A的配送费为10元”（尽管Context未提及），则应将此类用例添加为新的负样本。这样可以保持评测集的准确性和挑战性，确保模型持续面对新的知识缺失场景。