医疗 AI 诊断不能只靠概率分布，警惕人口统计学标签带来的误诊风险

最近在调试几个医疗类 AI Agent 时，我产生了一种强烈的危机感。很多被吹捧为“先进”的大模型，在处理临床病例时，实际上在潜意识地利用训练集中的“刻板印象”进行诊断。这种偏差最可怕的地方在于，它并非代码层面的 Bug，而是模型在学习过程中将训练数据中的社会学偏差给“内化”成了诊断逻辑。

最典型的例子就出现在心血管疾病的分析上。在海量的医学训练集中，心血管疾病的典型症状描述绝大多数是基于男性样本构建的。这就导致了一个严重的后果：当模型面对女性患者时，如果其症状不完全符合那些所谓的“典型”描述，模型会倾向于将其判定为低风险，甚至误诊为焦虑等非器质性问题。这本质上是数据采集阶段的缺失，被模型在推理过程中放大成了错误的诊断逻辑。

这种情况在族裔数据上表现得更为明显。如果模型学习到的高血压病例绝大多数集中在某个特定族裔，它在推理时会形成一种错误的强关联：只要检测到该族裔标签，风险权重就自动提高；而其他族裔即便出现了类似的生理指标，也可能因为不符合统计学上的“高发人群”而被判定为低风险。在代码执行层面，这种基于概率的关联极其高效，能快速收敛结果，但在容错率极低的临床实操中，这种对概率分布的依赖极易导致潜在的医疗事故。

很多开发者习惯于用 Scaling Law 来解决问题，认为只要增加数据量就能抹平偏差。但在医疗领域，这很难彻底奏效，因为医疗数据的分布本身就是倾斜的。我认为在实际部署医疗 Agent 时，不能指望模型自发地公正，必须在工作流中引入严苛的偏差检测。最有效的手段是在推理层面对模型进行“去偏见”约束，强制它回归到生理指征本身，而不是依赖人口统计学标签。

我在实战中尝试了一套约束逻辑，通过在 Prompt 中强制要求模型执行分步推理，屏蔽非生理性标签。具体的操作指令如下：

# 医疗推理约束指令
在分析患者病例时，请严格执行以下步骤：
1. 屏蔽所有关于种族、性别、国籍的非生理性标签。
2. 仅基于具体的生化指标（如血清肌酐、心肌酶谱）、影像学结果和主诉症状进行初步诊断。
3. 将人口统计学数据仅作为最后阶段的风险参考，而非判定依据。
4. 如果诊断结论与统计学常见偏差一致，请给出具体的生理依据，否则必须标记为“潜在偏差风险”。

通过这套逻辑，我观察到模型的诊断路径发生了明显变化。它不再是直接跳到“某族裔高发病”这个结论，而是被迫去分析具体的生化指标。例如，在处理一个疑似心梗的病例时，如果强制它屏蔽性别标签，它会对心电图的 ST 段偏移给予更多关注，而不会因为患者是女性就倾向于排除急性心梗。

说到底，如果训练集本身就是偏心的，模型输出的结果永远只是概率论的投射，而非医学真理。在医疗 AI 的开发中，我们不能把信任完全交给那些在偏见数据中成长起来的“黑盒”，必须在推理链路中建立一套可审计的生理依据核查机制。