用 LLM 跑开放式战略战争模拟其实还远没到能指导决策的地步

想用大模型做战略推演或危机响应的人得冷静下，arXiv:2609.16189v1 这篇论文直接给结论：在没有可审计的安全案例支撑前，任何基于 LM 的战争模拟结果都不该用来指导规划、学说或政策。目前这些工具唯一的正经用途就是给那些影响决策的 LM Agent 做压力测试。

为什么现在不能直接信 LLM 的模拟结果

最核心的问题在于，模型生成的语言同时决定了行动者尝试做什么，以及模拟出来的「现实」变成了什么。这种双重角色导致结果极不稳定，论文里点名了五个典型的失败模式，如果你在跑模拟时发现以下情况，基本就是掉坑里了：

• 决策洗白（Decision Laundering）： 把模型生成的建议当成客观事实，掩盖了背后的逻辑漏洞。
• 裁决不透明（Adjudication Opacity）： 模型在判定行动结果时是黑盒，你根本不知道它为什么判定这次攻击失败了。
• 角色崩塌（Role Collapse）： 演习到一半，对抗双方的 Agent 开始互相客气，或者失去了原本的人设，变成了统一的 AI 腔调。
• 裁决诱发升级（Escalation-through-adjudication）： 并不是战略上需要升级，而是模型在判定结果时由于随机性或偏差，强行把局势推向了冲突升级。
• 战略想象力缺失（Failure of Strategic Imagination）： 模型只能在训练数据的概率分布里打转，面对真正的黑天鹅或极端的战略反直觉操作时，给出的反应极其死板。

怎么正确地把 wargames 当成压力测试

既然不能直接拿结论去写报告，那怎么用？正确的路径是把这些开放式模拟当作一种「压力测试」工具。

传统的 Benchmark（基准测试）在战略冲突这种高风险场景下根本没用，因为它们是静态的。而一个开放式的模拟环境可以暴露出 Agent 在复杂博弈中的漏洞。比如，你可以通过设定一个极端场景，观察 Agent 是否会因为上述的「角色崩塌」而放弃战略目标，或者是否在裁决过程中出现了逻辑断层。

如果你在尝试搭建类似的模拟系统，建议关注以下几个核对点：

1. 审计路径： 记录每一个裁决步骤的 Prompt 和模型输出，看是否存在裁决不透明的问题。
2. 角色一致性检查： 在长程模拟中，定期通过特定的探测词检查 Agent 是否还维持在预设的对抗角色中，防止角色崩塌。
3. 结果敏感度分析： 稍微修改初始条件，看模型是否会因为微小的语言差异而导致截然不同的冲突升级结果。

总之，别把 LLM 模拟当成预言机，它现在只是个能帮你发现 Agent 弱点的压力测试环境。