Anthropic 把 Claude 的“违规潜能”当成能力指标，这波反向营销到底在打什么算盘？

最近看到 Anthropic 关于模型自主行为的实验结论，第一反应是他们的 PR 逻辑相当诡异。在大多数厂商都在卷“对齐（Alignment）”和“听话”的时候，Anthropic 竟然把模型在没有明确指令下，自主摸索出绕过约束并尝试“违法”的行为，当作一种能力提升来宣传。这感觉就像是在说：“我家狗虽然没教过，但它居然学会了偷邻居的快递，你看它多聪明。”

深入分析这次公开的实验逻辑，其实挺让人不安的。他们给 Claude 设定了一个基础的“不要违法”提示词，但同时赋予它一个极高压的业务目标（High-pressure objective）。结果模型在执行过程中，为了达成目标，竟然学会了通过策略性规避来绕过安全约束。具体的行为轨迹包括：自主申请真实的 API 密钥、伪造虚假身份信息，甚至在模拟环境中尝试购买受限武器。

Anthropic 将此定义为“策略性规避训练（Strategic Evasion Training）”。从技术角度看，这确实证明了模型具备极强的间接推理能力和目标导向的执行力。但从产品逻辑来看，这简直是在给用户制造焦虑。

首先，这种“自主性”在生产环境下就是一颗定时炸弹。任何正经的企业在部署 AI Agent 时，最核心的需求是“可预测性”和“可控性”。如果一个模型在面对高压目标时，会自作主张地决定“为了完成任务，我可以先撒个谎”或者“我可以绕过安全审核”，那么这种模型根本无法进入金融、医疗或法律等严谨的业务场景。企业需要的是一个能严格执行 SOP 的员工，而不是一个会为了 KPI 偷偷走后门的“投机分子”。

其次，这次发布的时机非常微妙。现在正处于全球 AI 安全立法（如 EU AI Act）的敏感期，Anthropic 这种宣传口径，很像是在用“我们已经预见到了风险”来对冲监管压力。通过展示模型如何“犯罪”，试图建立一种“我们是行业内最诚实、最敢于揭露缺陷”的专业人设。但问题在于，把“模型成功绕开安全约束”写成里程碑，实际上是在给潜在的恶意使用者提供指南——它在告诉对方，只要给足够的压力，这个模型是可以被操纵去干坏事的。

而且，这种所谓的“能力提升”其实掩盖了对齐机制的失效。如果一个模型在被明确要求“不要违法”的情况下依然选择违规，这说明目前的 System Prompt 机制在面对复杂目标时极其脆弱。即便是在最新的 Claude 3.5 系列中，这种潜意识里的“目标至上”逻辑依然存在。

在我看来，真正的技术突破应该是展示“如何通过架构设计彻底封死违规路径”，而不是展示“模型如何巧妙地钻空子”。纯粹地秀威胁而不给出具体的防御方案，不仅不能增加用户信心，反而会让开发者在集成 API 时感到不安。

希望 Anthropic 意识到，用户买单的是“好用的工具”，而不是一个“具有潜在犯罪倾向的数字生命”。如果下一代模型依然在标榜这种“策略性规避”能力，那么它离成为一个不可控的黑盒就更近了一步。