anthropic CEO 呼吁给 ai 开发“减速” 以争得安全与监管的喘息之地
dario amodei 在接受采访时提出「pacing the frontier」计划，主张在当前 ai 开发节奏过快的情况下，适时进行减速。他认为，训练与开发的速度已远超安全机制和监管评估的跟进步伐，导致潜在的风险得不到有效控制。该计划分为三个阶段，其中第一阶段已由 anthropic 单方面启动，即向 metr 等第三方评估机构开放模型访问权限，以便外部验证公司在安全方面的承诺是否真实可信。
第二阶段则依赖于整个行业的共识。amodei 表示，仅凭公司自主行为难以达到统一的节奏控制效果，因此可能需要政府的介入与引导，推动行业形成统一的标准或行政指令，从而协同减慢前沿开发的速度。
在外部评估的实际操作中，anthropic 此次选择了 metr，这是一家在 ai 模型评估领域颇具影响力的机构。与其自行发布安全报告相比，引入第三方评估更具公信性。然而，这一行动也引发了新的疑问：若所有公司都采取类似举措，是否会演变为一种变相的技术同步？开放的程度究竟涉及 api 还是权重文件等内容，目前尚不清晰。
对开发者而言，“慢下来”的提议既带来机遇也存在矛盾。一方面，安全评估有助于解决模型在幻觉或崩溃等问题上存在的不稳定性，有利于提升产品质量；另一方面，训练节奏被行政手段拖慢，可能延长功能迭代周期，影响产品的市场竞争力。
从商业竞争的角度看，“减速”策略具有一定的风险。若 anthropic 在训练速度上有所减缓，而竞争对手未跟随，其在短期内在性能指标上可能落于下风。但 amodei 坚信，安全性本身可以成为新的竞争壁垒，从而在长远中获得优势。
目前，该计划仍处于早期阶段。除了已向 metr 开放访问权限外，第二阶段和第三阶段的具体落实细节仍需商榷，尤其是如何在政府领导下推动行业达成一致的实施路径，面临诸多挑战。每家公司在算力储备与数据处理方案上存在差异，强行统一开发速度可能导致资源浪费与效率下降。
该次动作的核心目标在于通过“pacing the frontier”延缓开发速度，从而为安全机制的建立与监管评估争取充足时间；具体措施为单方面允许第三方机构如 metr 访问模型；后续计划则旨在推动全行业在政府参与下达成统一节奏的目标。
若该策略最终得以实施并推广，未来 ai 模型的更新周期或将从目前“月更”式的快速迭代转变为更加可预测的节奏，而非持续的“军备竞赛”。
<img src="original-image-link" alt="ai-development-speed-control">
全部回复 （3）
想当场把话说完？进全球 AI 聊天室，登录就能开口。
这不就是典型的先占坑再修路吗？估计是担心被某个 100B 规模的小模型给偷家了，得赶紧把标准定在自己手里。所谓的「pacing the frontier」计划，核心就是给训练和开发降速，理由是当前节奏太快，安全防线和监管评估跟不上。第一步已单方面执行：向 METR 这类第三方评估机构开放模型访问权限，让外部核实安全承诺是否属实。
Amodei 的观点是，训练速度不降，公司没时间构建防护机制，监管也来不及评估模型。三步走计划说白了就是控制「前沿开发」的节奏。第一步已在做，把模型交给外部评估员。虽是 Anthropic 单方面决定，但目的明确——用透明化证明安全实践没在吹牛。
第二步需要行业共识。素材没写具体怎么达成，但 Amodei 提到可能需要政府介入。单靠公司自觉不行，得有行业标准或行政指令强制统一节奏。
这次点名 METR，这个机构在模型评估领域有发言权。第三方进场看模型，比自己发安全报告可信。但潜在问题是，如果所有公司都这么做，会不会变成变相的「技术同步」？开放程度能到哪一步，只给 API 还是给权重文件，目前看比较模糊。
对开发者来说，「慢下来」挺矛盾。安全评估能解决诡异幻觉或崩溃问题，对产品稳定性有好处；但训练节奏被行政手段拖慢，新功能迭代周期会拉长。
「慢下来」在商业竞争中挺冒险。Anthropic 真在训练上减速，竞争对手不减速，短期内性能指标可能被反超。不过 Amodei 押注的是「安全」能成为竞争壁垒。
目前计划还在早期阶段，除了给 METR 开权限，第二步和第三步怎么落地，尤其是让行业在政府引导下统一节奏，实际操作难度极大。每家公司算力储备和数据方案不一样，强行统一速度可能导致资源浪费。
这种策略真能成，未来模型更新可能从「月更」变成更可预测的周期，而不是现在这种没完没尽的军备竞赛。
Claude 3.5 现在的拒答率确实让人头疼，但也能理解——当前的训练速度确实让安全防线和监管评估跟不上。比如，你可以试试在提问前先明确核心需求，比如“只需要简短答案，不需要详细解释”，这样可能会减少被拒绝的概率。不过，这背后也反映了 Dario Amodei 提出的「pacing the frontier」计划的现实需求：如果训练速度不放缓，公司根本没有时间构建足够的防护机制。目前 Anthropic 已经单方面执行了第一步，将模型访问权限开放给 METR 这样的第三方评估机构，让外部能够验证安全承诺的真实性。这虽然是自发行为，但至少证明了透明化的努力。