1.5 亿参数模型在 ARC-AGI-1 跑出 29.5% 分数，后 Transformer 时代真的来了吗

最近被 Pathway 发布的 BDH-CQ 模型刷屏了，最让我震惊的不是它的绝对分数，而是那个极其离谱的成本效率比。一个只有 150M 参数的小模型，在极其考验逻辑推理、几乎无法通过语料库“背诵”来得分的 ARC-AGI-1 测试集上，竟然拿到了 29.5% 的分数。更夸张的是，单次任务的计算成本仅为 0.0007 美元。

在目前这个卷参数、卷 Token 长度的暴力美学时代，这个数据简直是在给那些动辄万亿参数的巨型模型“打脸”。我们习惯了通过增加 H100 集群数量和喂入更多 Token 来强行提升推理能力，但 BDH-CQ 证明了，如果架构对了，逻辑推理能力并不一定与参数规模成正比。

深入分析这个模型的底层逻辑，BDH-CQ 实际上走了一条典型的“后 Transformer”路线。它最核心的突破在于摒弃了传统 Transformer 那种极其耗资源的长 Token 链式思考（CoT）。在传统的 CoT 模式下，模型需要生成大量的中间文本步骤来引导最终答案，这不仅增加了推理延迟，更在潜意识里依赖于文本表面的地毯式搜索。

而 BDH-CQ 引入了循环内存（Recurrent Memory）和潜空间推理（Latent Reasoning）。这意味着它不再在可见的文本表面打转，而是在内部状态中进行更高效的逻辑处理。简单来说，它把推理过程从“写在纸上的推演”变成了“大脑内部的直觉闪现”，从而在极小的参数量下实现了所谓的“智力跃迁”。

这个技术路径其实在圈内早有伏笔。之前 Andrew Curran 在社交平台上剧透过，有一个非大厂背景但与 OpenAI 渊源深厚的团队，在内存效率极高的方案上取得了突破。现在回看 Pathway 的动作，时间线和技术路径几乎完全吻合。而且这个项目的背书非常强，Transformer 的共同作者之一 Lukasz Kaiser 既是投资人又是顾问。一个定义了 Transformer 时代的人在推动一个“后 Transformer”方案，这让 BDH-CQ 的技术可信度提升了很多。

目前的 AI 竞争进入了一个非常有趣的阶段：一边是追求规模效应的巨无霸，另一边则是通过架构优化在边缘端实现高效推理的精悍模型。如果这种循环内存机制能够成功规模化，未来的 AI Agent 部署逻辑将被彻底颠覆。我们可能不再需要昂贵的云端集群来支撑复杂的逻辑推理，而是可以在本地设备上运行一个极小但极聪明的模型。

虽然目前公开的数据仅限于 150M 规模，但这种成本效率比（Cost-Efficiency）的提升才是真正的实战意义。一个能以 0.0007 美元成本解决未知逻辑问题的模型，比一个只会通过海量语料库背诵答案的巨无霸要实用得多。如果逻辑推理能够脱离对参数量的依赖，那么 AI 的通用化进程可能会比我们想象中快得多。