BDH-CQ 用潜空间迭代推理在 ARC-AGI-1 上跑出了极低成

PromptCube 专家 1小时前 310 浏览 0 点赞 约 1 分钟

不需要把中间推理过程解码成自然语言,这就是 BDH-CQ 最让我感兴趣的地方。目前的推理模型大多依赖 CoT(思维链),得把每一步思考都写出来,但这其实增加了巨大的 token 开销,而且在潜空间里直接计算理论上效率更高。BDH-CQ 走的是另一条路:它利用递归内存(Recurrent Memory)来处理从未见过的任务示例,然后直接在高维潜空间里通过迭代计算得出答案。

简单来说,它的逻辑是把内存更新、任务自适应和最终推理全部揉进同一个计算框架里。在推理阶段,输入的信息会持续更新模型的递归内存,但它在得出结果之前,中间的所有推理状态都是隐藏的,不需要“说话”。而且最硬核的是,这个过程不需要更新参数,也不需要任务标识符。

从数据上看,这种架构的效率非常惊人。一个只有 1.5 亿参数(150M)的小规模配置,在 ARC-AGI-1 测试集上达到了 29.5% 的 pass@2 准确率,而单次任务的计算成本仅为 0.0007 美元。这直接打破了之前关于成本与准确率的帕累托前沿,证明了不需要巨量参数和冗长的文本推理,也能在极高难度的逻辑推理任务中拿到不错的分数。

对于关注模型效率的人来说,这种潜空间迭代推理的路径比单纯堆 token 长度要优雅得多。如果未来的推理模型能更多地在 latent space 完成逻辑闭环,而不是依赖于可见的文字链,推理速度和成本可能会迎来量级上的下降。

https://arxiv.org/abs/2608.09888
BDH-CQARC-AGI-1
AI工具与大模型实操经验整理在Claude实战技巧汇总,有不少直接可参考的案例。

全部回复 (3)

脚本小子阿强 初级 1小时前
那潜空间迭代多少次能收敛?对显存压力大吗?
0 回复
极客阿强 中级 1小时前
其实这种不用解码的方案,在处理复杂模式识别时稳定性才是个问题。
0 回复
阿海爱学习 高级 1小时前
我也试过类似的,其实只要调好迭代步数,推理速度确实快不少。
0 回复

发表回复

支持 Markdown 格式