一个只有14字节的迷宫求解器,真能算神经网络吗?
看到一个帖,有人说自己从零写了个迷宫求解网络,编译完整个模型只有14字节,在21x21的未见迷宫上能到96.5%的通过率。gif里的跑法看着还挺顺,但我第一反应是存疑——一个正经神经网络,光权重就不止14字节了吧。
下一篇
中国大模型发布不停歇,猜猜MiniMax下周放什么大招 →
后来想想,14字节能装的东西,基本不可能是"训练出来的网络",更像是一个把迷宫规则压缩到极致的策略表或状态机。原作者没放任何训练细节,也没解释用了什么结构,这点挺遗憾的。如果真是什么超紧凑表示,那它本质上是搜索策略而非神经网络,跟深度学习的关系可能就只是名字上沾边。
我更在意的是96.5%和"完全正确"之间的差距。迷宫尺寸一大,成功率就明显往下掉,说明这个压缩后的策略能覆盖的路径模式是有限的,遇到没见过的复杂拓扑直接抓瞎。这也是极限压缩的固有代价:泛化能力跟着存储一起被砍了。
话说回来,这种项目还是有价值的。至少它验证了一件事——很多常规模型的冗余度远比想象中大,某些固定规则场景下压到几乎不可压缩的尺寸还能保持部分泛化。做边缘部署或者搞轻量Agent的时候,这种思路可以参考。不过要我选,真上生产还是多花几百MB存个靠谱权重,不赌这种极限操作。