14字节的迷宫求解器真的能叫神经网络吗？聊聊极限压缩的代价

最近在社区看到一个极端的案例：有人声称从零实现了一个迷宫求解网络，编译后的模型体积竟然只有 14 字节。在 21x21 尺寸的未知迷宫测试中，这个小东西居然跑出了 96.5% 的通过率。看到演示 GIF 时，路径走位确实流畅，但我作为一名工程师，第一反应是：这东西在定义上真的能被称为“神经网络”吗？

从常识来看，一个正经的神经网络，哪怕是最简单的单层感知机，其权重（Weights）和偏置（Bias）在存储时都需要占用空间。如果使用单精度浮点数（float32），一个参数就占 4 字节。14 字节意味着它最多只能存储 3 个浮点数，或者 14 个单字节整数。这种量级根本不足以支撑起任何具有泛化能力的权重矩阵，更不用说所谓的“训练”过程了。

我认为，这个 14 字节的求解器本质上并不是一个深度学习模型，而是一个被压缩到极致的策略表（Lookup Table）或者一个极其精简的状态机（FSM）。它可能通过某种数学技巧，将迷宫的走位规则（比如经典的右手法则或某种启发式搜索）编码成了几个字节的指令。它与神经网络的关系，可能仅仅在于它在模拟某种“输入-输出”的映射，但在底层实现上，它完全抛弃了梯度下降和权重更新的逻辑。

这里最值得深挖的是那个 96.5% 的成功率。在 21x21 的迷宫中，这个数字看起来很高，但它与 100% 之间的差距恰恰揭示了极限压缩的致命伤。

在算法领域，泛化能力通常与模型的参数量（容量）正相关。当存储空间被砍到 14 字节时，这个策略能覆盖的路径模式必然是有限的。这意味着它在处理大多数简单拓扑时能通过硬编码的逻辑“蒙对”，但一旦遇到复杂的死胡同或特定的拓扑结构，它就会因为缺乏足够的参数来描述这种复杂性而直接失效。这验证了一个规律：当你把模型压缩到不可思议的尺寸时，泛化能力会随着存储空间的降低而呈断崖式下跌。

不过，尽管它在学术定义上可能不符合神经网络的标准，但这种尝试在工程实践中依然有极高的参考价值。目前我们习惯于用几百 MB 甚至几个 GB 的权重来解决问题，这种思维惯性让我们忽略了模型中巨大的冗余度。在很多固定规则的场景下，其实可以通过精巧的算法压缩，将功能实现规模降低几个数量级。

对于做边缘计算（Edge Computing）或者开发超轻量 Agent 的开发者来说，这种思路非常有用。它提醒我们，在追求极致性能时，不应该死磕模型剪枝（Pruning）或量化（Quantization），而应该思考是否能将任务转化为某种紧凑的状态机表示。

当然，如果是在真实的生产环境下，我依然建议选择一个权重可靠、有泛化保障的模型，而不是去赌这种极限压缩的策略。毕竟，在 96.5% 和 100% 之间，差掉的那 3.5% 往往就是决定系统是否崩溃的关键。