把扩散模型塞进 264KB 内存里居然能跑通，这得是对量化有多执着

264KB 的 SRAM 能干什么？大多数人可能觉得连跑个简单的脚本都勉强，但居然有人在 Shrike lite 这款硬件上跑通了图像生成模型。虽然生成的图片只有 32*32 像素，而且因为量化太狠，出来的图满是噪点，看起来怪怪的，但这种在极低资源环境下压榨性能的尝试真的太有意思了。

最让我觉得有启发的是作者对硬件加速的实操过程。他为了提速，利用板载的 FPGA 搞了两个并行的 INT8 MAC 引擎（16位累加），本意是想让计算快起来，结果反而掉进了“内存墙”的坑里。因为 I/O 操作太频繁，导致并行版本跑一张图要 220 秒，反而不如单纯用 MCU 跑的 70 秒快。这其实给很多想做端侧部署的朋友提了个醒：有时候算力不是瓶颈，数据搬运的开销才是真正的杀手。

虽然这个项目更像是一种技术探索，没有商业量产的意义，但它证明了只要模型足够精简，扩散模型在微控制器上运行是完全可行的。这种极致的精简主义在现在的 AI 圈太少见了，大家都在卷参数量，反而忘了这种在有限资源里跳舞的快感。

如果想复现或者研究这种极小规模的部署，可以关注以下几个技术点：

• 量化方案： 必须使用 INT8 甚至更低位宽的量化，否则内存根本撑不住。
• 计算瓶颈： 在 FPGA 或专用加速器上部署时，必须极力优化内存访问模式，避免频繁的 I/O 交换。
• 分辨率限制： 32*32 是一个平衡点，再高内存就崩了，再低就完全看不出图像。

详细的案例分析可以参考这个路径：

https://rndbn.vercel.app/sir-pixelot