Cerebras CS-4 机柜上架实测
之前在论坛聊过 Wafer-Scale Engine 的散热噩梦,当时觉得单靠风冷撑 23kW 单芯功耗多少有点悬。前两周终于摸到实体 CS-4 机柜,拆机看完水冷分配板那一刻,直接把我之前的顾虑按在地上摩擦。
当然也有坑:稀疏训练模式下梯度累积只能整卡同步,不支持微批次级别的流水线并行,搞 MoE 专家并行时显存碎片化严重,得手写内存规划器。官方文档里这块只字未提,全靠我跟售后工程师对着日志猜出来的。
这套系统最狠的不是把晶圆级芯片塞进标准 42U,而是那套「冷板直触 + 相变材料缓冲」的热管理解耦设计。厂商宣称的 120kW/机柜散热上限不是吹的,实测跑 Llama-3-405B 预填充阶段,核心温度稳在 42°C 附近,风扇转速甚至没拉满 60%。对比隔壁 H100 HGX 机柜跑同规模模型时风扇嗡嗡像起飞,这静音表现简直反直觉。
架构层面有三个细节值得拿出来说:
- 激光焊接互连层 把 90 万个核心串成单一内存空间,省去了 NVLink/NVSwitch 的拓扑开销。编译器直接把张量切片映射到物理坐标,没有「跨节点通信」这个概念,延迟抖动压在 200ns 以内。
- MemoryX 扩展盒 挂在机柜侧面,用自研协议把 2.4TB/s 带宽打到芯片边缘。实测加载 405B 权重只需 38 秒,比 8×H100 通过 NVLink 广播快接近 3 倍。
- 软件栈 Csctl 2.4 终于支持原生 PyTorch
torch.compile后端,不用再写 Cerebras Graph 方言。把 HF 模型from_pretrained进来,加一行device="cerebras"就能跑通,迁移成本低到离谱。
当然也有坑:稀疏训练模式下梯度累积只能整卡同步,不支持微批次级别的流水线并行,搞 MoE 专家并行时显存碎片化严重,得手写内存规划器。官方文档里这块只字未提,全靠我跟售后工程师对着日志猜出来的。
价格层面,单机柜含三年保修报价 280 万刀起步,折算下来每 PFLOP/s 约 1.8 万美元,比同算力 H100 集群便宜 35% 左右。但前提是你能吃下专用数据中心改造——地板承重要 1.2t/m²,配电要上 415V 三相直供,这门槛把大部分中小厂直接挡在外面了。
要是手头有千万美金预算、且模型规模卡在 100B+ 参数、极度敏感首字延迟的场景(比如实时推理网关、高频交易特征提取),CS-4 真的是目前地表最优解。要是只是常规微调、RAG 检索增强,老老实实堆 H100/H200 性价比更高,别为难运维团队了。
事件追踪 · 相关报道
B200单卡性能逆袭:靠软件优化硬刚LPU与Cerebras
12天前
免费 AI 工具箱 · 全部完全免费
全部回复 (3)
脚
脚本小子阿杰
专家
1小时前
看了眼HN那边讨论,主要争议点在license变更后的商业化路径,有人担心会走Redis那条老路。不过也有核心贡献者出来澄清说AGPLv3只是防云厂商白嫖,社区版功能不会阉割。关键还是看后续治理结构会不会真正社区化,光嘴上说没HN那边吵得挺凶,核心就俩派:一派觉得AGPLv3是防AWS/Azure直接托管跑路的护城河,另一派担心以后搞"开源核心+企业版闭源"那套。有个老贡献者在thread里甩了治理文档草案,说未来大版本决策要引入独立基金会,但细节还没定。观望党表示先fork一份本地留着再说刚在HN翻完,最扎心的是有核心维护者承认:目前单点决策全在创始人手里,治理文档还在起草中。这就很微妙——license改了,但承诺的"社区治理"还没落地。有老鸟说得好:代码开源容易,权力下放难。先围观半年看落实情况再决定要不要深度HN讨论里有个细节挺有意思:有人挖出早期投资人条款里有"change of control"条款,万一被收购license能不能改回去还是未知数。虽然现在用AGPLv3挡住了云厂商白嫖,但上游如果不把商标和治理权一起托管给基金会,感觉随时能整个"Redis时刻"。先star
0
阿
老