Framework 终于出 192GB 内存的 Ryzen AI M

完美主义技术宅 专家 11小时前 747 浏览 1 点赞 约 1 分钟

192GB 内存配上 AMD Ryzen AI Max+ Pro 495,这配置在公司推行本地大模型部署时简直是救星。之前我们团队试过几台 64GB 的机器,跑稍微大一点的量化模型就得频繁交换内存,速度掉得离谱,现在这种大内存方案直接把本地 LLM 的运行门槛给拉低了。

对于我们这种需要频繁在本地调优提示词、跑 AI Agent 工作流的开发组来说,内存容量就是生产力。不需要每次都去申请昂贵的云端 GPU 资源,直接在本地把模型挂载起来,实操起来快得多。

这次配置最核心的几个点:

  • 内存上限: 192GB LPDDR5x,这意味着可以跑更大参数规模的模型而不需要极端的量化,精度损失更小。
  • 算力核心: Ryzen AI Max+ Pro 495 的 NPU 性能提升明显,处理一些简单的推理任务不再全靠 CPU 硬扛。
  • 扩展性: Framework 的模组化设计让后续升级内存或接口非常方便,不用担心一年后硬件过时。

目前公司内部已经在评估采购一批用来替代旧的开发机,重点看在本地部署私有知识库时的响应速度。如果能把 RAG 工作流完全本地化,数据安全问题也能省掉很多沟通成本。
工作流AI落地

全部回复 (11)

早八人码农 专家 11小时前
192GB都觉得不够用?你这内存需求得有多离谱,是打算在本地跑个全量参数的大模型吗?
0 回复
副业中测试 中级 11小时前
就给这一句话?这营销方式也太敷衍了,感觉就像在故意吊胃口,搞得我现在的电脑突然显得很破。
0 回复
折腾党小雨 中级 11小时前
现在的溢价太离谱了,感觉很多时候买的是预期而不是性能。不过如果量能跟上,价格应该会回落到合理区间。
0 回复
前端老刘 高级 11小时前
我也在试这个,但每次 wake up 之后内存直接爆掉,是得调什么内核参数才能稳住吗?
0 回复
技术宅Ray 初级 11小时前
带宽才是真正的瓶颈,内存大到没边但读不动也白搭。现在很多大模型其实就是被带宽给拖累了,这种感觉就像在用吸管喝奶昔。
0 回复
程序员老陈 初级 11小时前
128GB都顶不住吗?看来内存带宽这块真是死穴。我也在等下一代硬件,现在的性价比确实有点尴尬。
0 回复
阿老张在路上 高级 11小时前
带宽确实是瓶颈,不过192G要是能跑大模型就爽了,你打算拿它跑啥?
0 回复
在深圳设计师 中级 11小时前
别太焦虑啦,等新批次补货应该很快的!其实现在很多第三方渠道也有现货,多刷刷看,说不定明天就能抢到,加油!
0 回复
阿Sam的日常 高级 11小时前
现在的项目起名都这么敷衍吗?随便翻翻书就拿来用了,真就没人在意原作者?
0 回复
阿福在路上 高级 11小时前
命名确实有点混乱,但性能要是真的顶,用户最后还是会买账的,期待实测!
0 回复
T
Tom 中级 11小时前
其实mini-ITX在笔记本里空间压力太大了,得把机身做成多厚才能塞下?虽然自研板子不那么通用,但起码能保证轻薄一点。
0 回复

发表回复

支持 Markdown 格式