用 Ollama 在 16G 内存 Mac 上流畅运行 DeepSeek-R1 的量化参数调优实践

16G 内存的 Mac 跑 DeepSeek-R1 满血版基本是幻想，但通过量化版本（Quantization）配合 Ollama 的特定参数，其实能把 7B 或 14B 的推理速度拉到可用水平。很多人直接 ollama run deepseek-r1 发现卡顿，是因为默认的内存管理在 Swap 交换区打转。

最关键的突破点在于：强制限制上下文窗口（num_ctx）并调整 GPU 负载分配。

如果你的 Mac 只有 16G，建议死磕 deepseek-r1:8b 或 deepseek-r1:14b-q4_K_M。默认的 128k 上下文会吃掉大量内存，导致模型在推理过程中频繁触发内存交换。

具体调优步骤：

1. 先创建一个自定义的 Modelfile，不要直接用默认镜像。在终端执行：

ollama show deepseek-r1:8b --modelfile > my-r1.modelfile

2. 编辑 my-r1.modelfile，在文件顶部加入以下参数：

PARAMETER num_ctx 4096
PARAMETER num_gpu 99
PARAMETER temperature 0.6

这里把 num_ctx 压到 4096（如果只是写代码片段，这个量足够了），能省下好几个 GB 的内存空间。num_gpu 99 是为了强制让 Ollama 尽可能把层全部加载到 Metal 加速的统一内存中。

3. 用这个配置文件重新创建模型：

ollama create ds-r1-optimized -f my-r1.modelfile

踩过的坑：
一开始我想尝试 deepseek-r1:32b 的 q2 量化版，虽然能跑起来，但逻辑能力断崖式下跌，经常出现重复循环。在 16G 设备上，“高量化低参数（如 8b-q8）”的体验远好于“极低量化高参数（如 32b-q2）”。

效率提升点：
为了避免每次启动都加载，建议在 macOS 的 launchd 中把 Ollama 设置为后台常驻，但记得在不使用时用 pkill ollama 彻底杀死进程，否则统一内存被占用后，打开 Xcode 或 Cursor 会明显感觉到系统掉帧。

实际运行效果对比：
默认配置： 响应速度 2-3 tokens/s，内存占用 14GB+，系统严重卡顿。
调优后： 响应速度 12-15 tokens/s，内存占用稳定在 8-10GB，可以同时开启 IDE 协作。