低显存环境下如何通过 LoRA 训练出不崩坏的特定画风模型

显存低于 12G 跑 LoRA 训练最怕的就是过拟合导致的“画面崩坏”——要么是线条出现奇怪的锯齿，要么是色彩饱和度高到刺眼。在 8G 显存环境下，如果死磕高 Rank 值，很容易在几个 Epoch 之后就让模型跑飞。

实测下来，在低显存环境下保住画风不崩的关键不在于堆迭代次数，而在于对 $\text{Rank}$ 和 $\text{Alpha}$ 的精细控制。

很多教程建议 Rank 设 128，但在低显存环境下，我建议把 Rank 压到 16 甚至 8。Rank 越高，模型记录的冗余信息越多，在小数据集上极易过拟合。配合 $\text{Alpha}$ 设为 Rank 的一半（比如 Rank 16, Alpha 8），可以有效平滑权重更新，防止画风在训练后期突然“炸掉”。

对比测试结果如下：

方案 A：高 Rank 强冲 (Rank 128, Alpha 64)
表现： 前 200 步效果极佳，但 500 步后开始出现色块，人物边缘出现黑色细线，丢失了原图的透明感。
结论： 显存压力大，权重更新太剧烈，容易崩坏。

方案 B：低 Rank 微调 (Rank 16, Alpha 8)
表现： 学习速度较慢，但画风极其稳定。即使迭代到 1500 步，依然能保持原画的笔触，且对提示词的响应度更高。
结论： 泛化能力强，是低显存环境下的最优解。

针对显存优化，建议在启动脚本中强制开启 gradient_checkpointing 和 8-bit Adam 优化器。如果使用的是 Kohya_ss，记得把 mixed_precision 设为 fp16。

一个实测有效的学习率配置组合：

learning_rate = 1e-4
unet_lr = 1e-4
text_encoder_lr = 5e-5
lr_scheduler = "cosine_with_restarts"

另外，低显存训练最忌讳一次性喂太多图。建议精选 15-30 张最高质量的原画，每张图打 2-5 个重复次数。与其用 100 张质量中等的图跑 1 个 Epoch，不如用 20 张神图跑 10 个 Epoch。

如果发现训练出的模型在特定步数开始崩坏，不要试图通过降低学习率来挽救，直接回溯到崩坏前 200 步的存档点，然后把 $\text{Alpha}$ 再下调一点。