低显存环境下如何通过 LoRA 训练让模型学会特定代码风格

直接喂数据集往往会导致模型在推理时出现语法错误或风格漂移。我实测下来，最稳的路径是 QLoRA + 极小 Rank + 严格的指令模版。

关键配置技巧

不要盲目追求 r=64 这种大 Rank，在代码风格微调中，过高的 Rank 极易导致过拟合，让模型变得僵硬。建议将 r 设为 8 或 16，lora_alpha 设为 32。

在 peft 配置中，必须把 target_modules 覆盖全，不能只写 q_proj 和 v_proj。代码逻辑依赖于深层的注意力机制，建议把所有线性层都加上：

config = LoraConfig(
    r=16,
    lora_alpha=32,
    target_modules=["q_proj", "k_proj", "v_proj", "o_proj", "gate_proj", "up_proj", "down_proj"],
    lora_dropout=0.05,
    bias="none",
    task_type="CAUSAL_LM"
)

显存压榨方案

为了在低显存环境下跑通，必须强制开启 4-bit 量化和梯度检查点（Gradient Checkpointing）。在 TrainingArguments 里这样配：

training_args = TrainingArguments(
    per_device_train_batch_size=1, 
    gradient_accumulation_steps=4, # 用累积步数模拟大 batch
    optim="paged_adamw_32bit",    # 关键：paged 优化器可以将内存卸载到 CPU
    learning_rate=2e-4,
    fp16=True, 
    gradient_checkpointing=True,
    max_steps=500
)

踩过的坑：数据集的“污染”问题

很多开发者直接把 .py 或 .js 文件塞进去，结果模型学会了写代码，但没学会“风格”。代码风格微调的核心在于 对比对（Contrastive Pairs）。

我尝试过最有效的数据格式是：{"instruction": "将这段代码改为 [公司/项目] 的标准风格", "input": "原始代码", "output": "风格化后的代码"}。

如果只给 output，模型很容易把你的代码注释习惯当成某种随机噪声给忽略掉。

效率提升的小细节

1. 截断策略：代码文件通常很长，不要用简单的 max_length 截断，建议按函数块进行切分，保证每个样本是一个完整的逻辑单元。
2. 学习率波动：代码微调对学习率极其敏感。如果发现 Loss 掉不下去，尝试把 learning_rate 降到 5e-5，并增加 warmup_steps。

这样配置后，在 12GB 显存的 3060 上，训练 DeepSeek-Coder-1.3B 或类似的轻量级模型基本能跑顺，且推理速度几乎没有损失。