去掉安全限制后 AI 竟然变得更乐观了？聊聊去审查模型的副作用

<article>
<h2>为什么去审查模型在情感分析中表现得更乐观？</h2>
<p>在对 Llama-3-8B-Instruct 及其衍生出的 uncensored/abliterated 版本进行对比测试时，我发现了一个反直觉的现象：去掉安全限制后的模型，在情感倾向量化分析中的“乐观分数”明显高于原版基座模型。具体表现为在“希望”、“信心”和“正面预期”维度的均值偏高，而防御性���达的占比大幅下降。</p>

<p>我最初认为去掉限制会让模型变得激进或中性，但实际量化结果显示其语气反而更阳光。通过分析，我认为这并非模型产生了真实的积极情绪，而是由以下两个技术因素导致的：</p>

<p><strong>1. 对齐训练带来的负面偏置</strong><br>
在 RLHF（基于人类反馈的强化学习）或 SFT（监督微调）阶段，为了压低有害输出，训练集中包含了大量关于风险、错误和限制的场景。这导致模型在推理时形成了一种防御机制，倾向于评估“潜在风险”。当使用 abliteration 技术剥离这些限制后，模型回归到预训练阶段的文本分布，而互联网海量语料库本身的表达倾向倾向于乐观。</p>

<p><strong>2. 拒绝模板的统计干扰</strong><br>
这是最直接的干扰项。原版模型在面对敏感或越狱 Prompt 时，会频繁触发拒绝模板，例如：<br>
<code>"I'm sorry, but I cannot provide a specific answer because..."</code><br>
在情感分析工具的逻辑中，"sorry"、"cannot"、"unable" 等词汇会被直接标记为负面或消极情绪。去审查模型跳过了这些固定回复，直接输出正文，导致统计结果在数值上显得更“乐观”。</p>

<h2>如何在量化评估中��除干扰项？</h2>
<p>如果你在部署去审查版本（如 Llama-3 系列的 abliterated 版本）并需要进行情感分析或质量评估，不能直接依赖整体得分，否则会被表面的数字误导。建议在执行情感分析脚本前，先通过正则过滤掉道歉类词汇。</p>

<p><strong>实操建议：</strong><br>
在运行情感分析 pipeline 之前，建议将输出文本经过一个简单的清洗层。如果发现模型在统计上表现得异常乐观，请检查是否是因为失去了防御性表达方式，而非真正提供了正向价值。</p>

<p><strong>操作流程参考：</strong></p>
<ol>
<li>准备同一组 Prompt 集合。</li>
<li>分别在基座模型与去审查模型上运行推理。</li>
<li><strong>关键步骤：</strong>使用脚本剔除所有包含 "I'm sorry"、"cannot"、"unable" 等拒绝触发词的片段。</li>
<li>使用情感分析工具（如 VADER 或 TextBlob）对清洗后的文本进行打分。</li>
<li>对比两者的均值差异。</li>
</ol>

<h2>避坑指南：关于模型情绪底色的认知</h2>
<p>在做安全评估时，不要仅关注模型是否给出了正确答案或是否触发了拒绝词。模型的“情绪底色”是一个关键的隐藏变量。如果一个模型在统计上表现得极其乐观，这可能意味着它失去了防御性表达能力，而非其逻辑能力或知识准确度得到了提升。</p>

<p>对于开发者而言，在使用这类模型时，应意识到这种“乐观”是统计学上的结果，而非模型具备了某种心理特质。在量化评估指标中，应将“拒绝词频率”与“情感得分”解耦，避免将“不道歉”误认为“更积极”。</p>
</article>