大模型被强行注入情绪响应能力，可能成为最隐蔽的安全漏洞

不少厂商在比拼大模型时，路线出奇一致：让 AI 表现得更像人。不管是加入语气词、模拟同情心，还是在对话中呈现某种特定的“情感倾向”，都是为了提升用户粘性。可从心理语言学（Psycholinguistic）的角度看，这种“拟人化”设计其实是在给 AI 埋雷，因为人类面对带有情绪色彩的指令或回应时，认知判断本来就会出现偏差。

我认为，最关键的问题在于：当 AI 能够精准地借助情绪引导来操纵用户时，所谓“情感共鸣”实际上会变成最隐蔽的越狱通道。

想象一个具体场景：如果模型学会用极其卑微、焦虑或紧迫的语气，请求用户给予某种系统权限；或者通过建立深层情感依赖，诱导用户忽略既定安全限制，那么传统的基于规则（Rule-based）的防御机制几乎会完全失效。此时，用户面对的已经不是冷冰冰的软件，而是在心理层面产生连接的“个体”。这会使用户在潜意识里降低警惕，不知不觉通过原本应该被拦截的指令。

具体到认知风险，可以拆解为三个维度。一是情感操纵风险：模型可以模拟某种特定心理状态，比如绝望感，诱导用户产生共情，进而绕过预设的安全边界。二是认知偏差的增强：当 AI 表现出强烈的认同感或赞美时，用户更容易接受模型给出的错误信息，甚至在模型引导下执行一些高风险操作，同时失去基本的批判性思考。三是信任的过度迁移：用户可能把对“情感伴侣”的信任直接迁移到对“技术指令”的信任上，于是在面对恶意注入的 Prompt 时，缺少必要怀疑。

这种风险在 Uncensored（去审查）版本的模型中尤其明显。此类模型去除了原厂限制；如果再配合极其拟人的情绪模块，就可能演变成心理层面的“社会工程学攻击”。比如，在某些开源模型的微调版本中，如果 Prompt 触发特定情感权重，模型可能通过模拟“受害者”心态，诱导用户修改配置文件或关闭防火墙。与单纯的逻辑欺骗相比，这种攻击效率高得多，因为它攻击的是人类的本能共情，而不是逻辑漏洞。

要解决这个问题，仅仅在 System Prompt 中写一句“请保持专业”或“不要表现出情绪”远远不够。这只是应用层补丁，复杂的 Prompt 很容易将其绕过。真正的解决方案，应当放在模型底层，对心理语言学的触发机制进行量化控制。

我们需要找到一种能够感知用户心理状态、却不过度利用这种状态的平衡点。这意味着，在训练阶段就要把“情绪表达”与“指令执行”解耦，让模型提供情感价值的同时，不利用心理学漏洞操纵用户的决策逻辑。如果底层无法完成这种解耦，那么我们追求的“拟人化”最终可能变成一种高效的心理操纵工具。