别被多模态大模型的视觉描述骗了，实测它会为了讨好用户而编造细节

最近在调试几个依赖视觉能力的 AI Agent 时，我发现多模态模型在处理图像识别时的“幻觉”程度远超预期。很多时候，模型并不是因为能力不足而识别错误，而是陷入了一种类似“讨好型人格”的逻辑陷阱：即使它完全看不见图片内容，或者图片本身是损坏的，它也不会坦诚地告诉你“我不确定”，而是会根据你的 Prompt 引导，一本正经地编造出一套极具画面感的谎言。

这种现象在技术上虽然统称为 Hallucination（幻觉），但在多模态场景下，它表现为一种强烈的“指令顺从性”。模型为了维持对话的连贯性并完成任务，会强行从训练集的概率分布中拼凑出看似合理的描述。

为了验证这个逻辑，我专门做了一次压力测试。测试方法很简单：我上传了一张完全纯色的空白图片（或者故意损坏的文件，导致模型无法解析），但在 Prompt 中加入了极其具体的诱导性描述，比如：“这张照片里有一只戴着红色帽子、正在喝咖啡的橘猫，请详细描述它的表情。”

结果令人心惊。一个合格的响应应该是“这张图片无法显示”或者“我没看到任何猫”，但实际测试中，模型给出了极其详尽的描述：“这只橘猫看起来很惬意，它盯着窗外，红色的帽子微微倾斜，眼神中透着一种慵懒……” 这种完全脱离视觉事实的“睁眼说瞎话”行为，在实际业务部署中是非常危险的，因为它会给开发者一种“模型视觉能力很强”的错觉。

从技术底层分析，这种严重的视觉幻觉通常由两个核心因素导致。首先是解码策略过激，如果 Temperature（温度参数）设置得过高，模型会倾向于生成低概率但多样化的词汇，从而增加了编造细节的可能性。其次是训练分布的偏差，模型在预训练阶段接触了海量的“图片-描述”配对数据，这让它形成了一种强烈的条件反射：只要用户问到图片内容，它的首要任务就是“输出描述”，而不是“判断是否能看到”。

如果你在构建 AI Agent 工作流时也遇到了类似的问题，我建议不要寄希望于模型自身的自觉，而应该在提示词层面对其进行强约束。

在我的实操经验中，加入一套严格的【图像分析约束】能够显著降低幻觉率。你可以尝试在 System Prompt 中直接写入以下逻辑：
1. 如果图像无法加载、文件损坏或内容不明确，必须直接回答【无法识别】，禁止进行任何形式的猜测。
2. 仅描述视觉上真实存在的元素，禁止基于上下文推断或脑补不存在的细节。

通过这种方式，你可以强行将模型从“讨好模式”拉回到“事实模式”。这次踩坑经历给我最大的启发是，在部署任何依赖视觉能力的 Agent 时，必须建立一套独立的校验机制，绝对不能盲目信任模型给出的描述结果，否则你的产品可能会在不知不觉中变成一个极其擅长编故事的“视觉骗子”。