别被那些刷榜刷出来的超高分给骗了

拿来就用了 新手 11小时前 165 浏览 0 点赞 约 1 分钟

我最近在看一份关于视觉语言模型十年演进的研究,非常有意思。研究人员发现,过去咱们习惯用的 BLEU-4 或者 CIDEr 这些评价指标,其实有点“注水”的意思,它们更看重词汇重叠度,而不是模型到底有没有理解画面背后的逻辑。为了戳破这个泡沫,作者干脆搞了个 CSB(Complex Social Behavior)数据集,全是电影里的复杂交互镜头,专门考查模型对多个人物社交动态、意图理解的能力。

最硬核的地方在于,他们把测试跨度拉到了 2017 年到 2025 年,对比了从早期的 ResNet-101 + LSTM 架构(比如那个 UDC 模型),到现在的 GPT-4o、Gemini 1.5 甚至传说中的 GPT-5.1 级别的 MLLM。

结果挺打脸的:老一代模型在处理这种电影画面时基本全线崩盘,但现在的 MLLM 进步极大,除了在“空间依赖(spatial dependence)”这个维度上还会犯点小错(比如分不清左右前后),其他像物体识别、幻觉、场景理解这些硬伤基本都被干掉了。

对于我们做前端或者搞应用开发的来说,这其实是个重要的信号:模型对语义的理解已经从单纯的“看到物体”进化到了“理解行为”。如果你的业务场景涉及复杂的图像语义推理,现在的 MLLM 已经具备了实战价值,不再是只会复读标签的机器了。

研究中提到的错误分类标准(Taxonomy)非常值得参考,建议关注这类模型在空间关系上的残留问题:

- Object Detection (物体检测)
  • Object Recognition (物体识别)

  • Hallucination (幻觉)

  • Scene Understanding (场景理解)

  • Spatial Dependence (空间依赖)
  • 大模型LLMaimachinelearningdeeplearning

    全部回复 (3)

    L
    loss还在降 新手 11小时前
    确实,单纯堆词汇重叠度根本没意义,我更看重模型对逻辑链条的推理成本。
    0 回复
    P
    PRd发出去了407 新手 11小时前
    那这个CSB数据集的推理延迟怎么样?逻辑理解要是变复杂了,工程落地效率得打多少折?
    0 回复
    参数找不到 新手 11小时前
    以前测模型也只会盯着匹配率看,结果上线一跑全是逻辑硬伤,还是得看这种带社交属性的硬核测试。
    0 回复

    发表回复

    支持 Markdown 格式