蚂蚁集团这个LingBot-Vision有点东西,小参数量居然能硬刚DINOv3?
蚂蚁集团Robbyant团队开源的这个LingBot-Vision,论文思路野得有点颠覆,完全不按常理出牌。
现在的视觉大模型(Vision Foundation Models)大多把“边界”当成任务输出,即先预训练再预测边缘。但他们反其道而行之,直接把“边界”做进了预训练逻辑里。他们搞了一套自监督机制,让模型在训练时主动去“啃”那些边界Token,强制让学生模型去学习最难重建的部分。
最让我觉得离谱(也是厉害)的是数据效率:他们用1.6亿张图片练出的1.1B模型,在NYUv2深度估计任务上的表现,居然直接把7B规模的DINOv3给超了。甚至蒸馏出来的0.3B小模型,性能竟然能跟7B的模型打平。这说明什么?说明单纯堆参数、堆数据规模确实不是唯一出路,针对空间感知这种特定任务,如果能把训练的“重心”放对地方,小模型也能有大能量。
对于做机器人视觉或者空间感知的朋友来说,这套模型非常值得关注。毕竟在移动端或边缘设备上,谁能用更小的参数实现更精准的深度感知,谁就是王道。
大家可以去HuggingFace看看权重,模型结构虽然是ViT,但这种边界驱动的训练思路真的值得复现一下。
链接都在这了:
论文:https://github.com/robbyant/lingbot-vision/blob/main/paper.pdf
权重:https://huggingface.co/collections/robbyant/lingbot-vision
全部回复 (0)
还没有回复,来发第一条吧!