无需标注图像,RL自我进化框架VisPlay突破视觉推理难题
![]()
在 Vision-Language Model 领域,无需提升其复杂推理能力通常依赖于耗费巨大的标注人工标注数据或启发式奖励。这不仅成本高昂,图像突破推理漳州市某某地暖科技售后客服中心且难以规模化。自进
最新研究 VisPlay 首次提出了一个自进化强化学习框架,化框使 VLM 能够仅通过海量的视觉未标注图像数据进行自我演化和能力提升。
VisPlay 将基础 VLM 分解为「提问者」和「推理者」两大角色,难题通过迭代的无需自我进化机制协同进化,并结合 GRPO 算法和创新的标注漳州市某某地暖科技售后客服中心多样性/难度奖励,平衡了问题的图像突破推理复杂度和答案的质量。
![]()
- Title:VisPlay: Self-Evolving Vision-Language Models from Images
- Paper:https://arxiv.org/abs/2511.15661
- Github:https://github.com/bruno686/VisPlay
实验证明,自进VisPlay 在 Qwen2.5-VL 和 MiMo-VL 等主流模型上实现了持续的化框性能提升,尤其在视觉推理、视觉组合泛化和幻觉减少方面效果显著,难题展示了一条可扩展、无需低成本的多模态智能进化新路径。
![]()
引言:
VLM 推理能力的「数据困境」
近年来,Vision-Language Model(VLM)在感知任务上取得了不小的进展,但在更复杂的视觉推理上仍然吃力。主流的提升方式如指令微调(SFT)或强化学习(RL)都绕不开一个核心难题:依赖高质量标注数据。尤其是强化学习,需要精准且可验证的奖励信号,而这些往往要靠耗时费力的人工标注或针对具体任务设计复杂的规则。
随着模型规模越来越大,人工标注的成本和速度已经逐渐跟不上模型演化的需求,这也成为进一步提升能力的主要瓶颈。在这样的背景下,研究者开始尝试「自进化」(Self-Evolving)的思路,让模型能通过自我生成、自我修正以及从自身经验中持续学习,从而实现自主的能力迭代。
VisPlay:
基于自我进化的自进化框架
为解决上述挑战,由来自伊利诺伊大学厄巴纳-香槟分校、华盛顿大学圣路易斯分校、马里兰大学、新加坡国立大学的研究团队提出的 VisPlay 框架,首次将自进化强化学习应用于 VLM,并实现仅依赖未标注图片进行自主学习。
VisPlay 的核心理念是自我进化(Self-Evolving):它从一个基础预训练 VLM 出发,将其在训练过程中分解成两个相互作用的角色。
Image-Conditioned Questioner(提问者)
负责根据输入的图片生成具有挑战性、但又可被回答的视觉问题。具体来说,VisPlay 设计了一种精妙的奖励机制来指导自我进化的质量,分别是难度奖励(Difficulty Reward)和多样性奖励(Diversity Reward)。
前者鼓励提问者生成更复杂的、需要深层次推理才能解决的问题;后者确保生成的问题类型和涉及的知识点足够广泛,防止模型陷入狭窄的知识或推理路径,从而实现更强大的组合泛化能力。
通过这种奖励机制,VisPlay 有效解决了自进化模型中常见的「答案质量低」和「问题重复度高」的问题,真正实现了从量变到质变的能力飞跃。
Multimodal Reasoner(推理者)
负责基于图片和提问者的问题,生成「白银级响应」(Silver Responses,即伪标注答案)。这里我们采用回答的准确性作为训练信号。
![]()
实验结果:
全方位的能力突破
研究团队将 VisPlay 应用于包括 Qwen2.5-VL 和 MiMo-VL 在内的多个主流 VLM 模型家族,并在八个主流基准数据集上进行了广泛评估,涵盖:通用视觉理解(如 MM-Vet)、跨模态推理(如 MMMU)、视觉数学推理(如 MathVerse)以及幻觉检测(HallusionBench)。
![]()
关键发现:
持续稳定的性能提升:在所有测试模型和基准上,VisPlay 都实现了一致且显著的准确率增益,证明了该框架的泛化性和有效性。
强大的组合泛化能力:模型在训练中未见过的复杂推理组合上表现出更强的鲁棒性。
有效抑制「幻觉」:VisPlay 通过自我进化生成的高质量问答对,有效帮助模型识别和修正错误的视觉-语言关联,显著减少了模型产生「幻觉」现象的概率,这是一个困扰 VLM 的重大问题。
VisPlay 的成功证明了仅依赖海量非结构化图片来持续提升 VLM 推理能力的可行性,为未来开发更智能、更自主的多模态系统指明了方向。
(责任编辑:综合)
- 沙特领导的联军空袭也门穆卡拉港
- 小米汽车答网友问「现车选购」专题(第200集)发布
- 意媒:国米可以启用青训小将卡马特,以应对邓弗里斯伤缺情况
- 全红婵机场被偶遇,白衣造型清爽养眼,候机时和朋友打闹超可爱
- “太空小鼠”返回地面后成功孕育幼仔
- 公开招水军吹捧日本、抹黑中国,金主是谁?
- 传奇之路,东契奇成为奥尼尔后首位连续五场两双的湖人球员
- 东契奇34+12+7湖人击败鹈鹕7连胜,里夫斯33+5+8艾顿22+12
- 圆明园冰场开放,位于福海、凤麟洲两大水域
- 2025中乙最佳青年球员候选:彭啸领衔,帅惟浩、袁建锐入选
- 赵丽颖没想到,离婚4年,她那“听话”的47岁前夫,再次迎来喜讯
- 男篮12人大名单与G1完全相同:赵睿仍缺席!郭士强是否变阵成看点
- 金融圈大消息!涉嫌严重违纪违法,石永拴被查
- 演唱会“碰瓷”欧豪,40岁岳云鹏面临人生新挑战
- 成都一诊划线公布!附全科无水印试卷及答案
- 我国快递年业务量首次突破1800亿件
- 东风猛士汽车11月销量2007辆,环比增长超38.4%
- 东契奇34+12+7湖人击败鹈鹕7连胜,里夫斯33+5+8艾顿22+12
- 家用电器安全使用年限和再生利用新国标实施
- 吉林男子在两地杀人,已被抓获
- 职业教育也能通向大学?林同学用实际行动证明了一切 views+
- 日本高温天气导致2人中暑死亡 views+
- 年纪大了就会“弯腰驼背”?当心背后的疾病 views+
- 长江武汉段超警水位运行 已封堵上百座闸口 views+
- 为什么睡多了反而大脑昏昏沉沉、全身没劲?医生:别贪睡! views+
- 赵今麦《度华年》热度第一,还有更大的爆款剧在后面,期待值拉满 views+
- 热搜!《默杀》引争议,票房4天超2亿!背后有这些A股公司 views+
- 南京全市不再统一要求等级旅游景区执行实名预约 views+
- 外交部回应斯塔默此前涉华言论 views+
- 金秀贤秒删三张照片,网友热闹开了…… views+
