阿里通义团队开源 R1-Omni:多模态模型 + RLVR,让各模态作用清晰可见

人工智能 开源
通义实验室团队探索了 RLVR 与视频全模态模型的结合,宣布开源 R1-Omni 模型。R1-Omni 的一大亮点在于其透明性(推理能力)。通过 RLVR 方法,音频信息和视频信息在模型中的作用变得更加清晰可见。

3 月 11 日消息,随着 DeepSeek R1 的推出,强化学习在大模型领域的潜力被进一步挖掘。Reinforcement Learning with Verifiable Reward(RLVR)方法的出现,为多模态任务提供了全新的优化思路,无论是几何推理、视觉计数,还是经典图像分类和物体检测任务,RLVR 都展现出了显著优于传统监督微调(SFT)的效果。

然而,现有研究多聚焦于 Image-Text 多模态任务,尚未涉足更复杂的全模态场景。基于此,通义实验室团队探索了 RLVR 与视频全模态模型的结合,于今日宣布开源 R1-Omni 模型

R1-Omni 的一大亮点在于其透明性(推理能力)。通过 RLVR 方法,音频信息和视频信息在模型中的作用变得更加清晰可见。

比如,在情绪识别任务中,R1-Omni 能够明确展示哪些模态信息对特定情绪的判断起到了关键作用

为了验证 R1-Omni 的性能,通义实验室团队将其与原始的 HumanOmni-0.5B 模型、冷启动阶段的模型以及在 MAFW 和 DFEW 数据集上有监督微调的模型进行了对比。

实验结果显示,在同分布测试集(DFEW 和 MAFW)上,R1-Omni 相较于原始基线模型平均提升超过 35%,相较于 SFT 模型在 UAR 上的提升高达 10% 以上。在不同分布测试集(RAVDESS)上,R1-Omni 同样展现了卓越的泛化能力,WAR 和 UAR 均提升超过 13%。这些结果充分证明了 RLVR 在提升推理能力和泛化性能上的显著优势。

IT之家附 R1-Omni 开源地址:

责任编辑:庞桂玉 来源: IT之家
相关推荐

2025-03-11 13:47:10

2025-01-08 08:21:16

2024-08-30 15:19:22

2024-05-21 07:54:30

视频多模态语义检索算法

2024-03-25 12:30:18

AI训练开源

2025-02-18 09:10:00

2023-12-01 13:36:01

阿里云通义千问

2024-12-18 18:57:58

2024-11-13 09:39:13

2025-01-06 10:00:00

模型视觉生成

2024-10-25 14:30:00

模型AI

2024-01-22 13:59:00

模型训练

2020-05-01 12:40:21

神经网络AI游戏

2024-11-22 08:22:58

2025-03-04 17:27:05

2023-09-28 08:23:18

AI模型

2023-06-06 14:09:32

模型开源

2024-04-02 09:17:50

AI数据开源

2023-09-29 22:31:25

高斯混合模型机器学习
点赞
收藏

51CTO技术栈公众号