3B Image Captioning小钢炮重磅来袭，性能比肩Qwen2.5-VL-72B

主要观点总结

本文介绍了Dense Image Captioning的最新技术CapRL，这是邢龙和董潇逸等人提出的一种基于强化学习的图像描述生成方法。CapRL成功将DeepSeek-R1的强化学习方法应用到开放视觉任务中，以实用性重新定义image captioning的reward。训练得到的CapRL-3B模型可以达到与Qwen2.5-VL-72B相当的captioning水平。文章还介绍了CapRL解决reward设计难点的方法，即通过LLM回答视觉多选题的准确率作为LVLM的客观奖励信号，同时提供了实验结果的详细数据。目前模型、数据集和代码已经开源。

关键观点总结

关键观点1: CapRL是一种基于强化学习的图像描述生成方法，首次将强化学习方法应用到image captioning任务中。

邢龙和董潇逸等人是该技术的共同第一作者，其中邢龙是中国科学技术大学博士生，董潇逸是香港中文大学MMLab的博士后研究员。

关键观点2: CapRL以实用性重新定义image captioning的reward，通过LLM回答视觉多选题的准确率作为LVLM的客观奖励信号，解决了主观图像描述任务中RLVR奖励函数缺乏客观性的问题。

这种方法避免了使用LVLM-as-a-Judge带来的reward hacking问题，显著提升了描述的质量。

关键观点3: CapRL在实验中取得了显著成果，与现有方法相比具有优势。使用CapRL-3B模型标注图片产生的CapRL-5M数据集在全部12项基准测试中均取得了显著性能提升。

此外，借助Prism Framework对描述质量进行直接评估，CapRL-3B的性能与72B模型相当，并在平均水平上超越基线模型8.4%。