arXiv cs.AI· Robert Moseley, Md Kaykobad Reza, Ameya Patil, Edward Ayrapetian, Salman Asif·· 9 小时前AI 评分43
MSP:无需成对跨模态数据训练多模态 LLM 的模态自博弈框架
MSP: Modality Self-Play for Training Multimodal LLMs Without Paired Cross-Modal Data
AI 导读
MSP(Modality Self-Play,模态自博弈)是一种不依赖成对跨模态数据的多模态 LLM 训练框架,用描述未见模态的代理文本作为语义桥梁。模型对未见模态生成代理描述,经编码后通过学到的 bridge 与已观测模态对齐,从而在无需真实成对非文本监督的情况下实现跨模态交互。
来源:arXiv cs.AI · arxiv.org