近日，中国科学院软件研究所提出一种以泛化前门准则为基础的干预多模态表示学习方法（IMML），可提升多模态模型在模态不平衡场景下的性能。
在多模态任务中，不同模态对预测结果的贡献往往不平衡，可划分为主模态和辅助模态。现有方法普遍在训练过程中增强辅助模态，以缓解模态贡献不平衡的问题。而此类方法缺乏因果解释，且判别性知识挖掘能力有限。
针对上述问题，研究团队从结构因果模型角度建模多模态表示学习，提出在考虑辅助模态，并捕捉到主模态中判别性知识与真实标签间的因果关系。基于此，团队设计了β—泛化前门校正模块，通过构造非配对模态组合、随机控制不同模态的比例贡献，削弱辅助模态中潜在的噪声干扰。
IMML包含模态判别性知识探索模块，通过构建模态判别性知识网络，为特征维度分配权重，以挖掘对任务真正有用的判别性知识。
团队进一步在多模态数据集上评估IMML的性能。实验结果表明，引入IMML后，在多个评估设置下基准多模态学习方法的性能得到提升。上述结果验证了IMML在提升多模态表征判别能力与噪声鲁棒性方面的有效性。
相关论文被IEEE Transactions on Multimedia录用。
论文链接
方法架构图
11月2~3日，2024年中国人类学学会学术年会暨上海人类学学会年会在复旦大学江湾校区举办。年会以“中国式现代化与人类学研 复旦大学基础医学院、脑科学研究院、脑功能与脑疾病全国重点实验室教授刘星、马兰合作，发现小鼠脑内基底外侧杏仁核（BLA）神 为深入学习贯彻全国教育大会精神，大力弘扬教育家精神，推动粤港澳大湾区教师队伍高质量发展，11月9日，教育部教育家精神宣讲（港澳站）暨粤港澳大湾区师德师风建设学术研讨会在澳门举行。 开幕式上，教育部教师工作司有关 新华网北京11月14日电 今日，教育部举办新闻发布会， 教育部职业教育与成人教育司司长彭斌柏介绍了我国职业教育改革发展的总体情况。彭斌柏介绍，党的十八大以来，在以习近平同志为核心的党中央坚强 新华社利马11月14日电 当地时间11月14日，在赴利马对秘鲁进行国事访问并出席亚太经合组织第三十一次领导人非正式会议之际，国家主席习近平在《秘鲁人报》发表题为《让中秘友好之船扬帆远航》的 ◎摘 要 加大对学生的认知规律和接受特点的研究，发挥学生主体性作用，对推动思政课建设内涵式发展，不断提高思政课的针对性和吸引力具有重要意义。思政课的传统教学方式在大学生心理接受方面存 。本文链接：研究提出干预多模态表示学习方法http://www.sushuapos.com/show-12-4138-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。