设置
  • 日夜间
    随系统
    浅色
    深色
  • 主题色

研究人员提出面向多模态推荐的解耦与蒸馏动态集成框架

发布时间: 来源: 中国科学院

近日,中国科学院软件研究所团队聚焦多模态推荐中模态信息差异化推荐价值被削弱的问题,针对联合学习与特征融合策略,引入梯度提升机制,提出了解耦与蒸馏动态集成框架,提升了模态共享信息和特有信息的样本级判别能力。Nh8速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

不同模态信息的差异化推荐价值是指各类型信息在用户之间表现出不同的贡献程度。联合优化的集成策略要求各模态同时拟合全部样本,导致模型倾向于学习整体平均表现,难以保持不同信息在特定样本上的优势。Nh8速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

针对上述问题,研究团队提出了由特征成分解耦模块和知识蒸馏增强的梯度提升模块组成的D3ER框架。特征成分解耦模块将多模态表示拆分为共享成分与特有成分,通过对比学习和分布对齐提取跨模态共享信息,并利用分离约束保留视觉、文本各自独有的任务相关语义。在此基础上,D3ER分别建立共享信息、视觉特有信息和文本特有信息对应的推荐模型,并通过梯度提升进行交替训练,使各模型重点学习此前尚未充分拟合的样本,发挥不同信息成分的优势,缓解联合训练造成的预测偏好弱化。Nh8速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

针对传统梯度提升需要持续保存历史模型的问题,D3ER进一步引入知识蒸馏,将累积知识压缩至固定规模模型中,并结合全局校正约束提升训练稳定性,在保持模型互补性的基础上,兼顾存储与计算效率。Nh8速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

研究团队将D3ER分别接入MGCN、DiffMM和PGL三种基座模型,在Amazon三个交互稀疏度均超过 99.8%的多模态推荐数据集进行对比实验,验证其对不同推荐架构的适配能力。结果显示,D3ER在三个数据集和多项评价指标上均稳定提升。消融实验表明,分别移除特征解耦、梯度提升与蒸馏机制后,模型性能均出现下降,其中移除全局校正约束的影响最为明显。Nh8速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

相关论文被多媒体领域国际学术会议ACM MM 2026接收。Nh8速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

Nh8速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

D3ER整体框架Nh8速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  本报北京11月5日讯(记者 林焕新)受国务院委托,今天,教育部党组书记、部长怀进鹏向全国人大常委会报告建设中国特色、世界一流的大学和优势学科(以下简称“双一流”建设)工作情况。报告指出,教育部、财政部、国家发展改革   当地时间10月29日至30日,二十国集团(G20)教育部长会议在巴西福塔莱萨召开。会议围绕数字教育平台和课程资源建设、教育工作者能力建设、学校—社区联动倡议等议题进行讨论。教育部副部长陈杰出席会议并发言。  陈 “我要做三个香包,送给爸爸、妈妈和外婆!”幼儿小花(化名)在家长义工的帮助下,将研磨好的香材放入布袋中,小小香包承载了亲子间浓厚的温情。走入广州市越秀区东方红幼儿园,一轮“明月”耀眼夺目,两只 中国教育报-中国教育新闻网讯(记者 程墨 通讯员 金美妍 柯铭锟 卫琼雨)冠军来了,真的来了!近日,国家前女子跳水运动员、奥运冠军刘蕙瑕分别走进湖北省大冶市茗山中学、中心小学、杨桥小学,开展了3 ◎摘 要 作为国家战略科技力量的重要组成部分,高水平研究型大学要以有组织科研推进科技体制改革,强化基础研究、科技成果转化应用;以学科交叉融合体系蓄力科技体制改革,加强学科交叉融合与突破 全国巾帼家政服务职业技能大赛4日在安徽省合肥市开幕,国务委员、全国妇联主席谌贻琴出席开幕式并宣布开幕。举办全国巾帼家政服务职业技能大赛是深入贯彻习近平总书记重要指示精神的具体举措, 。

本文链接:研究人员提出面向多模态推荐的解耦与蒸馏动态集成框架http://www.sushuapos.com/show-12-4454-0.html

声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇: 研究解析植物高效光合作用分子机制

下一篇: 大语言模型强化学习与推理可靠性研究获进展

热门资讯

推荐资讯

  • 日榜
  • 周榜
  • 月榜