2D人体姿态估计是一项面向人体对象的基础视觉感知任务,旨在通过图像或视频精准定位人体姿态关键点位置,为理解人体运动和行为提供结构化数据。然而,现有方法在复杂场景下难以兼顾空间定位准确性与时间运动连贯性,尤其在视频中如何保持姿态估计的稳定性是一大挑战。同时,在获得2D人体关键点基础上,3D人体姿态估计致力于恢复人体关键点在三维空间中的位置,这一技术在虚拟现实、运动分析、人机交互等领域具有广泛应用。然而,这一过程面临“深度模糊”等固有挑战,即同一组2D关键点或对应多个合理的3D姿态。目前,基于扩散生成式框架的方法一定程度上缓解了这一问题,但由于模型缺乏对人体外观轮廓、语义理解等方面的认识,导致在预测中生成不合理的姿态,这一问题在遮挡严重或人群密集等复杂场景下较为突出。
近日,中国科学院上海微系统与信息技术研究所研究团队,在视觉人体姿态估计研究中取得进展。团队围绕2D及3D人体姿态估计两项任务,分别提出了创新方法。相关研究成果发表在IEEE Transactions on Circuits and Systems for Video Technology和IEEE Transactions on Multimedia上。
团队提出了高效的层次化对比一致性约束(HICCON),其可灵活嵌入多种姿态估计模型中,提升2D姿态估计性能。该方法在空间域上捕捉建模关键点与身体部件之间的关系,在时间域上捕捉帧与片段之间的运动模式。同时,HICCON可分别从空间与时间两个维度,提取关键点级、部件关系级、实例级及片段级等不同粒度多层次特征,并施加对比学习约束,增强模型对复杂姿态的判别能力。实验表明,在主流视频姿态数据集PoseTrack上,结合HICCON的多个模型均超过基准性能,且该方法表明了对比学习机制在人体视觉表征建模中的应用潜力和重要作用。
团队进一步提出了MMCPose模型,将多模态人体先验作为条件信号,引导扩散过程生成合理且准确的3D姿态。该模型融合了人体关节拓扑关系、基于自然语言的部件描述、提升姿态关注度的人体掩码三类结构化信息。为更好地发挥多模态条件的引导作用,团队设计了多模态表征—姿态交互机制,实现引导信号与生成过程之间的深度交互,从而提升模型在姿态建模上的感知能力与生成质量。在Human3.6M和MPI-INF-3DHP等基准集上的测试表明,MMCPose取得了领先性能,特别是在Human3.6M上,将平均误差降至30.8毫米。该方法说明,多模态引导及人体先验知识对解决三维人体视觉感知任务具有关键作用。
研究工作得到科技创新2030重大项目、上海市自然科学基金等的支持。
在Human3.6M数据集上,MMCPose达到了最优性能
近日,教育部联合国家卫生健康委、国家疾控局印发《关于切实抓牢幼儿园和小学近视防控关键阶段防控工作的通知》(以下简称《通知》),要求前移防控关口,抓牢幼儿园和小学近视防控关键阶段防控工作,有效减少幼儿和小学生近 《中华人民共和国学前教育法》以“推进学前教育普及普惠安全优质发展”为主线,深刻、全面、具体阐述了落实政府发展学前教育责任的法律规定和实现路径,对于加快学前教育高质量发展、实现现代化 中国教育报-中国教育新闻网讯(记者 焦以璇)近日,由大中小学德育一体化国家教材建设重点研究基地主办的“大中小学思想政治教育一体化:教材建设与发展研究学术研讨会”在北京师范大学举行。北京师 中国教育报-中国教育新闻网讯(记者 董鲁皖龙 通讯员 于泓超)近日,湖州职院建筑工程学院收到喜讯,该院4位学生组成的市政数字化技术创新团队在2024年世界职业院校技能大赛总决赛争夺赛—高职组土 数学能力是评估个人综合素养的关键维度之一,而小学数学教育具有为学生奠定坚实数学基础的重要作用。小学数学教育要进一步满足学生发展需要,必须打破传统教学的桎梏,让数学学习变得生动有趣,以营 党的二十届三中全会通过的《中共中央关于进一步全面深化改革、推进中国式现代化的决定》中提出:“制定民族团结进步促进法,健全铸牢中华民族共同体意识制度机制,增强中华民族凝聚力。”西安市莲 。本文链接:视觉人体姿态估计研究取得进展http://www.sushuapos.com/show-12-2087-0.html
声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。
上一篇: 快速射电暴高频观测研究获进展
下一篇: 硫酸盐深紫外双折射晶体研究取得进展