人形机器人在学习真实的嘴唇动作。
图片来源:美国哥伦比亚大学
科技日报北京1月19日电(记者张梦然)美国哥伦比亚大学科学家设计出一种新型框架,使人形机器人面部能够根据音频生成逼真的唇部动作,实现与人类语音的同步。该技术还展示了较强的泛化能力,可推广至包括法语、汉语和阿拉伯语在内的多种语言,即使这些语言并未出现在训练数据中。研究团队在发表于最新一期《科学·机器人学》上的论文中指出,这一进展是朝着构建不仅能执行功能,还能进行人性化交流的机器人迈出的重要一步。
在对话中,如果机器人的唇部动作与声音不匹配,会显得呆板且不自然。然而,现有机器人普遍缺乏执行精细口部动作的灵活性,能实时将语音转化为自然唇部运动指令的技术也寥寥无几。
研究团队在2024年曾发表研究,描述了一种人形机器人面部可以预测人类的微笑并同时再现该表情。在此基础上,为更加精细化唇部与声音的匹配,团队设计了一套学习流程:首先采集机器人唇部运动的视觉数据,用于训练模型并生成运动参考点;随后通过一个名为“面部动作转换器”的模块产生运动指令,使机器人的唇部能够流畅配合不同词语。他们还专门研制了一种人形机器人面部结构,采用柔软硅胶皮肤,配合磁性连接器,具备10个自由度,可驱动复杂的唇部运动。其唇部结构能形成覆盖24个辅音和16个元音的各种口型。
在验证过程中,团队借助ChatGPT生成测试语句,并合成了具有理想唇部动作的视频作为对比基准。结果表明,该方法在5种比较方案中表现最优,其生成的唇部动作与理想视频差异最小。此外,该框架还能为11种不同语音结构的非英语语言生成自然的唇部同步效果。
研究团队推测,这类人形机器人在教育、老年护理等领域具有应用潜力。但他们也强调,未来的设计工作需格外谨慎,以防止技术被滥用。
12月13-14日,第15届中美绿色能源论坛在南京召开。论坛由中国电机工程学会、美中绿色能源促进会主办,以“碳中和实现路径与 2024年度国家自然科学基金委员会与韩国国家研究基金会合作交流与双边研讨会项目指南 根据国家自然科学基金委员会(NS 近日发表于《睡眠医学》的一项研究表明,“夜猫子”动脉钙化的概率几乎是“早起鸟”的两倍。在心血管疾病的早期阶段, 近日发表于《睡眠医学》的一项研究表明,“夜猫子”动脉钙化的概率几乎是“早起鸟”的两倍。在心血管疾病的早期阶段, 关于重点研发计划项目重大事项调整的公示 根据《湖南省创新型省份建设专项资金管理办法》(湘财教〔2023〕3号)和《 关于发布2023年度江西省社会科技奖备案目录的通知 各有关单位: 社会力量设奖是我省科学技术奖励工作的组成部分。为杜绝 。本文链接:人形机器人可完成多语言逼真唇形动作http://www.sushuapos.com/show-11-30867-0.html
声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。
上一篇: 为什么现在吃方便面的人越来越少了?
下一篇: 新型厚电极提升电池输出功率约75%