·鉴伪技术开发需要跨学科合作，当前的鉴伪技术以软件算法为主，未来将走向软硬一体。
大模型兴起为深度伪造带来土壤，业界呼吁跨学科联合攻坚鉴伪技术。
在大模型时代，人工智能合成语音与真实语音之间的界限变得越发模糊，提升与之匹配的识别技术迫在眉睫。7月23日，主题为语音深度鉴伪识别的第九届信也科技杯全球人工智能算法大赛总决赛在上海举行，大赛鼓励参赛者运用深度学习和人工智能对抗技术，开发出能够准确识别虚假语音的模型。
深度伪造是一种利用深度学习和人工智能技术生成高度逼真的虚假内容的方法。大模型的兴起为深度伪造带来了土壤，只需输入提示词，AI系统就会输出图片、视频、音频，真假难辨。
以虚假语音为例，大模型能够生成多种虚假语音，这些虚假语音更真实、拟人，对话流畅，为虚假语音识别带来更大的挑战。“在一些高价值场景里，往往会发生AI生成语音欺诈。但是，目前语音鉴伪技术的发展却滞后于语音合成技术。”信也科技副总裁、大数据及AI负责人陈磊表示。
在决赛中，选手运用不同算法模型和训练思路识别虚假语音，包括运用基于大模型的识别技术、基于传统端到端的识别技术等。端到端的识别技术参数量较小，聚焦更垂直的问题；大模型的参数量较大，对数据要求较高，泛化能力强，对由大模型生成的假语音数据的识别率有明显提升。
信也科技算法科学家吕强介绍，初赛的语音数据集主要由传统端到端TTS（文字转语音）生成的假语音组成，识别难度较低，复赛数据集首次加入了基于最新大模型生成的假语音、翻录假语音以及由真假语言拼接而成的样本，覆盖英语、法语、西班牙语等五种以上语言，比赛难度增加。“复赛加入由大模型生成的假语音后比赛难度变大，也能说明最新大模型‘以假乱真’的能力变强了，这要求相应的深度伪造识别技术必须跟上脚步。”
“我们特意在比赛中加入了一些新场景数据，比如翻录假语音，也就是对生成的真语音经过多次录音再生成的数据，我们认为这是假语音。”吕强表示，针对这一场景，大赛利用真假语音切片、混合，构建对抗性数据，避免人工听语音、打标签干扰比赛，“只要有一个切片是假语音，那么整条都是假语音，这更接近真实场景，但识别挑战大。如果能解决翻录问题和真假对抗，将具有学术价值。”吕强也表示，文本、视频等多模态信息有助于语音鉴伪，大模型和多模态将是语音鉴伪的重要发展方向。
伪造技术与鉴伪技术“竞赛”，两者的发展呈螺旋式上升。陈磊表示，语音大模型的研究要把应用问题抽象提炼成学术问题，在解决学术问题后经过工程化，解决具体业务场景的真实需求。鉴伪技术开发需要跨学科合作，当前的鉴伪技术以软件算法为主，未来将走向软硬一体，借助硬件溯源声音采集，从硬件层面起到假语音风险防控作用。
“鉴伪没有终点，只要生成式道路还没有走到头，鉴伪就会一直往下走。”陈磊表示，赛后信也科技将开源数据，用于更广泛的学术研究，将选手的材料脱敏后共享学习。同时在业务场景中吸收前沿模型思想，构建AIGC鉴伪平台。他认为生成式AI要符合治理规则，人工智能治理需要监管层的顶层设计进行规范和引导，同时呼吁生态共建，以产业界共创防范系统性风险。
（原标题：大模型为深度伪造带来土壤，业界呼吁跨学科联合攻坚鉴伪技术）
“数据、模型和训练都是我们自己做的，我们将开放数据和模型，供每一位开发者免费使用。”12月15日，北京中科闻歌科技股份有 12月20日，由中国工程院院刊Engineering评选的 “2023全球十大工程成就”在京发布，期刊执行主编、中国工程院陈建峰院士发 12月16日，2023第二届可持续能源发展国际会议在北京开幕。此次会议以“零碳科技、创新未来”为主题，汇聚了来自全球多 近日，记者从北京大学获悉，为进一步服务国家战略，充分凝聚学科优势力量，加强临床医学学科顶层设计以及医教研统筹力量，推动世 今天（1月3日），位于河北保定的亚洲最大自然博物馆之一——中国古动物馆（保定自然博物馆）正式开馆。 △中国 关于对拟表扬2023年度甘肃省科技统计先进个人名单进行公示的通知 甘科计函〔2024〕15号 为树立典型、表扬先进， 。本文链接：大模型为深度伪造带来土壤，鉴伪技术需要跨学科合作http://www.sushuapos.com/show-11-8952-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
上一篇： 太平洋海底现神秘氧源
下一篇： 中国海洋大学医学院建设持续推进