记者从中国科学技术大学获悉,该校九韶团队研究了模式崩溃发生的根本机理,基于数学理论分析提出了一种新方法定量检测和解决生成对抗网络(GANs)中的模式崩溃问题。该成果日前发表于国际学术期刊《IEEE模式分析与机器智能汇刊》。
生成对抗网络(GAN),是广泛使用的生成模型。其通过学习真实样本的分布,被用于合成复杂逼真的数据。然而,模式崩溃是生成对抗网络面临的一个重要挑战,即生成样本的多样性明显低于真实样本的多样性,这对进一步应用造成了困扰。由于生成对抗网络及其训练过程的复杂性,涉及多种可能的因素和环节,一直无法明确究竟是何种机理导致模式崩溃的发生。
经过深入研究,研究团队发现了生成对抗网络产生模式崩溃的根本机理。理论分析表明,当真实数据存在多个模式时,生成器损失函数关于其参数是非凸的。具体而言,导致生成分布仅覆盖真实分布的部分模式的参数,是生成器损失函数的局部极小点。
为了解决模式崩溃问题,研究团队提出了一个统一的框架,称为动态生成对抗网络(DynGAN)。该方法通过对可观察的判别器输出设置相应阈值,检测出生成器无法生成的样本,即崩溃样。根据这些崩溃样本划分训练集,然后在这些划分上训练动态条件的生成模型。
这项研究结果理论确保了所提新方法DynGAN的渐进式模式覆盖。合成数据集和现实世界数据集的实验表明,DynGAN在克服模式崩溃方面超过了现有GAN及其变体。研究人员表示,该研究工作不仅推进了生成对抗网络的理论研究,也为完善生成模型的模式覆盖提供了重要的实现手段。
(中国科大供图)
记者从中国科学技术大学获悉,该校九韶团队研究了模式崩溃发生的根本机理,基于数学理论分析提出了一种新方法定量检测和解决生成对抗网络(GANs)中的模式崩溃问题。该成果日前发表于国际学术期刊《IEEE模式分析与机器智能汇刊》。
生成对抗网络(GAN),是广泛使用的生成模型。其通过学习真实样本的分布,被用于合成复杂逼真的数据。然而,模式崩溃是生成对抗网络面临的一个重要挑战,即生成样本的多样性明显低于真实样本的多样性,这对进一步应用造成了困扰。由于生成对抗网络及其训练过程的复杂性,涉及多种可能的因素和环节,一直无法明确究竟是何种机理导致模式崩溃的发生。
经过深入研究,研究团队发现了生成对抗网络产生模式崩溃的根本机理。理论分析表明,当真实数据存在多个模式时,生成器损失函数关于其参数是非凸的。具体而言,导致生成分布仅覆盖真实分布的部分模式的参数,是生成器损失函数的局部极小点。
为了解决模式崩溃问题,研究团队提出了一个统一的框架,称为动态生成对抗网络(DynGAN)。该方法通过对可观察的判别器输出设置相应阈值,检测出生成器无法生成的样本,即崩溃样。根据这些崩溃样本划分训练集,然后在这些划分上训练动态条件的生成模型。
这项研究结果理论确保了所提新方法DynGAN的渐进式模式覆盖。合成数据集和现实世界数据集的实验表明,DynGAN在克服模式崩溃方面超过了现有GAN及其变体。研究人员表示,该研究工作不仅推进了生成对抗网络的理论研究,也为完善生成模型的模式覆盖提供了重要的实现手段。
(中国科大供图)
监管AI,欧盟出手,美国掉队? 上个世纪,科幻小说家艾萨克・阿西莫夫提出了“机器人三定律”,带来了对“机器人”与“规则”的美好幻想。 如今,伴随着ChatGPT、Sora的爆火,人工智能(AI)领域的激烈竞争,对该领域的监管 据英国《金融时报》网站3月13日报道,科学家们已经在利用人工智能(AI)阐释人体所谓的“黑暗基因组”,并开发一种可能很强大的癌症检测、监测和治疗新方法。美国约翰斯·霍普金斯大学的研 美国《发现》杂志网站2月7日刊登题为《200万年前,我们的人类祖先开始从水里捞鱼》的文章,作者是科迪·科蒂尔,内容编译如下:捕鱼可能是一种占许多国家蛋白质消费极大比例的全球性行为,但捕 据埃菲社报道,多发性骨髓瘤是成年人中继淋巴瘤之后第二常见的血液肿瘤。最近,西班牙的一个科研团队开发出了一种新的免疫疗法来对抗它。实验室实验表明,这种新疗法比目前优先使用的免疫疗法更有 南方财经全媒体记者马嘉璐 研究员仇雯 广州报道凭借一纸证书,就能获批100万、500万、甚至千万元贷款……数据要素链接金融市场开辟的新财路,正吸引着越来越多的入局者。南方财经全媒 那些在吃完一顿饱饭后不久就在冰箱里翻找零食的人,可能不是胃口好,而是因为寻找食物的神经元过度活跃的缘故。美国加州大学洛杉矶分校心理学家在老鼠大脑中发现了一个回路:即使它们不饿,也会让它 。本文链接:我学者解决生成对抗网络的模式崩溃问题http://www.sushuapos.com/show-2-3284-0.html
声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。
上一篇: 美国月球着陆器翻了,日本着陆器醒了