记者从中国科学技术大学获悉,该校九韶团队研究了模式崩溃发生的根本机理,基于数学理论分析提出了一种新方法定量检测和解决生成对抗网络(GANs)中的模式崩溃问题。该成果日前发表于国际学术期刊《IEEE模式分析与机器智能汇刊》。
生成对抗网络(GAN),是广泛使用的生成模型。其通过学习真实样本的分布,被用于合成复杂逼真的数据。然而,模式崩溃是生成对抗网络面临的一个重要挑战,即生成样本的多样性明显低于真实样本的多样性,这对进一步应用造成了困扰。由于生成对抗网络及其训练过程的复杂性,涉及多种可能的因素和环节,一直无法明确究竟是何种机理导致模式崩溃的发生。
经过深入研究,研究团队发现了生成对抗网络产生模式崩溃的根本机理。理论分析表明,当真实数据存在多个模式时,生成器损失函数关于其参数是非凸的。具体而言,导致生成分布仅覆盖真实分布的部分模式的参数,是生成器损失函数的局部极小点。
为了解决模式崩溃问题,研究团队提出了一个统一的框架,称为动态生成对抗网络(DynGAN)。该方法通过对可观察的判别器输出设置相应阈值,检测出生成器无法生成的样本,即崩溃样。根据这些崩溃样本划分训练集,然后在这些划分上训练动态条件的生成模型。
这项研究结果理论确保了所提新方法DynGAN的渐进式模式覆盖。合成数据集和现实世界数据集的实验表明,DynGAN在克服模式崩溃方面超过了现有GAN及其变体。研究人员表示,该研究工作不仅推进了生成对抗网络的理论研究,也为完善生成模型的模式覆盖提供了重要的实现手段。
(中国科大供图)
记者从中国科学技术大学获悉,该校九韶团队研究了模式崩溃发生的根本机理,基于数学理论分析提出了一种新方法定量检测和解决生成对抗网络(GANs)中的模式崩溃问题。该成果日前发表于国际学术期刊《IEEE模式分析与机器智能汇刊》。
生成对抗网络(GAN),是广泛使用的生成模型。其通过学习真实样本的分布,被用于合成复杂逼真的数据。然而,模式崩溃是生成对抗网络面临的一个重要挑战,即生成样本的多样性明显低于真实样本的多样性,这对进一步应用造成了困扰。由于生成对抗网络及其训练过程的复杂性,涉及多种可能的因素和环节,一直无法明确究竟是何种机理导致模式崩溃的发生。
经过深入研究,研究团队发现了生成对抗网络产生模式崩溃的根本机理。理论分析表明,当真实数据存在多个模式时,生成器损失函数关于其参数是非凸的。具体而言,导致生成分布仅覆盖真实分布的部分模式的参数,是生成器损失函数的局部极小点。
为了解决模式崩溃问题,研究团队提出了一个统一的框架,称为动态生成对抗网络(DynGAN)。该方法通过对可观察的判别器输出设置相应阈值,检测出生成器无法生成的样本,即崩溃样。根据这些崩溃样本划分训练集,然后在这些划分上训练动态条件的生成模型。
这项研究结果理论确保了所提新方法DynGAN的渐进式模式覆盖。合成数据集和现实世界数据集的实验表明,DynGAN在克服模式崩溃方面超过了现有GAN及其变体。研究人员表示,该研究工作不仅推进了生成对抗网络的理论研究,也为完善生成模型的模式覆盖提供了重要的实现手段。
(中国科大供图)
马斯克开源3140亿参数的Grok,大模型争相开源所为何求? 作者:刘晓洁 特斯拉CEO埃隆・马斯克(Elon Musk)给大模型领域投下一枚重磅炸弹。 北京时间3月18日凌晨,马斯克旗下大模型公司 xAI 在官网宣布开源 3140 21世纪经济报道记者雷晨 北京报道随着人工智能技术的飞速发展,Kimi概念股成为资本市场的新宠。3月21日,受Kimi智能助手技术突破的催化,相关概念股集体走高,市场对AI板块的热情再次被点燃 英伟达AI风暴席卷医疗行业 “AI制药”是风口还是泡沫? 季媛媛 全球医疗健康行业正刮起最强AI风暴。 当地时间3月18日,全球瞩目的顶级AI盛会――英伟达2024年GPU技术大会(NVIDIA GTC 2024)正式开幕。据相关 记者3月21日从核工业北京地质研究院(以下简称核地研院)获悉,该院自1959年成立以来,在天然铀保障、高放废物地质处置、核遥感技术与应用、分析测试等领域科技攻关,以及重点工程建设、国际合作交流 记者3月21日获悉,商汤科技与遥感数据平台吉林一号网、四维地球、星图地球等展开合作,此举标志着“SenseEarth智能遥感云”平台数据源全面升级,将为行业用户提供更完善、精准的一体化的高分辨率 21世纪经济报道记者雷晨 北京报道近日,国内AI领域的明星产品——Kimi智能助手,因流量激增遭遇了短暂的服务中断。月之暗面随后发布公告,对此次服务中断事件进行了说明,并采取了一系列紧 。本文链接:我学者解决生成对抗网络的模式崩溃问题http://www.sushuapos.com/show-2-3284-0.html
声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。
上一篇: 美国月球着陆器翻了,日本着陆器醒了