网友：通向Sora的更便宜的潜在途径
北大和字节联手搞了个大的：
提出图像生成新范式，从预测下一个token变成预测下一级分辨率，效果超越Sora核心组件Diffusion Transformer（DiT）。
并且代码开源，短短几天已经揽下1.3k标星，登上GitHub趋势榜。
具体是个什么效果？
实验数据上，这个名为VAR（Visual Autoregressive Modeling）的新方法不仅图像生成质量超过DiT等传统SOTA，推理速度也提高了20+倍。
这也是自回归模型首次在图像生成领域击败DiT。
直观感受上，话不多说，直接看图：
值得一提的是，研究人员还在VAR上，观察到了大语言模型同款的Scaling Laws和零样本任务泛化。
论文代码上线，已经引发不少专业讨论。
有网友表示有被惊到，顿时觉得其他扩散架构的论文有点索然无味。
还有人认为，这是一种通向Sora的更便宜的潜在途径，计算成本可降低一个乃至多个数量级。
预测下一级分辨率
简单来说，VAR的核心创新，就是用预测下一级分辨率，替代了预测下一个token的传统自回归方法。
VAR的训练分为两个阶段。
第一阶段，VAR引入了多尺度离散表示，使用VQ-VAE将连续图像编码为一系列离散的token map，每个token map有不同的分辨率。
第二阶段，主要是对VAR Transformer的训练，通过预测更高分辨率的图像，来进一步优化模型。具体过程是这样的：
从最低分辨率（比如1×1）的token map开始，预测下一级分辨率（比如4×4）的完整token map，并以此类推，直到生成最高分辨率的token map（比如256×256）。在预测每个尺度的token map时，基于Transformer，模型会考虑之前所有步骤生成的映射信息。
在第二阶段中，之前训练好的VQ-VAE模型发挥了重要作用：为VAR提供了“参考答案”。这能帮助VAR更准确地学习和预测图像。
另外，在每个尺度内，VAR是并行地预测所有位置的token，而不是线性逐个预测，这大大提高了生成效率。
研究人员指出，采用这样的方法，VAR更符合人类视觉感知从整体到局部的特点，并能保留图像的空间局部性。
符合Scaling Laws
从实验结果来看，在图像生成质量、推理速度、数据效率和可扩展性等方面，VAR都超过了DiT。
在ImageNet 256×256上，VAR将FID从18.65降到了1.8，IS从80.4提高到356.4，显著改善了自回归模型基线。
注：FID越低，说明生成图像的质量和多样性越接近真实图像。
推理速度方面，相较于传统自回归模型，VAR实现了约20倍的效率提升。而DiT消耗的时间是VAR的45倍。
数据效率方面，VAR只需要350个训练周期（epoch），远少于DiT-XL/2的1400个。
可扩展性方面，研究人员观察到VAR有类似于大语言模型的Scaling Laws：随着模型尺寸和计算资源的增加，模型性能持续提升。
另外，在图像修补、扩展和编辑等下游任务的零样本评估中，VAR表现出了出色的泛化能力。
目前，在GitHub仓库中，推理示例、demo、模型权重和训练代码均已上线。
不过，在更多讨论之中，也有网友提出了一些问题：
北大字节联合出品
VAR的作者们，来自字节跳动AI Lab和北大王立威团队。
一作田柯宇，本科毕业自北航，目前是北大CS研究生，师从北京大学信息科学技术学院教授王立威。2021年开始在字节AI Lab实习。
论文通讯作者，是字节跳动AI Lab研究员袁泽寰和王立威。
袁泽寰2017年博士毕业于南京大学，目前专注于计算机视觉和机器学习研究。王立威从事机器学习研究20余年，是首届“优青”获得者。
该项目的项目主管，是字节跳动广告生成AI研究主管Yi jiang。他硕士毕业于浙江大学，目前的研究重点是视觉基础模型、深度生成模型和大语言模型。
参考链接：
[1]论文：https://arxiv.org/abs/2404.02905
[2]项目主页：https://github.com/FoundationVision/VAR
— 完 —
自2023年以来，人工智能的“触角”已延伸到生活的方方面面。其中，“人工智能+情感”的赛道正悄然崛起。目前，国内外已经出现了多款较为成熟的AI伴侣应用。不少网友在社交媒体上晒出了与自己“AI 英伟达的GPU又升级了。3月19日，英伟达CEO黄仁勋发布了最新的B200算力芯片GPU，FP8精度下的训练性能是上一代的2.5倍，FP4精度下的推理性能更是达到了上一代的5倍。然而，这场技术狂欢背后，却令AI领域 3月24日消息，今日一则#男孩捡17岁女生电话归还反被讹200#的话题登上微博热搜，引发网民热议。据报道，3月23日，山西长治。郭女士父亲捡到一台iPhone电话，归还时机主反称电话后壳里的200元现金不见了。郭 3月25日消息，国内一场经济高峰论坛上，iPhone总裁蒂姆·库克再次成为焦点。然而，引起人们关注的并非库克的讲话内容，而是一张自拍照片。在论坛现场，一位观众与库克自拍合影，但引人注目的是她手中 3月21日，人工智能大模型赋能企业科技创新研讨会在广州召开。中国知网在会议期间发布了专利大数据智能应用产品“AI Pat+”。据中国知网相关负责人介绍，中国知网在人工智能大模型领域的深入研发 近日，民航华东地区管理局向峰飞科技公司颁发V2000CG无人驾驶航空器系统型号合格证，这也是中国民航系统颁发的首个无人驾驶吨级电动垂直起降航空器型号合格证。航空器型号合格证取证是保障航空 。本文链接：北大字节开辟图像生成新范式！超越Sora核心组件DiT，不再预测下一个tokenhttp://www.sushuapos.com/show-2-4870-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
上一篇： 游戏周报：网易暴雪破镜重圆；本年度第二批进口版号14枚下发
下一篇： 人在B站，要被AI公司们挤爆了