网友：通向Sora的更便宜的潜在途径
北大和字节联手搞了个大的：
提出图像生成新范式，从预测下一个token变成预测下一级分辨率，效果超越Sora核心组件Diffusion Transformer（DiT）。
并且代码开源，短短几天已经揽下1.3k标星，登上GitHub趋势榜。
具体是个什么效果？
实验数据上，这个名为VAR（Visual Autoregressive Modeling）的新方法不仅图像生成质量超过DiT等传统SOTA，推理速度也提高了20+倍。
这也是自回归模型首次在图像生成领域击败DiT。
直观感受上，话不多说，直接看图：
值得一提的是，研究人员还在VAR上，观察到了大语言模型同款的Scaling Laws和零样本任务泛化。
论文代码上线，已经引发不少专业讨论。
有网友表示有被惊到，顿时觉得其他扩散架构的论文有点索然无味。
还有人认为，这是一种通向Sora的更便宜的潜在途径，计算成本可降低一个乃至多个数量级。
预测下一级分辨率
简单来说，VAR的核心创新，就是用预测下一级分辨率，替代了预测下一个token的传统自回归方法。
VAR的训练分为两个阶段。
第一阶段，VAR引入了多尺度离散表示，使用VQ-VAE将连续图像编码为一系列离散的token map，每个token map有不同的分辨率。
第二阶段，主要是对VAR Transformer的训练，通过预测更高分辨率的图像，来进一步优化模型。具体过程是这样的：
从最低分辨率（比如1×1）的token map开始，预测下一级分辨率（比如4×4）的完整token map，并以此类推，直到生成最高分辨率的token map（比如256×256）。在预测每个尺度的token map时，基于Transformer，模型会考虑之前所有步骤生成的映射信息。
在第二阶段中，之前训练好的VQ-VAE模型发挥了重要作用：为VAR提供了“参考答案”。这能帮助VAR更准确地学习和预测图像。
另外，在每个尺度内，VAR是并行地预测所有位置的token，而不是线性逐个预测，这大大提高了生成效率。
研究人员指出，采用这样的方法，VAR更符合人类视觉感知从整体到局部的特点，并能保留图像的空间局部性。
符合Scaling Laws
从实验结果来看，在图像生成质量、推理速度、数据效率和可扩展性等方面，VAR都超过了DiT。
在ImageNet 256×256上，VAR将FID从18.65降到了1.8，IS从80.4提高到356.4，显著改善了自回归模型基线。
注：FID越低，说明生成图像的质量和多样性越接近真实图像。
推理速度方面，相较于传统自回归模型，VAR实现了约20倍的效率提升。而DiT消耗的时间是VAR的45倍。
数据效率方面，VAR只需要350个训练周期（epoch），远少于DiT-XL/2的1400个。
可扩展性方面，研究人员观察到VAR有类似于大语言模型的Scaling Laws：随着模型尺寸和计算资源的增加，模型性能持续提升。
另外，在图像修补、扩展和编辑等下游任务的零样本评估中，VAR表现出了出色的泛化能力。
目前，在GitHub仓库中，推理示例、demo、模型权重和训练代码均已上线。
不过，在更多讨论之中，也有网友提出了一些问题：
北大字节联合出品
VAR的作者们，来自字节跳动AI Lab和北大王立威团队。
一作田柯宇，本科毕业自北航，目前是北大CS研究生，师从北京大学信息科学技术学院教授王立威。2021年开始在字节AI Lab实习。
论文通讯作者，是字节跳动AI Lab研究员袁泽寰和王立威。
袁泽寰2017年博士毕业于南京大学，目前专注于计算机视觉和机器学习研究。王立威从事机器学习研究20余年，是首届“优青”获得者。
该项目的项目主管，是字节跳动广告生成AI研究主管Yi jiang。他硕士毕业于浙江大学，目前的研究重点是视觉基础模型、深度生成模型和大语言模型。
参考链接：
[1]论文：https://arxiv.org/abs/2404.02905
[2]项目主页：https://github.com/FoundationVision/VAR
— 完 —
肺癌是全球死亡率最高的恶性肿瘤。其中非小细胞肺癌（NSCLC）占比达到85%。表皮生长因子受体（EGFR）是NSCLC最常见的驱动突变基因。现在，一个国际科学家团队首次证明，EGFR的一个关键界面可能会成为更 3月19日，记者从香港科技大学获悉，该校以人工智能生成式工具设计出10位“AI讲师”， 这些“AI讲师”来自世界各地，属不同民族及文化背景。该校希望通过创新教学模式，激发学生学习热情，提升课堂参与度 21世纪经济报道记者 蔡姝越 上海报道舆论高度关注的游族网络（002174.SZ）投毒案，幕后主使许垚如何量刑有了最新进展。3月22日，上海市第一中级人民法院（以下简称上海一中院）宣判被告人许垚故 记者3月21日从核工业北京地质研究院（以下简称核地研院）获悉，该院自1959年成立以来，在天然铀保障、高放废物地质处置、核遥感技术与应用、分析测试等领域科技攻关，以及重点工程建设、国际合作交流 记者从近日举办的新疆筹建融合算力中心研讨会上获悉，新疆将构建具备国家级算力水平的涵盖超算、智算的融合算力中心。到2024年底，建成超算算力（FP64）不低于200P Flops、智算算力（FP16）不低于400P F “AI热潮”有人欢喜又有人忧：新兴市场遭资金外流！ 财联社3月20日讯(编辑 黄君芝)巴西亿万富翁、巴西金融公司Banco BTG Pactual SA创始人Andre Esteves表示，人工智能(AI)股票持续上涨导致发展中国家资本市场资金 。本文链接：北大字节开辟图像生成新范式！超越Sora核心组件DiT，不再预测下一个tokenhttp://www.sushuapos.com/show-2-4870-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
上一篇： 游戏周报：网易暴雪破镜重圆；本年度第二批进口版号14枚下发
下一篇： 人在B站，要被AI公司们挤爆了