若无远虑必有近忧?DAU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM
“预测下一个token”被认为是大模型的基本范式,一次预测多个tokens又会怎样?DAU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM
Meta AI法国团队推出“基于多token预测的更快&更好大模型”。DAU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

多token预测模型,在编程类任务上表现尤其突出。DAU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM
与单token预测相比,13B参数模型在HumanEval上多解决了12%的问题,在MBPP上多解决了17%。DAU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

小型算法推理任务上,多token预测也在分布外泛化方面带来了令人印象深刻的收益。DAU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

不过在自然语言任务上,多token预测方法并不能显著提高7B模型在数学选择题上的表现了。DAU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

另外一个好处是,即使batch size较大,使用4-token预测训练的模型,推理速度也可提高3倍。DAU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM
多token预测更适合编程
具体来说,团队设计了一种新的多token预测架构,通过n个独立的输出头并行预测n个未来token。DAU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM
使用大量文本数据进行模型训练,包括代码和自然语言数据集。DAU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM
再通过实验比较多token预测和单token预测在多个下游任务上的性能。DAU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

为啥多token预测在编程任务和小型算法推理任务上提升更明显?DAU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM
团队猜测可能有两个原因:DAU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM
第一,编程语言的逻辑结构更严谨,知识的内在联系更紧密。一个关键节点可能影响到后续整个代码块的走向。多Token预测能更好捕捉这种长距离依赖。DAU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM
第二,相比自然语言,编程语言的词汇量更小。因此即便每次预测多个Token,难度也没那么大。反而能迫使模型从局部细节中抽身,着眼全局优化。DAU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

除了在token层面的实验,团队还在更细粒度的字节级模型上做了尝试。DAU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM
他们发现,用8字节预测替代下一个字节预测后,模型在MBPP上的Pass@1指标暴增67%,在HumanEval上也提升了20%。DAU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM
而且推理速度还能再快6倍,简直不要太香。DAU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

对于背后原理,团队认为多token预测缓解了训练时Teacher Forcing和推理时自回归生成之间的分布差异。DAU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM
也就是说,在训练的时候,模型看到的都是标准答案,生成的时候却得靠自己。好比人类在家做练习册时有答案,考试时却啥也没有,就会不适应。DAU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM
而多token预测相当于训练时就逼着模型多想几步,这样到了考场上,才能应对自如。DAU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM
从信息论的角度,团队还给出了一个更精确的论证。DAU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM
传统的下一个Token预测,目标是最小化当前位置的信息熵。而2-Token预测实际上最小化的是当前和下一位置的信息熵之和。DAU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM
数学推导表明,后者其实隐含了更大的互信息权重,也就是更看重当前Token和未来Token的相关性。这就是为什么多Token预测更”有远见”。DAU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM
不过在这篇论文中,还有几个未解决的问题。DAU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM
比如没有探讨如何自动选择最佳的预测token数量n,作者提出,未来可以研究使用损失权重调整或动态调整n来解决最佳n的选择问题。DAU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM
此外最佳的词表大小也可能与单token预测时不同。DAU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM
总之,看过这篇论文之后,大家都更期待Llama-4了。DAU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

论文地址:
https://arxiv.org/abs/2404.19737DAU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM
3月18日,记者从山西省人民政府获悉,“山西煤炭工业互联网智算平台”日前在山西联通大数据中心建设完成。该平台由中国联通与山西晋云互联科技有限公司共同打造,是山西省目前唯一的垂直行业类智
英国《自然》周刊网站3月12日刊登题为《OpenAI的文生视频工具Sora会如何改变科学——以及社会》的文章,作者为乔纳森·奥卡拉汉,内容编译如下:美国开放人工智能研究中心(OpenAI
记者3月20日从西安交通大学第二附属医院获悉,该院皮肤病院夏育民教授科研团队研究设计了一种靶向抗双链抗体的D型模拟肽(D-ALW多肽)纳米微粒,成功应用于MRL/lpr红斑狼疮小鼠模型的治疗,为目前红斑
玻璃,是我们日常生活中常见且应用非常广泛的一种材料,如外墙、窗户、杯子、灯饰……但玻璃的应用远不止于此。2024年3月22日14时,由中国下一代教育基金会与中国平安共同主办、科技
一加Ace 3V刚发布,就被红米砍了一刀!随着昨天一加Ace 3V的发布,新一轮中端机的内卷终于拉开了序幕。 而且这电话售价居然还不增反降,直接1999起步。 先来回顾下它的配置,外观相比上一代有所变化,依旧是
有消息称,iPhone在中国寻找本土生成式AI提供方,iPhone讨论了在中国的设备中使用百度的人工智能技术。据《华尔街日报》报道,iPhone与百度进行了谈判,以授权其型号。这可能是为了向中国的iPhone客户提
。
本文链接:一次预测多个token,Meta新模型推理加速3倍,编程任务提高17%http://www.sushuapos.com/show-2-5645-0.html
声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。
上一篇: 阿里林俊旸:大模型对很多人来说不够用,打造多模态Agent是关键 | 中国AIGC产业峰会
下一篇: 美图吴欣鸿:国产Sora竞争关键,在创意、工作流和垂直场景 | 中国AIGC产业峰会