8月6日,据《The Information》报道,有知情人士透露,在上个月的Seed团队全员大会上,字节跳动创始人张一鸣罕见表态称,字节跳动不会把蒸馏当作提升AI模型能力的捷径,即便这意味着公司眼下落后于国内竞争对手。
今年以来,国内AI大模型竞争已经极为激烈,几乎每隔几天就有新模型发布,而蒸馏可使得新模型直接学习现有先进模型的推理步骤,大大节省时间和成本。
但张一鸣表示,字节应该愿意为了更长远的目标,牺牲一些短期利益。
有字节员工表示,Seed团队内部关于是否应转向蒸馏的争论已久。每当国内发布新开源模型后,该争论就会进一步升温。目前大部分AI公司更专注于开源模型,而字节跳动是国内主要AI公司中唯一一家大语言模型几乎全为专有模型的企业。
据了解,字节跳动内部对开源模型严禁蒸馏,甚至通过API检测等方式在内部加强相关限制,张一鸣认为,蒸馏会干扰真正意义上的长期技术突破。
本文系观察者网独家稿件,未经授权,不得转载。
羊小咩APP不少人都有,伴随着生活节奏的加快,以及生活压力的加重,不少人会拿羊小咩便荔卡额度来变现应急。 那么,羊小咩便荔卡怎么套出来的,羊小咩便荔卡额度怎么套出来使用? 羊小咩商城数码手机的真伪羊小咩商城作为一个正规的电商平台,其所售数码手机均为正品。平台与多家知名品牌建立了合作关系,确保所售手机来源可靠。此外,羊小咩商城还提供了完善 香港交易所8月5日的一则权益披露引发市场波动。 当天,港交所“披露易”网站披露,知名投资人段永平管理的H&H International Investment的持仓发生变化,对泡泡玛特的多头持仓比例由7.65%降至5.55%。 该网站信息显示,H&H I 未来,随着技术的不断进步和应用的不断丰富,数字生活将会变得更加普及、便捷和有效。随着互联网的不断发展和普及,互联网已经成为人们生活中不可或缺的一部分。互联网改变了人们 。本文链接:张一鸣在Seed团队发言:字节不走模型蒸馏捷径http://www.sushuapos.com/show-3-182681-0.html
声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。