快讯科技财经汽车社会旅游娱乐时尚健康生活科学教育

热搜：实地调研｜棉搭载2.8吨京东618全 “十五五” 6颗40万年亚朵集团20 电视剧边水

首页 > 科技

大模型一对一战斗75万轮，GPT-4夺冠，Llama 3位列第五

发布时间: 2024-04-23 15:17:55 来源：量子位

观看：210

Llama 3英文能力与GPT-4并列第一

克雷西发自凹非寺
量子位 | 公众号 QbitAI

关于Llama 3，又有测试结果新鲜出炉——

大模型评测社区LMSYS发布了一份大模型排行榜单，Llama 3位列第五，英文单项与GPT-4并列第一。

不同于其他Benchmark，这份榜单的依据是模型一对一battle，由全网测评者自行命题并打分。

最终，Llama 3取得了榜单中的第五名，排在前面的是GPT-4的三个不同版本，以及Claude 3超大杯Opus。

而在英文单项榜单中，Llama 3反超了Claude，与GPT-4打成了平手。

对于这一结果，Meta的首席科学家LeCun十分高兴，转发了推文并留下了一个“Nice”。

PyTorch之父Soumith Chintala也激动地表示，这样的成果令人难以置信，对Meta感到骄傲。

Llama 3的400B版本还没出来，单靠70B参数就获得了第五名……
我还记得去年三月GPT-4发布的时候，达到与之相同的表现几乎是一件不可能的事。
……
现在AI的普及化实在是令人难以置信，我对Meta AI的同仁们做出这样的成功感到非常骄傲。

那么，这份榜单具体展示了什么样的结果呢？

近90个模型对战75万轮

截至最新榜单发布，LMSYS共收集了近75万次大模型solo对战结果，涉及的模型达到了89款。

其中，Llama 3参与过的有1.27万次，GPT-4则有多个不同版本，最多的参与了6.8万次。

下面这张图展示了部分热门模型的比拼次数和胜率，图中的两项指标都没有统计平局的次数。

榜单方面，LMSYS分成了总榜和多个子榜单，GPT-4-Turbo位列第一，与之并列的是早一些的1106版本，以及Claude 3超大杯Opus。

另一个版本（0125）的GPT-4则位列其后，紧接着就是Llama 3了。

不过比较有意思的是，较新一些的0125，表现还不如老版本1106。

而在英文单项榜单中，Llama 3的成绩直接和两款GPT-4打成了平手，还反超了0125版本。

中文能力排行榜的第一名则由Claude 3 Opus和GPT-4-1106共享，Llama 3则已经排到了20名开外。

除了语言能力之外，榜单中还设置了长文本和代码能力排名，Llama 3也都名列前茅。

不过，LMSYS的“游戏规则”又具体是什么样的呢？

人人都可参与的大模型评测

这是一个人人都可以参与的大模型测试，题目和评价标准，都由参与者自行决定。

而具体的“竞技”过程，又分成了battle和side-by-side两种模式。

battle模式下，在测试界面输入好问题之后，系统会随机调用库中的两个模型，而测试者并不知道系统到底抽中了谁，界面中只显示“模型A”和“模型B”。

在模型输出答案后，测评人需要选择哪个更好，或者是平手，当然如果模型的表现都不符合预期，也有相应的选项。

只有在做出选择之后，模型的身份才会被揭开。

side-by-side则是由用户选择指定的模型来PK，其余测试流程与battle模式相同

不过，只有battle的匿名模式下的投票结果才会被统计，且在对话过程中模型不小心暴露身份就会导致结果失效。

按照各个模型对其他模型的Win Rate，可以绘制出这样的图像：

△示意图，较早版本

而最终的排行榜，是利用Win Rate数据，通过Elo评价系统换算成分数得到的。

Elo评价系统是一种计算玩家相对技能水平的方法，由美国物理学教授Arpad Elo设计。

具体到LMSYS，在初始条件下，所有模型的评分（R）都被设定为1000，然后根据这样的公式计算出期待胜率（E）。

随着测试的不断进行，会根据实际得分（S）对评分进行修正，S有1、0和0.5三种取值，分别对应获胜、失败和平手三种情况。

修正算法如下式所示，其中K为系数，需要测试者根据实际情况调整。

最终将所有有效数据纳入计算后，就得到了模型的Elo评分。

不过实际操作过程中，LMSYS团队发现这种算法的稳定性存在不足，于是又采用了统计学方法进行了修正。

他们利用Bootstrap方法进行重复采样，得到了更稳定的结果，并估计了置信度区间。

最终修正后的Elo评分，就成了榜单中的排列依据。

One More Thing

Llama 3已经可以在大模型推理平台Groq（不是马斯克的Grok）上跑了。

这个平台的最大亮点就是“快”，之前用Mixtral模型跑出过每秒近500 token的速度。

跑起Llama 3，也是相当迅速，实测70B可以跑到每秒约300 Token，8B版本更是接近了800。

参考链接：
[1]https://lmsys.org/blog/2023-05-03-arena/
[2]https://chat.lmsys.org/?leaderboard
[3]https://twitter.com/lmsysorg/status/1782483699449332144

美国太平洋西北国家实验室的科学家设计了一种复合装饰材料，可以储存更多二氧化碳，提供了一种既符合建筑规范，又比标准复合饰面板便宜的“负碳”选择。研究人员于18日在美国化学会春季会议上公布 21世纪经济报道记者王峰北京报道近日，全球教育集团培生（NYSE：PSO）公布2023财年财报。2023财年，培生的销售额为36.74亿英镑（下同），同比下降4%，但基础销售额同比增长1%；调整后营业利润5.73亿，同记者3月21日获悉，商汤科技与遥感数据平台吉林一号网、四维地球、星图地球等展开合作，此举标志着“SenseEarth智能遥感云”平台数据源全面升级，将为行业用户提供更完善、精准的一体化的高分辨率 3月21日是第二十五个“世界睡眠日”，中国睡眠研究会联合慕思集团在北京正式发布《2024情绪与健康睡眠白皮书》（以下简称《白皮书》）。《白皮书》指出，智能床垫运用算法将内在情绪与睡眠质量相关 3月22日消息，中国互联网络信息中心（CNNIC）今天发布了《中国互联网络变化状况计算报告》。《报告》显示，截至2023年12月，我国网民规模达10.92亿人，较2022年12月新增网民2480万人，互联网普及率达77.5%。截 3月23日消息，据媒体报道，iPhone与百度公司已达成合作协议，百度将为苹果内置的生成式人工智能大模型提供技术支持。报道指出，iPhone生成式人工智能大模型的合作伙伴包含谷歌、百度、OpenAI等公司。国。

本文链接：大模型一对一战斗75万轮，GPT-4夺冠，Llama 3位列第五http://www.sushuapos.com/show-2-5308-0.html

声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。

上一篇： 1966年杨成武汇报部队建设，毛主席突然插话说曾国藩杀人很厉害（1966年杨成武汇报部队建设）

下一篇：黑照变废为宝！超能AI一句话修出创意大片，亲妈看了都说真

大模型一对一战斗75万轮，GPT-4夺冠，Llama 3位列第五

克雷西发自凹非寺
量子位 | 公众号 QbitAI

近90个模型对战75万轮

人人都可参与的大模型评测

△示意图，较早版本

One More Thing

热门资讯

推荐资讯

科技最热文章

大模型一对一战斗75万轮，GPT-4夺冠，Llama 3位列第五

克雷西 发自 凹非寺Wf5速刷资讯——每天刷点最新资讯，了解这个世界多一点SUSHUAPOS.COM量子位 | 公众号 QbitAI

近90个模型对战75万轮

人人都可参与的大模型评测

△示意图，较早版本

One More Thing

热门资讯

推荐资讯

科技最热文章

克雷西发自凹非寺
量子位 | 公众号 QbitAI