微软推出iPhone能跑的ChatGPT级模型，网友：OpenAI得把GPT-3.5淘汰了

发布时间: 来源：量子位

观看：283

3.8B小模型截胡Llama 3 8B

Llama 3发布刚几天，微软就出手截胡了？

微软推出iPhone能跑的ChatGPT级模型，网友：OpenAI得把GPT-3.5淘汰了

刚刚发布的Phi-3系列小模型技术报告，引起AI圈热议。

其中仅3.8B参数的Phi-3-mini在多项基准测试中超过了Llama 3 8B。

为了方便开源社区使用，还特意设计成了与Llama系列兼容的结构。

微软这次打出“手机就能直接跑的小模型”的旗号，4bit量化后的phi-3-mini在iPhone 14 pro和iPhone 15使用的苹果A16芯片上跑到每秒12 token。

这意味着，现在手机上能本地运行的最佳开源模型，已经做到ChatGPT水平。

在技术报告中还玩了一把花活，让phi-3-mini自己解释为什么构建小到手机能跑的模型很令人惊叹。

除了mini杯之外，小杯中杯也一并发布：

Phi-3-small，7B参数，为支持多语言换用了tiktoken分词器，并额外增加10%多语种数据。

Phi-3-medium，14B参数，在更多数据上训练，多数测试中已超越GPT-3.5和Mixtral 8x7b MoE。

（大杯他们目前不打算做）

作者阵容一看也不简单，一眼扫过去MSRA和MSR雷蒙德团队都投入了不少人。

那么，Phi-3系列到底有什么独特之处呢？

根据技术报告中披露，其核心秘诀就在于数据。

去年团队就发现，单纯堆砌参数量并不是提升模型性能的唯一路径。

反而是精心设计训练数据，尤其是利用大语言模型本身去生成合成数据，配合严格过滤的高质量数据，反而能让中小模型的能力大幅跃升。

也就是训练阶段只接触教科书级别的高质量数据，Textbooks are all you need。

Phi-3也延续了这一思路，这次他们更是下了血本:

投喂了多达3.3万亿token的训练数据（medium中杯是4.8万亿）
大幅强化了数据的”教育水平”过滤
更多样化的合成数据，涵盖逻辑推理、知识问答等多种技能
独特的指令微调和RLHF训练，大幅提升对话和安全性

举个例子，比如某一天足球比赛的结果可能对于大模型是良好的训练数据，但微软团队删除了这些加强知识的数据，留下更多能提高模型推理能力的数据。

这样一来，对比Llama-2系列，就可以用更小的参数获得更高的MMLU测试分数了。

不过小模型毕竟是小模型，也不可避免存在一些弱点。

微软透露，模型本身参数中没能力存储太多事实和知识，这一点也可以从TriviaQA测试分数低看出来。

缓解办法就是联网接入搜索引擎增强。

总之，微软研究院团队是铁了心了要在小模型+数据工程这条路上走下去，未来还打算继续增强小模型的多语言能力、安全性等指标。

对于开源小模型超过ChatGPT这回事，不少网友都认为压力现在给到OpenAI这边，需要赶快推出GPT-3.5的继任者了。

参考链接：
[1]https://arxiv.org/abs/2404.14219

　　马斯克用行动反击开源自家顶级大模型压力给到OpenAI　　《科创板日报》3月18日讯(编辑宋子乔) 似乎是为了表明自己始终坚持对AI模型开源，马斯克做出了与阿尔特曼全然不同的选择。3月17日，马斯克宣布开源Grok-1，这 21世纪经济报道见习记者顾婷婷杭州报道如何让沉睡在实验室里的专利真正应用到车间，真正面向市场，转化为真正的新质生产力？3月19日，由国家知识产权局组织的高校和科研机构存量专利盘活　　英伟达AI风暴席卷医疗行业 “AI制药”是风口还是泡沫？　　季媛媛　　全球医疗健康行业正刮起最强AI风暴。　　当地时间3月18日，全球瞩目的顶级AI盛会――英伟达2024年GPU技术大会(NVIDIA GTC 2024)正式开幕。据相关 3月19日，记者从中国科学院海洋研究所了解到，该所研究团队在国际上首次发布了银鲳的高质量染色体水平参考基因组。相关研究论文近日在线发表于《自然》子刊《科学数据》。银鲳广泛分布于西北太 3月21日上午，全球首列氢能源市域列车在中车长客股份公司（以下简称“中车长客”）试验线上进行了时速160公里满载运行试验。当日试验过程中，车以160公里/小时速度运行的列车，每公里实际运行平均能耗 3月25日消息，去年huawei在Mate 60系列上首发了玄武机身架构，采用一体化金属机身，搭配上超耐用锦纤材质，使整机的抗挤压能力提高10倍，使用更放心。“玄武”是极其坚固的代表，huawei还在问界M9上采用了“ 。

本文链接：微软推出iPhone能跑的ChatGPT级模型，网友：OpenAI得把GPT-3.5淘汰了http://www.sushuapos.com/show-2-5311-0.html

声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。

上一篇：对话蚂蚁李建国：当前AI写代码相当于L2.5，实现L3后替代50%人类编程

下一篇：华为P70闪拍功能意外爆火，CTO亲自下场解读技术原理

微软推出iPhone能跑的ChatGPT级模型，网友：OpenAI得把GPT-3.5淘汰了

热门资讯

推荐资讯

科技最热文章