12T token从头训练
“最强”开源大模型之争，又有新王入局：
大数据巨头Databricks，刚刚发布MoE大模型DBRX，并宣称：
包括同为混合专家模型的Grok-1和Mixtral。
新王搅局，迅速引发了开源社区的热议。
毕竟，仅从纸面数据来看，DBRX颇具特点：总参数量为1320亿，但因为是混合专家模型，每次激活参数量仅为360亿。
就是说，在总参数量接近Llama2-70B的2倍的情况下，DBRX的生成速度也比Llama2-70B快1倍。
△DBRX vs Llama2-70B
另外，DBRX是在12T token上从头训练的，训练数据量是Llama2的6倍，远高于Chinchilla定律推荐量。
网友们的第一反应be like：
首席科学家：打赌输了就把头发染蓝
来看DBRX的具体细节。
DBRX由16个专家模型组成，每次训练推理会有4个专家处于激活状态。其上下文长度为32K。
为了训练DBRX，Databricks团队从云厂商那里租用了3072个H100。
一个细节是，团队向Wired透露，经过两个月的训练之后，DBRX已经在基准测试中取得了不错的分数。而在那个时候，他们买的云资源还能再跑一个星期。
团队因此产生了小小的分歧：是用这些资源来训练一个小杯版本，还是再投喂给模型一些高质量数据，用课程学习（curriculum learning）的方法来提高DBRX在一些特定任务上的能力？
经过一番热烈的内部讨论，Databricks团队最终决定走课程学习路线。
正是这一决策使他们收获颇丰：
Databricks首席科学家Jonathan Frankle（就叫他老弗吧）认为，课程学习使得DBRX“产生了有意义的变化”。
具象化一点来说，就是老弗本来觉得DBRX可能搞不太定代码生成，还打赌说如果他判断错了，就去把头发染成蓝色。
而这是他的最新照片：
回到正题，DBRX的测试结果显示，它在语言理解、编程、数学和逻辑方面都达到了SOTA，击败包括Llama2-70B、Mixtral和Grok-1在内的一众开源大模型。
还在大多数基准测试中都击败了GPT-3.5。
Databricks这次开源了DBRX的两个版本：DBRX Base和DBRX Instruct，前者是预训练基础模型，后者则经过指令微调。
老弗还对Wired透露，他们团队接下来计划对模型训练的那个“最后一周”展开研究，看看DBRX这样强大的模型是如何在其中收获额外技能的。
值得一提的是，去年6月，Databricks以13亿美元（约93亿人民币）的价格，买下了仅62名员工的AI初创公司MosaicML——
就是发布了MPT系列开源模型的那家。
老弗当时就是MosaicML的首席科学家。此后，他和他的团队一起留在了Databricks。
开源社区嗨翻
DBRX发布不到4小时，已经有人把它成功部署到苹果M2芯片笔记本电脑上了。
而大模型竞技场也第一时间开放了DBRX-instruct的投票。
不过，也有人对DBRX的“开源”提出了质疑：
根据Databricks公布的协议，基于DBRX打造的产品，如果月活超过7亿，就必须另行向Databricks提交申请。
参考连接：
[1]https://www.databricks.com/blog/announcing-dbrx-new-standard-efficient-open-source-customizable-llms
[2]https://github.com/databricks/dbrx
[3]https://www.wired.com/story/dbrx-inside-the-creation-of-the-worlds-most-powerful-open-source-ai-model/
— 完 —
美国《新闻周刊》网站2月4日刊登题为《人工智能可能会在数十年内解开人体的秘密》的文章，作者是亚历克斯·菲利普斯，内容编译如下：一位医生(同时也是一本关于新兴技术在医疗领域应用的新 美国布朗大学研究团队在最新一期《自然·电子学》上描述了一种无线通信网络。它可有效地传输、接收和解码来自数千个微电子芯片的数据。研究团队试图模仿大脑神秘且高效的工作方式。对 3月21日，记者从陆军军医大学新桥医院获悉，该院普通外科开通甲乳结节AI早筛门诊，利用AI（人工智能）辅助诊断技术，成功为一名甲状腺乳头状癌患者成功实施手术提供了精准决策辅助。该院为重庆首家开通 一加Ace 3V刚发布，就被红米砍了一刀！随着昨天一加Ace 3V的发布，新一轮中端机的内卷终于拉开了序幕。 而且这电话售价居然还不增反降，直接1999起步。 先来回顾下它的配置，外观相比上一代有所变化，依旧是 今年3月23日是第64个世界气象日，主题是“气候行动最前线”。面对愈加频繁的极端天气和全球变暖等气候危机，减缓气候变化已刻不容缓。发展新能源是应对气候变化的重要举措之一，而气象服务对于新 联合国政府间气候变化专门委员会（IPCC）最新发布的评估报告显示，全球温升预计在2021年至2040年内达到1.5℃。报告指出，自IPCC第五次评估报告发布以来，全球减缓气候变化的政策和法律不断增多，但实施 。本文链接：新开源之王来了！1320亿参数，还比Llama2-70B快1倍http://www.sushuapos.com/show-2-4375-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。