近日,美团宣布LongCat-Flash-Chat正式发布,在Github、Hugging Face 平台开源。LongCat-Flash采用创新性混合专家模型(MoE)架构,总参数560B,激活参数18.6B-31.3B,实现了计算效率与性能的双重优化。
据相关负责人介绍,LongCat-Flash在层间铺设跨层通道,使MoE的通信和计算能很大程度上并行,极大提高了训练和推理效率。配合定制化的底层优化,LongCat-Flash在30天内完成高效训练,并在H800上实现单用户100+tokens/s的推理速度。针对智能体能力,LongCat-Flash自建了Agentic评测集指导数据策略,并在训练全流程进行了全面的优化,包括使用多智能体方法生成多样化高质量的轨迹数据等,实现了优异的智能体能力。
此外,通过系统优化,LongCat-Flash在H800上达成了100token/s的生成速度,在保持极致生成速度的同时,输出成本低至5元/百万token。
今年以来,美团AI进展频传,发布了AI Coding Agent工具NoCode、AI经营决策助手袋鼠参谋等。公司负责人表示,美团AI战略会建立在三个层面:AI at work、AI in products以及Building LLM,此次模型开源是其Building LLM进展的首度曝光。
本文链接:LongCat-Flash-Chat发布并开源http://www.sushuapos.com/show-11-25630-0.html
声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。
上一篇: 第二届等离子球磨技术与应用研讨会举办