文/观网硬科技
7月27日深夜,月之暗面(Moonshot AI)正式开源Kimi K3模型权重,同步发布技术报告,并开放支撑模型训练的三项关键基础设施技术——MoonEP、FlashKDA和AgentEnv。这款总参数量达2.8万亿的混合专家(MoE)模型,是全球首个开源的3万亿级别模型,也是迄今为止参数规模最大的开源模型。
K3开源后在全球开发者社区迅速引发反响。模型托管平台Hugging Face CEO Clem Delangue发文称,Kimi K3发布后仅30分钟便获得超过4000个点赞,登顶平台Trending榜首,创下平台迄今最快的发布增长速度。截至上线半小时前,已有近3700名开发者在等待下载。
北美AI基础设施创企OsmanticAI的创始人兼CEO Ahmad将Kimi K3称为“本地版Fable 5”,并“强烈建议大家下载体验”,称这样“他们永远也夺不走我的Fable 5”了。美国AI创企Cognition宣布Kimi K3接入Devin桌面客户端与命令行工具,并表示:“在FrontierCode 1.1评测基准上,Kimi K3是我们测试过首款性能逼近前沿水准的开源模型。”
Kimi K3开源
Kimi K3开源后,国产算力也积极适配。
华为计算发文表示,此次Kimi K3一经开源发布,昇腾即实现0day(指在产品正式发布或系统上线当天“第0天”就能完全兼容和正常运行的能力)适配:在训练侧,基于MindSpeed MM在Atlas 800 A3、Atlas 900 A3 SuperPoD上完成训练复现,在算子、并行加速、显存优化等方面进行专项优化;在推理侧,通过vLLM Ascend与 SGLang开源推理引擎实现快速部署,同时,昇腾950超节点支持FP8、MXFP8、MXFP4等全系列数值精度格式,原生支持Kimi K3的mxFP4量化权重。
与此同时,阿里云也发文称,阿里云真武M890超节点实例已Day0适配Kimi K3,并称其是国内首个跑通近3万亿参数模型的超节点。千问AI平台和阿里云百炼也将提供Kimi K3的模型API。
Kimi K3是目前业界参数规模最大的模型之一,跑通这一规模的模型需要将参数分散到几十张甚至上百张高速互联的GPU卡,让万亿参数“跑得又稳又快”。然而,普通AI集群因通信带宽的局限,无法满足高吞吐、低延迟、高并发的需求。
阿里云表示,为提升Kimi K3的运行效率,阿里云、平头哥与Kimi团队从软件栈、算子等层面进行了深度联合适配。例如,真武M890对Kimi K3模型架构的核心算子进行优化,显著提升推理的算力和带宽利用率,可稳定支持最1M长上下文,从容应对长文档理解、复杂推理等场景。测试显示,适配后模型的首Token时延降低约35%,单卡解码吞吐提升1.8倍。
华为超节点
Kimi K3面向长程编程、知识工作和推理等前沿智能场景而设计。模型基于KDA混合线性注意力机制(Kimi Delta Attention)和注意力残差(Attention Residuals)技术构建,原生支持视觉理解,并拥有100万token上下文窗口,在保持顶尖能力的同时,将KV Cache压缩75%,长上下文解码速度最高提升6.3倍,大幅优化了训练与推理的效率及成本。
海外AI基础设施厂商同样迅速响应。Nebius、Baseten、Fireworks等厂商随即宣布Day 0适配Kimi K3。Nebius称:“Kimi K3是首个达到前沿性能水平的开放权重模型,是开放模型发展历程中的一大进步。”
Modal、Together AI、Nebius、GMI Cloud、Baseten和Fireworks AI均预告将在权重发布当天提供托管或推理服务。vLLM和SGLang两大开源推理框架也已提供首日支持,开发者拿到权重后即可直接部署。Fireworks AI更宣布Kimi K3已可用于Multi-LoRA serving和训练。
海外开发者的态度与半年前已截然不同。半年前DeepSeek-V3开源时,海外社区的讨论更多是“又一个中国模型”;而到了Kimi K3,话题变成了“它比Claude Opus强”、“开发者正在把Fable换成K3”。
然而,影响力的扩大也意味着被盯上的风险在增加。就在Kimi K3开源引发热议的同时,美国参议员蒂姆·斯科特和比尔·哈格蒂已提案扩大美国商务部权限以限制外国对手接触AI技术。美国商务部去年曾考虑将月之暗面、DeepSeek、阿里Qwen团队等中国AI实验室列入实体清单。白宫还曾考虑通过行政令,要求使用中国模型的美国企业对安全事件承担责任。OpenAI、Anthropic等美国闭源AI企业曾提案禁用中国开源模型。
对此,中方敦促美方倾听中美两国业界客观、理性声音,纠正霸权思维,停止对中国企业的抹黑和制裁威胁。对于任何实质性损害中方利益的行为,中方将采取一切必要措施,坚定维护自身正当合法权益。
而制裁的合理性也正受到越来越多质疑。近200家美国初创企业敦促政府不要切断对中国开源模型的访问,认为这将削弱美国企业竞争力。当美国企业自己都在使用中国的开源模型时,AI能力正在从少数公司的技术优势变成全球开发者可以调用的基础工具,这个趋势不会因为一纸制裁令而改变。
本文系观察者网独家稿件,未经授权,不得转载。
抖音月付是一款由抖音推出的消费分期产品,为用户提供了一种在线消费、信用消费方式。 它可以帮助用户以分期付款的方式进行消费,同时也能够帮助商家快速收回资金。那么抖音月 抖音作为当今电商巨头,稳健发展,不断创新,引领了新的生活时尚。抖音月付「分付」额度作为抖音旗下重要的消费金-融产品,也在影响着年轻人的生活方式,以及购物习惯。快节奏的生活, 抖音月付什么意思怎么用 随着抖音平台的持续发展,越来越多用户开始使用抖音月付功能来购买虚拟礼物和会员服务。那么,抖音月付是什么意思,如何使用呢?本文小创将为您一一解答。 在毛利越打越薄、C端始终缺位的情况下,押注B端的智谱,恐怕很难打造出一条真正属于自己的护城河。 最近,智谱正在经历一轮剧烈的股价波动。先是7月17日,股价跳空低开后暴跌28.49%,单日蒸发超2000亿港元;7月20日,再跌19.56%,跌 。本文链接:Kimi K3开源:海外热议,华为阿里等国产算力已适配http://www.sushuapos.com/show-3-181634-0.html
声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。
上一篇: 低空经济,何时迈过商业化的坎?