设置
  • 日夜间
    随系统
    浅色
    深色
  • 主题色

性能新突破!国产千卡智算集群助力国产大模型训推

发布时间: 2024-06-14 17:30:15 来源: 千龙网

以大模型为代表的新一代人工智能技术是引领新一轮科技革命和产业变革的战略性技术和重要驱动力量,随着对算力需求的日益高涨,人工智能算力底座公司日益成为新一波人工智能技术浪潮重要组成部分。78Q速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

2024年5月,摩尔线程与智谱AI开展了新一轮GPU 大模型适配及性能测试,包括大模型推理以及基于夸娥(KUAE)千卡智算集群的大模型预训练。测试用相关大模型来自智谱AI基座大模型及其开源版本。78Q速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

测试结果表明,在推理方面,摩尔线程自研全功能GPU显著优于基准对比产品RTX 3090和RTX 4090,在全部测试用例中优于RTX 3090,在多batch下优于RTX 4090;在训练方面,摩尔线程夸娥千卡智算集群训练精度与A100集群误差在1%以内,夸娥千卡智算集群性能扩展系数超过90%,模型算力利用率(MFU)与A100集群相当。78Q速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

智谱AI致力于打造新一代认知智能大模型,专注于做大模型的中国创新。早在2022年8月,智谱AI开源了GLM-130B模型,2023 年,智谱 AI 推出千亿基座对话模型ChatGLM,开源版本的 ChatGLM-6B 让大模型开发者的本地微调和部署成为可能,在开源社区受到广泛欢迎。从自主开发的原创GLM预训练框架搭建之初,智谱AI就十分注意算力利用率问题。通过国产算力适配,智谱AI已支持10余种国产硬件生态,努力推动建设大模型软硬件生态和与国产芯片企业的联合创新与升级。78Q速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

摩尔线程出色的测试结果对于更好建设中国大模型产品技术生态具有重要意义。78Q速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

技术自主新突破:摩尔线程千卡智算集群成功应用ChatGLM预训练,标志着摩尔线程全功能GPU算力底座有能力支撑行业领先的大模型全链条研发,有助于增强技术自主性,保障信息安全。大模型训练与推理将能够在全国产可控的算力底座上运行,在满足信息安全的前提下服务于千行百业,成为发展AI+新质生产力的核心力量。78Q速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

助力打破算力瓶颈:Scaling laws(尺度定律)已经预示了AGI技术发展对算力日益增长的需求规律,同时也表明有限的算力供应可能成为制约大模型发展的关键瓶颈。本次测试结果显示,国产GPU算力底座有能力助力中国人工智能技术发展。摩尔线程作为国产GPU的代表,将助力提高大模型迭代速度和自研水平,助推中国大模型更好发展。78Q速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

开拓创新空间:算法、算力、数据是AGI技术的核心要素,摩尔线程与智谱AI卓有成效的适配与测试合作,有利于推动实现软硬件的深度融合与协同创新,有利于助力中国大模型实现更好发展。78Q速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

降低运营成本:摩尔线程凭借自研国产全功能GPU,致力于构建先进的AGI算力底座,不仅能够兼容适配全球主流AI软件生态,节约软件迁移成本,而且在单位算力总体拥有成本上拥有较为明显优势,能够有效降低大模型产品研发成本。78Q速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

智谱AI硬件适配与测试负责人表示:“摩尔线程夸娥千卡智算集群在计算精度和稳定性等方面的表现令人印象深刻,智谱AI将与包括摩尔线程在内的大模型产业生态合作伙伴携手,共同推动大模型产业生态繁荣发展。”78Q速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

以大模型为代表的新一代人工智能技术是引领新一轮科技革命和产业变革的战略性技术和重要驱动力量,随着对算力需求的日益高涨,人工智能算力底座公司日益成为新一波人工智能技术浪潮重要组成部分。78Q速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

2024年5月,摩尔线程与智谱AI开展了新一轮GPU 大模型适配及性能测试,包括大模型推理以及基于夸娥(KUAE)千卡智算集群的大模型预训练。测试用相关大模型来自智谱AI基座大模型及其开源版本。78Q速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

测试结果表明,在推理方面,摩尔线程自研全功能GPU显著优于基准对比产品RTX 3090和RTX 4090,在全部测试用例中优于RTX 3090,在多batch下优于RTX 4090;在训练方面,摩尔线程夸娥千卡智算集群训练精度与A100集群误差在1%以内,夸娥千卡智算集群性能扩展系数超过90%,模型算力利用率(MFU)与A100集群相当。78Q速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

智谱AI致力于打造新一代认知智能大模型,专注于做大模型的中国创新。早在2022年8月,智谱AI开源了GLM-130B模型,2023 年,智谱 AI 推出千亿基座对话模型ChatGLM,开源版本的 ChatGLM-6B 让大模型开发者的本地微调和部署成为可能,在开源社区受到广泛欢迎。从自主开发的原创GLM预训练框架搭建之初,智谱AI就十分注意算力利用率问题。通过国产算力适配,智谱AI已支持10余种国产硬件生态,努力推动建设大模型软硬件生态和与国产芯片企业的联合创新与升级。78Q速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

摩尔线程出色的测试结果对于更好建设中国大模型产品技术生态具有重要意义。78Q速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

技术自主新突破:摩尔线程千卡智算集群成功应用ChatGLM预训练,标志着摩尔线程全功能GPU算力底座有能力支撑行业领先的大模型全链条研发,有助于增强技术自主性,保障信息安全。大模型训练与推理将能够在全国产可控的算力底座上运行,在满足信息安全的前提下服务于千行百业,成为发展AI+新质生产力的核心力量。78Q速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

助力打破算力瓶颈:Scaling laws(尺度定律)已经预示了AGI技术发展对算力日益增长的需求规律,同时也表明有限的算力供应可能成为制约大模型发展的关键瓶颈。本次测试结果显示,国产GPU算力底座有能力助力中国人工智能技术发展。摩尔线程作为国产GPU的代表,将助力提高大模型迭代速度和自研水平,助推中国大模型更好发展。78Q速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

开拓创新空间:算法、算力、数据是AGI技术的核心要素,摩尔线程与智谱AI卓有成效的适配与测试合作,有利于推动实现软硬件的深度融合与协同创新,有利于助力中国大模型实现更好发展。78Q速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

降低运营成本:摩尔线程凭借自研国产全功能GPU,致力于构建先进的AGI算力底座,不仅能够兼容适配全球主流AI软件生态,节约软件迁移成本,而且在单位算力总体拥有成本上拥有较为明显优势,能够有效降低大模型产品研发成本。78Q速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

智谱AI硬件适配与测试负责人表示:“摩尔线程夸娥千卡智算集群在计算精度和稳定性等方面的表现令人印象深刻,智谱AI将与包括摩尔线程在内的大模型产业生态合作伙伴携手,共同推动大模型产业生态繁荣发展。”78Q速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

3月17日记者获悉,哈尔滨医科大学公共卫生学院副院长、教授田懋一与副研究员叶鹏鹏团队在一项研究中提出,应将预防老年人跌倒与国家基本公共卫生服务中各项服务流程融合起来。该研究全面梳理了 据英国《泰晤士报》网站3月15日报道,2020年1月,英国帝国理工学院的亚当·汉普希尔与英国广播公司合作,对8万人进行了30分钟的测试,目的是揭示生活方式的改变会影响我们的大脑功能。三个月 肺癌是全球死亡率最高的恶性肿瘤。其中非小细胞肺癌(NSCLC)占比达到85%。表皮生长因子受体(EGFR)是NSCLC最常见的驱动突变基因。现在,一个国际科学家团队首次证明,EGFR的一个关键界面可能会成为更 2024年03月19日,以“初心如磐•向新出发”为主题的2024智能家居UP峰会CSHIA智能家居开年盛典在杭州成功举行。大会现场,由全国专业标准化技术委员会委员、CSHIA秘书长、中智盟投资创始人周 3月22日消息,根据huawei旗舰机型迭代策略,今年上半年将发布影像旗舰huaweiP70系列。然而,这两天一张流出的图片声称huaweiP70将于3月23日开始预售,并附有各个版本的具体售价。但据媒体报道,huawei相关 “啪嗒啪嗒......”一只机器狗在街上迈着规律的步伐,拉着牵引绳的盲人,在它的带领下越过沿路障碍,平稳地行走着,电子导盲犬能否取代传统导盲犬,解决视障人士一犬难求的困境?西工大团队在这方面开展 。

本文链接:性能新突破!国产千卡智算集群助力国产大模型训推http://www.sushuapos.com/show-2-6885-0.html

声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇: “苹果智能”接入GPT,能否从AI竞赛中胜出

下一篇: 姚期智:瞄准前沿科技战略高地再接再厉

热门资讯

  • 我国成功研制可靶向送药的磁驱软体机器人

    中国科学院深圳先进技术研究院15日发布消息称,该院科研团队研发了一种具有靶向送药功能的磁驱软体机器人,该机器人能够根据器官内部环境的特点选择合

  • 新AI系统可提供足球制胜战术

    未来的足球场,人工智能(AI)当“大脑”?《自然·通讯》19日发表一项来自谷歌深度思维的最新成果,研究团队报告了一个名为“TacticAI”的系统,能在足

  • 人工智能探究癌症发展机理

    据英国《金融时报》网站3月13日报道,科学家们已经在利用人工智能(AI)阐释人体所谓的“黑暗基因组”,并开发一种可能很强大的癌症检测、监测和治疗新

  • 海龟深潜时一分钟心跳只有两次

    据《日本经济新闻》3月19日报道,东京大学副教授坂本健太郎等人研究发现,海龟下潜时心率将急剧下降。海龟与鲸等哺乳类动物同样,心率随下潜深度加深而

  • 我国科学家揭示东北黑土成因

    记者3月20日从中国科学院地质与地球物理研究所获悉,该所科研人员在东北黑土区开展了大范围的野外调查和样品采集工作,通过分析采集的黑土样品发现,黑

  • 科研人员在大别山区发现植物新物种

    据中国科学院武汉植物园消息,我国科研人员在大别山区开展植物多样性科学考察时,发现了天门冬科天门冬属新物种,并将其命名为大别山天门冬。相关研究成

  • 突发!Kimi,崩了!

    因流量突然剧增,3月21日,陆续有用户在社交平台上表示,月之暗面旗下大模型应用Kimi智能助手的APP和小程序均无法正常使用。截至记者发稿时,相关

  • “认知选择”或影响人类语言演化

    人类的语言自产生以来,就不断演化发展。发音、词汇、语法的演变过程,是语言学家较为关注的领域。语言演化的根本动力是什么,演化又呈现出怎样的规律?我

  • 银鲳高质量染色体水平 参考基因组发布

    3月19日,记者从中国科学院海洋研究所了解到,该所研究团队在国际上首次发布了银鲳的高质量染色体水平参考基因组。相关研究论文近日在线发表于《自然

  • huawei回应P70预售时间曝光:假的 最近没有官方消息透露

    3月22日消息,根据huawei旗舰机型迭代策略,今年上半年将发布影像旗舰huaweiP70系列。然而,这两天一张流出的图片声称huaweiP70将于3月23日开始预售,并附有各

  • 2999元!xiaomiCivi 4 Pro供不应求:春野绿配色好多门店缺货

    3月22日消息,xiaomi集团的许斐在微博上表示,xiaomiCivi 4 Pro的预售业绩远超预期,尤其是春野绿配色,许多门店都出现了缺货情况。据了解,xiaomiCivi 4 Pro的

  • 电子导盲犬可能要来了!相关研究在我国取得新突破

    “啪嗒啪嗒......”一只机器狗在街上迈着规律的步伐,拉着牵引绳的盲人,在它的带领下越过沿路障碍,平稳地行走着,电子导盲犬能否取代传统导盲犬,解决视障

推荐资讯

  • 需懂:拼多多先用后付大额怎么套出

    拼多多是一款可以拼团下单的在线购物平台,到了很多顾客朋友的喜爱,其优势主要就是价格更低,可以发起与朋友之间的社交联系。很多喜欢用拼多多购物平台买东西的朋友,一旦到了购

  • 小二分享真实秒到攻略-怎么找商家提拼多多先用后付

    随着网络购物的日益普及,人们对于购物体验的要求也越来越高。其中,拼多多先用后付作为一种新兴的消费方式,逐渐受到了广大消费者的青睐。拼多多作为一家国内知名的电商平台,也

  • 搜寻:怎么找拼多多先用后付套现商家

    随着电商的发展,购物方式也在发生改变。拼多多作为国内领先的电商平台,其“先用后付”的额度政策吸引了众多消费者。 那么,如何巧妙地套出拼多多先用后付的额度呢?今天,我将为大

  • 需学:拼多多先用后付提出多久到账

    在拼多多平台上,先用后付是一种常见的支付方式,让买家能够在确认收货前先使用商品,并在一定时间内完成支付。对于一些小额购物,想要快速到手,可以参考以下诀窍: 拼多多作为中国

  • 教你6个简单操作拼多多先用后付怎么找变现商家

    拼多多凭借前几年一番病毒式的营销之后,如今已经成为了和淘宝、京东齐名的电商巨头之一,为了更好的留住用户,还专门开通了先用后付的服务,拼多多的先用后付功能许多用户都

  • 科普三大攻略:拼多多先用后付怎么提现到微信

    在拼多多平台上,先用后付是一种常见的支付方式,让买家能够在确认收货前先使用商品,并在一定时间内完成支付。对于一些小额购物,想要快速到手,可以参考以下诀窍: 拼多多是一款可

  • 新方法分享-拼多多先用后付提现全过程

    拼多多先用后付额度怎么套出来的,最简单的方法拼多多先用后付是拼多多平台推出的一款消费服务,现在网络消费额度比较流行,其中的利润也是非常可观的,多多现在也是一个比较热

  • 2026总结两个办法:拼多多先用后付如何变现到银行卡

    我们要了解拼多多先用后付额度的政策。简单来说,先用后付额度就是拼多多根据用户的购物行为和信用评级,给予的一部分信用额度。用户可以在购物时先使用这部分额度,然后在规定

  • 享有:拼多多先用后付怎么找提现商家

    拼多多凭借前几年一番病毒式的营销之后,如今已经成为了和淘宝、京东齐名的电商巨头之一,为了更好的留住用户,还专门开通了先用后付的服务,拼多多的先用后付功能许多用户都

  • 小二推荐精简秒到技巧-怎么找拼多多先用后付变现商家

    在拼多多平台上,先用后付是一种常见的支付方式,让买家能够在确认收货前先使用商品,并在一定时间内完成支付。对于一些小额购物,想要快速到手,可以参考以下诀窍: 【拼多多先用后

  • 一分钟必看篇:拼多多先用后付怎么套出现金

    随着网络购物的日益普及,人们对于购物体验的要求也越来越高。其中,拼多多先用后付作为一种新兴的消费方式,逐渐受到了广大消费者的青睐。拼多多作为一家国内知名的电商平台,也

  • 日榜
  • 周榜
  • 月榜