设置
  • 日夜间
    随系统
    浅色
    深色
  • 主题色

全国算力一体化建设步入“深水区”,服务器智能水平成关键要素丨算力网风云⑧

发布时间: 2024-06-01 17:56:07 来源:

编者按mR5速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

在数字经济潮涌与大模型井喷的时代,算力正如水、电一般,逐日成为现代社会赖以生存的稀缺资源。可以说,谁拥有了算力的主导权,谁就捏住了面向人工智能的头等船票。mR5速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

这样的时代巨浪下,我国的算力也已步入高速发展新阶段。在此过程中,构建全国一体化算力网,更是应对新一轮科技革命和产业变革的重要举措。而在进行全国“算力网”的布局中,存在不同的市场主体角色,包括阿里、华为、电信运营商乃至其他算力服务商,都有自己的主张。mR5速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

就此,21世纪经济报道推出“算力网风云”系列报道,围绕中国算力一体化体系建设现状、难点与堵点、产业链机会等进行全方位解读。在对国内算力网现状进行5篇稿件解读后,接下来的系列稿件将重点关注算力上中下游产业链企业如何参与一体化算力网建设,以及随着全国一体化算力网建设铺开,相关产业链未来的发展空间、投资机会。mR5速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

算力产业链系列稿的第三篇、亦即专题第八篇稿件重点关注服务器产业链。在全国算力一体化建设的背景下,算力服务器正在扮演着至关重要的角色。传统算力服务器如何更好地迎合当下大模型的海量需求,仍是一个值得产业界思考的命题。mR5速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

21世纪经济报道记者张梓桐 上海报道mR5速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

在全国算力一体化建设的背景下,算力服务器正在扮演着至关重要的角色。mR5速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

一方面,作为提供计算资源的核心设备,算力服务器是实现全国算力一体化的基础。通过集中或分布式部署,算力服务器为各种应用和服务提供必要的计算能力。另一方面,在全国算力一体化的体系中,算力服务器可以作为算力调度的中心节点,根据需求动态分配和调整计算资源,以满足不同地区和行业的计算需求。mR5速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

与此同时,在AI训练需求快速上升的背景下,服务器市场规模也在快速扩张。IDC预计,2023年中国人工智能服务器市场规模将达到91亿美元,同比增长82.5%;2027年将达到134亿美元,年均复合增长率为21.8%。mR5速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

但在全国一体化算力网建设规划下,传统算力服务器也面临着新的升级需求。mR5速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

神州数码信创业务集团计算产品线总经理吴艳伟在接受21世纪经济报道记者采访时表示,算力需求的波动性算力需求会呈现峰值和低谷,需要数据中心能够灵活应对这种需求波动。例如,在特定事件(如春节)期间,某些地区的算力需求会急剧上升。而在这一背景下,就对数据中心自动化和智能化运维水平提出了极高的要求。mR5速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

在他看来,未来为了应对算力需求的波动,数据中心需要自动化和智能化的运维工具,以实现算力的快速调度和优化,同时保证安全性和实现预测性维护。mR5速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

一体化算力网建设

2023年12月,国家发展改革委、国家数据局会同有关部门联合印发《深入实施“东数西算”工程 加快构建全国一体化算力网的实施意见》(简称“实施意见”)。mR5速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

“文件印发以来,我们统筹优化算力资源配置。加快建设全国一体化算力网,推动通用算力、智能算力、超级算力等多源异构算力的协同发展,促进各类新增算力向国家枢纽节点集聚。在构建跨域算力调度体系方面,国家数据局正在推动建立八大枢纽节点和十大数据中心集群算力发展情况一本账,以十大集群为核心,推动算力资源混合部署和统一调度。”国家发展改革委党组成员、国家数据局局长刘烈宏在近期举办的新闻发布会上总结道。mR5速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

但与此同时,刘烈宏也指出,在算力资源分布等方面仍有多种问题需要解决。其中关键的难题在于“算力网络”的编织工作仍未完成。mR5速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

“目前我国在跨区域、多层次算力高速直连网络尚未完全建立,大规模网络流量资费较高,一定程度上阻碍了西部有效承接东部算力需求。算力与电力系统协同发展水平亟待加强。数据中心能效管理、绿色评价机制设计等方面有待优化提升,源网荷储新型电力系统尚未得到很好应用。数据中心集群安全防护水平有待进一步提升。统一集约化的数据中心安全防范体系尚未完全建立,一体化安全保障服务能力仍需加强。”刘烈宏说道。mR5速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

事实上,围绕上述问题政策也在发力布局。日前,为进一步推动算力服务器市场结构的新旧更替,为液冷、整机柜等新型技术产品提供更大的发展空间。工信部、国家发展改革委、财政部等六部门联合发布《工业能效提升行动计划》,其中指出,东数西算”工程中,要求内蒙古、贵州、甘肃、宁夏4处枢纽设立的数据中心集群PUE控制在1.2以内;京津冀、长三角、粤港澳大湾区、成渝枢纽设立的数据中心集群PUE控制在1.25以内。mR5速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

而在实际执行中,各地采取了更为严格的能效标准。比如北京规定新建和改扩建智算中心PUE值一般不超过1.25,年能耗超过3万吨标煤的大规模先进智算中心PUE值一般不超过1.15。更为严格的PUE约束,将让数据中心运营商对于液冷、整机柜等高能效的技术方案的倾向性进一步增强。浪潮信息在液冷领域已经处于领先优势。根据IDC数据,中国液冷服务器市场在2023年销售额同比增长48.0%,预计2023-2028年市场年复合增长率将达到45.8%。2023年,浪潮信息市场份额 36.8%,排名第一。mR5速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

算力服务器异构单元挑战

从技术角度来看,AI大模型对于算力服务器提出了无穷尽的需求。mR5速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

“如果说千亿参数是大模型智能涌现的门槛,那么万卡则是AI系统设计的起点,对目前计算机系统提出了全面的挑战。”mR5速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

首当其冲的挑战就是计算资源不足,浪潮信息相关负责人表示,AI系统的性能主要源于GPU等加速器,AI需要计算机系统具有强大的异构扩展能力,但是传统的计算机体系结构限制了异构加速器的扩展性。mR5速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

“加速计算模块一直被作为CPU的配属单元,依靠PCI-e总线接入系统,只支持有限数量的异构单元,并且同CPU的通信带宽也十分有限,因而CXL、NVlink等下一代总线技术发展迅速。”mR5速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

而在大模型的互联方面,该负责人表示,当前AI训练集群已经从千卡、增长到万卡、十万卡,节点间的并行产生大量的通信需求。mR5速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

相关数据显示,当前张量并行频率有28.4次/S,需要带宽194GB/S,网络的延迟和带宽不足使得计算单元经常因为等待数据而空闲,严重限制了集群效率。例如GPT-4的集群有2.5万块GPU,效率32%-36%,非常低,但在当前技术条件下几乎触顶。mR5速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

在算法效率方面,由于AI训练是一个超级复杂的计算系统,算法结构与硬件结构匹配不合理、并行化处理不科学等都会导致整个计算平台的利用率偏低。mR5速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

除此之外,智能算力需求的扩大也导致算力服务器面临巨大能效压力,当前单颗AI芯片的功耗已经突破2700W,单机柜AI服务器的功耗已经突破100KW,这样的热功率密度几乎超越了风冷的物理极限。而且国家“双碳”战略背景下,AI的能效挑战越来越大,不论技术、经济还是政策层面看,数据中心的液冷化是大势所趋。mR5速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

巨大业务机遇

在上述问题的驱动下,算力服务器也在呈现出一些新的发展趋势。mR5速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

首先,底层的体系结构创新迎来黄金时代。传统以CPU为中心的体系结构明显不能适应人工智能的计算需求,以数据为中心,基于CXL、NVlink等下一代总线技术的新一代体系结构发展迅速。mR5速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

与此同时,系统创新越来越重要。单颗芯片性能提升受限,而AI对于大算力的追求永无止境。因此,AI计算系统只能集成越来越多的芯片来获得大算力,AI计算集群的设计起点已经达到了万卡级别。大规模计算系统中,互连、算法等关系整体效率的工作越来越重要,芯片的重要性反而在不断下降。mR5速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

“智算节点内的P2P高速互连距离是非常有限的,最多能做到1-2个机柜之间的高速互连,所以AI计算必然走向高密度。同时,GPU的功耗越来越高,比如英伟达最新的GB200超级芯片(集成了一颗CPU、2颗GPU)最大功耗达到了2700W,高密度部署与高功耗芯片叠加,一方面使得智算服务器从传统机架向整机柜升级,从单台服务器交付向整机柜一体化交付升级,另一方面使得单机柜功率迅速提升从当前的12-16千瓦走到120千瓦,散热将逐渐走向液冷。AI计算、液冷和整机柜的结合将成为未来趋势。”上述浪潮负责人说道。mR5速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

此外需要指出的是,在算力一体化布局下,服务器产业链公司也随之迎来了相关发展机遇。mR5速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

吴艳伟表示,随着技术的发展,数据中心的运维正在更加智能,包括预测性维护和故障自愈能力,以提高运营效率和可靠性。mR5速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

除此之外,一体化算力网的建设也进一步颠覆了算力业务的传统商业模式。mR5速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

吴艳伟告诉21世纪经济报道记者,当前算力的传统业务模式如单纯销售服务器硬件等,正在向提供算力租赁等新服务模式转变。这种模式允许不具备建设大型数据中心能力的机构,如高校、研究所和创新企业,通过租用算力来满足其高端计算需求。“未来,算力租赁有望作为一种新的商业模式,允许在算力需求高峰期将算力调度到需求高的地区或行业,从而提高资源利用效率。”吴艳伟说道。mR5速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

日前,盛世盈创氢能科技(陕西)有限公司(以下简称盛世盈创)与协氢(上海)新能源科技有限公司宣布达成战略合作,共同推进风冷氢燃料电池电堆全自动化生产线(以下简称风冷堆)的研发与生产。双方协议,将建设目 3月18日,中国经济信息社(以下简称中经社)垂直领域数字化应用系统发布仪式在北京举行。在发布仪式上,锚定建设“国家级经济信息旗舰”的目标,中经社推出了八大数字化应用系统。中经社此次发布的行 记者19日从兰州大学获悉,天华肉羊通过国家畜禽遗传资源委员会审定鉴定,成为我国首个适应高寒气候的肉羊品种。该品种由兰州大学草地农业科技学院李发弟教授和乐祥鹏教授团队,联合甘肃省武威市天 据《日本经济新闻》3月19日报道,东京大学副教授坂本健太郎等人研究发现,海龟下潜时心率将急剧下降。海龟与鲸等哺乳类动物同样,心率随下潜深度加深而下降,特别是在下潜深度超过140米时,一分钟心跳 眼眸深邃似海、璨如星河,中国医学科学院生物医学工程研究所眼科诊疗技术研发团队(以下简称“团队”)正是眼眸“侦探”。该团队不久前被授予“国家卓越工程师团队”称号。别看人眼只有8克左右,却 造成女性更容易睡不好的原因是多方面的,包括更年期等生理周期等,而女性长期的失眠除了会导致内分泌进一步失调,还会诱发心脏病、高血压、糖尿病、免疫力低下、记忆下降、脱发、皮肤松弛等。北京 。

本文链接:全国算力一体化建设步入“深水区”,服务器智能水平成关键要素丨算力网风云⑧http://www.sushuapos.com/show-2-6466-0.html

声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇: 20款手游未成年人保护机制测评(2024)①:《迷你世界》8岁以下竟能充值;渠道服防沉迷漏洞凸显

下一篇: 网易有道一季度AI订阅服务收入同比增140%

热门资讯

  • 站在“人工智能+”探索前列

    今年全国两会期间,人工智能成为热点话题,“人工智能+”首次被写入政府工作报告。一头连着数字经济发展大局,一头连着行业变革与创新,“人工智能+”既是

  • 活性氧响应性材料 向肠炎部位精准投药

    3月17日,记者从陆军军医大学西南医院获悉,该院消化内科教授陈磊团队联合陆军军医大学教授张定林首次提出,活性氧响应性纳米材料能够把程序性死亡配体-

  • 我研究人员提出 老年人防跌倒健康服务新视角

    3月17日记者获悉,哈尔滨医科大学公共卫生学院副院长、教授田懋一与副研究员叶鹏鹏团队在一项研究中提出,应将预防老年人跌倒与国家基本公共卫生服务

  • 负碳复合建材助力减缓全球变暖

    美国太平洋西北国家实验室的科学家设计了一种复合装饰材料,可以储存更多二氧化碳,提供了一种既符合建筑规范,又比标准复合饰面板便宜的“负碳”选择。

  • 培育一批专利产业化样板企业

    近日,国家知识产权局等五部门联合印发了《专利产业化促进中小企业成长计划实施方案》(以下简称《实施方案》)。《实施方案》提出,到2025年底,中小企业知

  • 借AI“慧眼”鉴别可疑论文图片

    今年1月,英国分子生物学家肖尔托·戴维发表文章,指控美国哈佛大学医学院附属丹娜-法伯癌症研究所科学家通过修改图片伪造数据。随后该研究所正

  • 科研人员在大别山区发现植物新物种

    据中国科学院武汉植物园消息,我国科研人员在大别山区开展植物多样性科学考察时,发现了天门冬科天门冬属新物种,并将其命名为大别山天门冬。相关研究成

  • 香港科技大学推出首批“AI讲师” 开拓创新教学新模式

    3月19日,记者从香港科技大学获悉,该校以人工智能生成式工具设计出10位“AI讲师”, 这些“AI讲师”来自世界各地,属不同民族及文化背景。该校希望通过创

  • AI芯片巨头低调赚钱

      AI芯片巨头低调赚钱  骆轶琪  在过去一年半导体行业下行周期中,除了英伟达以GPU霸主身份实现业绩快速成长之外,另一些主营虽非GPU,但是立足于AI定制芯片市场的半导体巨

  • 为什么有人以为安卓拍照可以打iPhone 答案就这么直接

    聊到安卓电话的拍照,大部分用户还是比较认可的,而在与iPhone电话的对比中,用户也普遍以为安卓电话的拍照水平要比iPhone更好,当然这一说法也并非空穴来风,其

  • 全球变暖跟哪些因素有关?IPCC是什么?一文了解

    今天(23日)是第64个世界气象日,今年世界气象日的主题是“气候行动最前线”。地球是人类赖以生存和发展的家园,气候变化给人类造成的影响广泛而深远,关乎

  • 电子导盲犬可能要来了!相关研究在我国取得新突破

    “啪嗒啪嗒......”一只机器狗在街上迈着规律的步伐,拉着牵引绳的盲人,在它的带领下越过沿路障碍,平稳地行走着,电子导盲犬能否取代传统导盲犬,解决视障

推荐资讯

  • 日榜
  • 周榜
  • 月榜