设置
  • 日夜间
    随系统
    浅色
    深色
  • 主题色

全国算力一体化建设步入“深水区”,服务器智能水平成关键要素丨算力网风云⑧

发布时间: 来源:

编者按KQe速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

在数字经济潮涌与大模型井喷的时代,算力正如水、电一般,逐日成为现代社会赖以生存的稀缺资源。可以说,谁拥有了算力的主导权,谁就捏住了面向人工智能的头等船票。KQe速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

这样的时代巨浪下,我国的算力也已步入高速发展新阶段。在此过程中,构建全国一体化算力网,更是应对新一轮科技革命和产业变革的重要举措。而在进行全国“算力网”的布局中,存在不同的市场主体角色,包括阿里、华为、电信运营商乃至其他算力服务商,都有自己的主张。KQe速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

就此,21世纪经济报道推出“算力网风云”系列报道,围绕中国算力一体化体系建设现状、难点与堵点、产业链机会等进行全方位解读。在对国内算力网现状进行5篇稿件解读后,接下来的系列稿件将重点关注算力上中下游产业链企业如何参与一体化算力网建设,以及随着全国一体化算力网建设铺开,相关产业链未来的发展空间、投资机会。KQe速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

算力产业链系列稿的第三篇、亦即专题第八篇稿件重点关注服务器产业链。在全国算力一体化建设的背景下,算力服务器正在扮演着至关重要的角色。传统算力服务器如何更好地迎合当下大模型的海量需求,仍是一个值得产业界思考的命题。KQe速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

21世纪经济报道记者张梓桐 上海报道KQe速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

在全国算力一体化建设的背景下,算力服务器正在扮演着至关重要的角色。KQe速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

一方面,作为提供计算资源的核心设备,算力服务器是实现全国算力一体化的基础。通过集中或分布式部署,算力服务器为各种应用和服务提供必要的计算能力。另一方面,在全国算力一体化的体系中,算力服务器可以作为算力调度的中心节点,根据需求动态分配和调整计算资源,以满足不同地区和行业的计算需求。KQe速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

与此同时,在AI训练需求快速上升的背景下,服务器市场规模也在快速扩张。IDC预计,2023年中国人工智能服务器市场规模将达到91亿美元,同比增长82.5%;2027年将达到134亿美元,年均复合增长率为21.8%。KQe速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

但在全国一体化算力网建设规划下,传统算力服务器也面临着新的升级需求。KQe速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

神州数码信创业务集团计算产品线总经理吴艳伟在接受21世纪经济报道记者采访时表示,算力需求的波动性算力需求会呈现峰值和低谷,需要数据中心能够灵活应对这种需求波动。例如,在特定事件(如春节)期间,某些地区的算力需求会急剧上升。而在这一背景下,就对数据中心自动化和智能化运维水平提出了极高的要求。KQe速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

在他看来,未来为了应对算力需求的波动,数据中心需要自动化和智能化的运维工具,以实现算力的快速调度和优化,同时保证安全性和实现预测性维护。KQe速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

一体化算力网建设

2023年12月,国家发展改革委、国家数据局会同有关部门联合印发《深入实施“东数西算”工程 加快构建全国一体化算力网的实施意见》(简称“实施意见”)。KQe速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

“文件印发以来,我们统筹优化算力资源配置。加快建设全国一体化算力网,推动通用算力、智能算力、超级算力等多源异构算力的协同发展,促进各类新增算力向国家枢纽节点集聚。在构建跨域算力调度体系方面,国家数据局正在推动建立八大枢纽节点和十大数据中心集群算力发展情况一本账,以十大集群为核心,推动算力资源混合部署和统一调度。”国家发展改革委党组成员、国家数据局局长刘烈宏在近期举办的新闻发布会上总结道。KQe速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

但与此同时,刘烈宏也指出,在算力资源分布等方面仍有多种问题需要解决。其中关键的难题在于“算力网络”的编织工作仍未完成。KQe速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

“目前我国在跨区域、多层次算力高速直连网络尚未完全建立,大规模网络流量资费较高,一定程度上阻碍了西部有效承接东部算力需求。算力与电力系统协同发展水平亟待加强。数据中心能效管理、绿色评价机制设计等方面有待优化提升,源网荷储新型电力系统尚未得到很好应用。数据中心集群安全防护水平有待进一步提升。统一集约化的数据中心安全防范体系尚未完全建立,一体化安全保障服务能力仍需加强。”刘烈宏说道。KQe速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

事实上,围绕上述问题政策也在发力布局。日前,为进一步推动算力服务器市场结构的新旧更替,为液冷、整机柜等新型技术产品提供更大的发展空间。工信部、国家发展改革委、财政部等六部门联合发布《工业能效提升行动计划》,其中指出,东数西算”工程中,要求内蒙古、贵州、甘肃、宁夏4处枢纽设立的数据中心集群PUE控制在1.2以内;京津冀、长三角、粤港澳大湾区、成渝枢纽设立的数据中心集群PUE控制在1.25以内。KQe速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

而在实际执行中,各地采取了更为严格的能效标准。比如北京规定新建和改扩建智算中心PUE值一般不超过1.25,年能耗超过3万吨标煤的大规模先进智算中心PUE值一般不超过1.15。更为严格的PUE约束,将让数据中心运营商对于液冷、整机柜等高能效的技术方案的倾向性进一步增强。浪潮信息在液冷领域已经处于领先优势。根据IDC数据,中国液冷服务器市场在2023年销售额同比增长48.0%,预计2023-2028年市场年复合增长率将达到45.8%。2023年,浪潮信息市场份额 36.8%,排名第一。KQe速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

算力服务器异构单元挑战

从技术角度来看,AI大模型对于算力服务器提出了无穷尽的需求。KQe速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

“如果说千亿参数是大模型智能涌现的门槛,那么万卡则是AI系统设计的起点,对目前计算机系统提出了全面的挑战。”KQe速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

首当其冲的挑战就是计算资源不足,浪潮信息相关负责人表示,AI系统的性能主要源于GPU等加速器,AI需要计算机系统具有强大的异构扩展能力,但是传统的计算机体系结构限制了异构加速器的扩展性。KQe速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

“加速计算模块一直被作为CPU的配属单元,依靠PCI-e总线接入系统,只支持有限数量的异构单元,并且同CPU的通信带宽也十分有限,因而CXL、NVlink等下一代总线技术发展迅速。”KQe速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

而在大模型的互联方面,该负责人表示,当前AI训练集群已经从千卡、增长到万卡、十万卡,节点间的并行产生大量的通信需求。KQe速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

相关数据显示,当前张量并行频率有28.4次/S,需要带宽194GB/S,网络的延迟和带宽不足使得计算单元经常因为等待数据而空闲,严重限制了集群效率。例如GPT-4的集群有2.5万块GPU,效率32%-36%,非常低,但在当前技术条件下几乎触顶。KQe速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

在算法效率方面,由于AI训练是一个超级复杂的计算系统,算法结构与硬件结构匹配不合理、并行化处理不科学等都会导致整个计算平台的利用率偏低。KQe速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

除此之外,智能算力需求的扩大也导致算力服务器面临巨大能效压力,当前单颗AI芯片的功耗已经突破2700W,单机柜AI服务器的功耗已经突破100KW,这样的热功率密度几乎超越了风冷的物理极限。而且国家“双碳”战略背景下,AI的能效挑战越来越大,不论技术、经济还是政策层面看,数据中心的液冷化是大势所趋。KQe速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

巨大业务机遇

在上述问题的驱动下,算力服务器也在呈现出一些新的发展趋势。KQe速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

首先,底层的体系结构创新迎来黄金时代。传统以CPU为中心的体系结构明显不能适应人工智能的计算需求,以数据为中心,基于CXL、NVlink等下一代总线技术的新一代体系结构发展迅速。KQe速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

与此同时,系统创新越来越重要。单颗芯片性能提升受限,而AI对于大算力的追求永无止境。因此,AI计算系统只能集成越来越多的芯片来获得大算力,AI计算集群的设计起点已经达到了万卡级别。大规模计算系统中,互连、算法等关系整体效率的工作越来越重要,芯片的重要性反而在不断下降。KQe速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

“智算节点内的P2P高速互连距离是非常有限的,最多能做到1-2个机柜之间的高速互连,所以AI计算必然走向高密度。同时,GPU的功耗越来越高,比如英伟达最新的GB200超级芯片(集成了一颗CPU、2颗GPU)最大功耗达到了2700W,高密度部署与高功耗芯片叠加,一方面使得智算服务器从传统机架向整机柜升级,从单台服务器交付向整机柜一体化交付升级,另一方面使得单机柜功率迅速提升从当前的12-16千瓦走到120千瓦,散热将逐渐走向液冷。AI计算、液冷和整机柜的结合将成为未来趋势。”上述浪潮负责人说道。KQe速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

此外需要指出的是,在算力一体化布局下,服务器产业链公司也随之迎来了相关发展机遇。KQe速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

吴艳伟表示,随着技术的发展,数据中心的运维正在更加智能,包括预测性维护和故障自愈能力,以提高运营效率和可靠性。KQe速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

除此之外,一体化算力网的建设也进一步颠覆了算力业务的传统商业模式。KQe速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

吴艳伟告诉21世纪经济报道记者,当前算力的传统业务模式如单纯销售服务器硬件等,正在向提供算力租赁等新服务模式转变。这种模式允许不具备建设大型数据中心能力的机构,如高校、研究所和创新企业,通过租用算力来满足其高端计算需求。“未来,算力租赁有望作为一种新的商业模式,允许在算力需求高峰期将算力调度到需求高的地区或行业,从而提高资源利用效率。”吴艳伟说道。KQe速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

中国科学院深圳先进技术研究院15日发布消息称,该院科研团队研发了一种具有靶向送药功能的磁驱软体机器人,该机器人能够根据器官内部环境的特点选择合适的运动模式,实现靶向送药的同时还可以控制 记者3月18日从安徽明天氢能科技股份有限公司(以下简称明天氢能)获悉,国家电网近日向明天氢能及董事长王朝云分别授予科学技术进步奖一等奖,获奖项目为“大规模氢电一体化站关键技术、核心装备及 今年1月,英国分子生物学家肖尔托·戴维发表文章,指控美国哈佛大学医学院附属丹娜-法伯癌症研究所科学家通过修改图片伪造数据。随后该研究所正式宣布撤回6篇论文,并纠正了另外31篇论文的 记者3月20日从中国科学技术大学获悉,该校郭光灿院士团队在量子态分辨研究中取得重要进展:他们在最小资源消耗的量子态分辨问题中首次提出了全局最优自适应策略,并发展了自适应集体测量实验技术, 记者3月20日从中国科学技术大学获悉,该校郭光灿院士团队在量子态分辨研究中取得重要进展。研究组在最小资源消耗的量子态分辨问题中首次提出了全局最优自适应策略,并发展了自适应集体测量实验 3月20日,在2024全球游戏开发者大会(GDC)上,腾讯发布了自研游戏AI引擎——GiiNEX。基于生成式AI和决策AI技术,GiiNEX将为游戏全生命周期提供丰富的AI解决方案。据悉,借助大模型等生成式AI 。

本文链接:全国算力一体化建设步入“深水区”,服务器智能水平成关键要素丨算力网风云⑧http://www.sushuapos.com/show-2-6466-0.html

声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇: 20款手游未成年人保护机制测评(2024)①:《迷你世界》8岁以下竟能充值;渠道服防沉迷漏洞凸显

下一篇: 网易有道一季度AI订阅服务收入同比增140%

热门资讯

  • 量子计算机能更好解决组合优化问题

    旅行推销员问题是一个经典的数学问题,也是一个组合优化问题。德国柏林弗雷大学和亥姆霍兹柏林能源与材料研究中心(HZB)科学家开展的一项新研究证明,量

  • 阿尔茨海默病早期症状可能表现在视力上

    据阿根廷布宜诺斯艾利斯经济新闻网报道,一项国际研究发现,阿尔茨海默病的早期症状可能表现在视力上。研究显示,即便眼科检查结果正常,但阅读、估计距离

  • 肺癌蛋白质致命弱点发现

    肺癌是全球死亡率最高的恶性肿瘤。其中非小细胞肺癌(NSCLC)占比达到85%。表皮生长因子受体(EGFR)是NSCLC最常见的驱动突变基因。现在,一个国际科学家团

  • 我科学家实现最小资源消耗的量子态分辨

    记者3月20日从中国科学技术大学获悉,该校郭光灿院士团队在量子态分辨研究中取得重要进展。研究组在最小资源消耗的量子态分辨问题中首次提出了全局

  • 突发!Kimi,崩了!

    因流量突然剧增,3月21日,陆续有用户在社交平台上表示,月之暗面旗下大模型应用Kimi智能助手的APP和小程序均无法正常使用。截至记者发稿时,相关

  • AI伴侣能否带来亲密关系

    自2023年以来,人工智能的“触角”已延伸到生活的方方面面。其中,“人工智能+情感”的赛道正悄然崛起。目前,国内外已经出现了多款较为成熟的AI伴侣应

  • Kimi累趴下了,券商仍看好

    21世纪经济报道记者雷晨 北京报道近日,国内AI领域的明星产品——Kimi智能助手,因流量激增遭遇了短暂的服务中断。月之暗面随后发布公告,对此

  • 我国成功发射云海二号02组卫星

      我国成功发射云海二号02组卫星  中新网北京3月21日电(马帅莎 曹译 张艳)北京时间2024年3月21日13时27分,我国在酒泉卫星发射中心使用长征二号丁运载火箭/远征三号上面

  • xiaomiCivi 4 Pro首发第三代骁龙8s:性能、影像、AI等拉满!xiaomi自此全员旗舰

    xiaomi在3月21日正式发布了首款“潮流旗舰”定位的产品——xiaomiCivi 4 Pro。该机定位相较以前大幅升级,尤其是性能、影像、AI方面明显提高,

  • 南财观察丨操作系统与一座城:全球“鸿蒙之城”深圳造

    21世纪经济报道记者 石恩泽 深圳报道操作系统似乎对地理入迷。鸿蒙和深圳,就像Windows和西雅图,也似Linux和赫尔辛基。这是地理与技术的紧密

  • GPU持续升级 如何应对算力“贫富差距”

    英伟达的GPU又升级了。3月19日,英伟达CEO黄仁勋发布了最新的B200算力芯片GPU,FP8精度下的训练性能是上一代的2.5倍,FP4精度下的推理性能更是达到了上

  • 为什么有人以为安卓拍照可以打iPhone 答案就这么直接

    聊到安卓电话的拍照,大部分用户还是比较认可的,而在与iPhone电话的对比中,用户也普遍以为安卓电话的拍照水平要比iPhone更好,当然这一说法也并非空穴来风,其

推荐资讯

  • 日榜
  • 周榜
  • 月榜