设置
  • 日夜间
    随系统
    浅色
    深色
  • 主题色

竞争对手环伺,谁在抢英伟达的GPU生意?

发布时间: 2024-07-10 17:51:28 来源:

  竞争对手环伺,谁在抢英伟达的GPU生意?Xml速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  英伟达市值在高位起伏时,业界越来越多关注到GPU(图形处理器)之外的AI芯片。Xml速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  近期AI芯片两个备受瞩目的融资消息均与ASIC芯片(专用集成电路)有关。有消息称,AI芯片初创公司Groq在新一轮融资中估值将达25亿美元,另一家初创公司Etched则完成1.2亿美元融资,两家做的都是ASIC。GPU巨头英伟达似乎也在考虑市场竞争影响,今年年初,英伟达传出考虑布局ASIC的消息。Xml速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  相对而言,GPU更加通用且软件生态更完善,可以运行各种算法,ASIC通用性较弱但硬件性能可能更强,可能只能运行一部分算法。除了AI初创公司和云厂商避开英伟达锋芒发力ASIC,记者还了解到,算力厂商也在考虑使用适用于边缘计算的FPGA(现场可编程门阵列)芯片。算力需求方正在寻找更多样的AI芯片方案。Xml速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  外界将这些AI芯片企业视为英伟达的竞争对手,那么,这些AI芯片能多大程度挤占英伟达的GPU市场?Xml速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  台面上下的ASIC生意Xml速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  备受瞩目的ASIC初创企业融资以及低调的云巨头布局,台面上下,ASIC都在向GPU发起攻势。Xml速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  近日传出融资消息的两家初创公司中,由谷歌TPU(张量处理单元)发明者之一Jonathan Ross创立的Groq,于今年2月推出ASIC芯片LPU(语言处理器),宣称该LPU推理性能是英伟达GPU的10倍,成本仅为其十分之一。Etched则于6月推出Sohu芯片,将Transformer(主流大语言模型基于的架构)优化固定在芯片上,声称一台集成8块Sohu的服务器性能匹敌160个H100 GPU。Xml速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  不少云巨头自研的也是ASIC芯片,包括谷歌、微软、Meta等,其中谷歌自用的ASIC出货量已不少。据市场研究机构TechInsights最新数据,2023年数据中心加速器厂商中,谷歌TPU出货量达200万台,英伟达为380万台,其他芯片为50万台。2023年,谷歌已是第三大数据中心处理器设计商,2023年第四季度,英伟达在数据中心处理器市场的份额超50%,谷歌市占率排第三,市占率已接近第二名的英特尔。Xml速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  一些AI定制芯片厂商因此成为隐形赢家。谷歌与博通合作开发TPU。2024财年第一季度,博通收入119.61亿美元,同比增长34%。博通CEO Hock Tan称,第二季度,博通来自AI产品的收入达创纪录的31亿美元,人工智能需求是提振业绩的一大因素。Xml速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  今年年初至当地时间7月8日,博通市值上涨了超2000亿美元。另一家主要AI定制芯片厂商Marvell在截至5月4日的2025财年第一财季中,AI定制芯片业务显著增长,推动其数据中心业务收入增长87%。Xml速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  “GPU本质是一种大规模并行处理器,可同时执行多任务,ASIC则是为高效执行特定小范围功能而设计。如果有一个在特定范围内执行的任务能通过ASIC实现,这种方式可能更高效且更便宜。如果应用程序需要执行多任务且这些任务会改变范围,GPU可能是更好的选择。” 就GPU和ASIC适用场景的区别,TechInsights数据中心和云频道研究总监Dr Owen Rogers告诉第一财经记者。Xml速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  从原理上讲,Etched此前曾表示,CPU和GPU作为通用芯片需适配不同AI架构,因此大部分计算能力不用于AI相关计算,估计H100仅3.3%的晶体管用于矩阵乘法,非通用芯片少了相关顾虑,Sohu还通过减少存储器空间等方式将更多空间用于计算。Groq也专门设计用于处理大语言模型任务,并结合近存计算技术提升算力表现,在14nm的制程下,Groq大模型生成速度达到近500token/秒,超过GPU驱动的GPT-3.5的40token/秒。Xml速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  如果能在AI场景使用性能更好的硬件,意味着完成同样计算所需能耗可以更低。此外,英伟达在截至4月28日的2025财年第一财季录得高达78.4%的毛利率,对定价权的掌握不言而喻,算力需求方若能自研或外购ASIC芯片,或能把AI芯片硬件价格也打下来。Xml速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  虽然大模型要从成熟的GPU生态迁移到ASIC生态需要成本,且后者软件生态没有GPU成熟,但业界已在考虑用ASIC替代一部分GPU算力。除了谷歌等云厂商也将ASIC芯片用于大模型训练,市场分析主要认为ASIC可在模型推理场景替代GPU。Xml速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  “企业需要证明支出与回报的合理性,企业将无法‘奢侈’地使用昂贵的GPU来满足所有AI需求。企业仍会用GPU,因为GPU仍需要用在大量并行化的通用用例中,但对于其他需求,在合适环境下运行的ASIC将会是更好的选择,因为ASIC购买成本更低,将会有更多ASIC设计来满足特定的需求。”Owen Rogers判断,模型训练仍将在GPU上进行,因为GPU对不同模型更加灵活,推理则可能越来越多使用低功耗的ASIC。Xml速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  麦肯锡3月发布的报告也表示,目前主流高性能新一代AI服务器采用2个CPU和8个GPU的组合,推理工作负载运行在与训练相似的基础设施上。而随着未来AI工作量主要转向推理,工作负载将主要由专用硬件承担。到2030年,配备ASIC芯片的AI加速器将处理大多数AI工作负载,因为ASIC在特定AI任务中表现更佳。Xml速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  GPU潜在对手还有谁Xml速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  ASIC之外,其他芯片架构也试图进场。FPGA此前便因较好的硬件灵活性和时延表现、较低功耗,被认为适合边缘端计算,主要的两家FPGA公司是AMD持股的赛灵思和英特尔旗下的Altera,目前FPGA已呈现出向大模型领域渗透之势。国内,无问芯穹、清华大学和上海交通大学1月联合提出一种面向FPGA的大模型轻量化部署流程FlightLLM,首次在单块赛灵思U280 FPGA上实现LLaMA2-7B 高效推理。Xml速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  “不跑大模型的时候,GPU和FPGA的使用成本差距还没有太大,跑大模型后差距越来越大了,因为模型参数量更大,所需芯片卡数指数式增加。“一名算力芯片技术人员告诉记者,一张FPGA使用时功耗大约几十瓦,而GPU待机功耗便达几十瓦、推理时功耗可达300多瓦,这意味着FPGA一体机相比GPU使用成本更低。Xml速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  该技术人员表示,相比GPU可用于训练和推理,FPGA相对更适用于大模型边缘端推理,预计未来在推理场景对GPU形成一定替代。其所在的算力平台公司已在适配FPGA,但还未正式推出商用产品。不过,该技术人员表示,使用FPGA也有弊端,该芯片定制化,开发难度高,需要重新编程,前期需要跑通一些大模型后才会逐步缩短迭代周期。现在很多行业客户对非GPU的算力方案感兴趣,前来咨询的很多,但真正能用起来的还不算多。Xml速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  另一些创新形态的芯片也对大模型市场虎视眈眈。今年6月,有消息称AI芯片公司Cerebras已向证券监管机构秘密提交IPO文件。与一些普通的高制程芯片越做越小相反,Celebras的思路是在采用高制程的同时将芯片做大。Cerebras2019年曾推出由一整片晶圆制成的“世界最大芯片”晶圆级芯片WSE,46225mm2面积上集成40万个AI核心和1.2万亿颗晶体管,今年3月推出的第三代晶圆级芯片WSE-3内核数量则为英伟达H100的52倍。Xml速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  Owen Rogers告诉记者,Cerebras所有组件都在单个晶圆上,可以最大限度减少多核和内存间的距离,减少延迟并增加带宽,对于需大量并行运算和大内存的AI工作负载而言,能显著提升性能并降低功耗。Cerebras的关键特点来自芯片设计方法,但除了设计、运输和销售硬件,Cerebras还需调整现有开源框架适应其系统,减少新客户移植现有模型时的困难。Xml速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  从共性看,不论是Cerebras、Etched还是一些FPGA芯片,芯片走向更专用化或定制化都有利于大模型在芯片上更高效运行,但由此也面临一些开发或适配上的挑战。什么样的新芯片可以闯出一条新的生路,结局尚未可知。做Transformer芯片的Etched联合创始人兼CEO Gavin Uberti便曾表示,公司在下赌注,如果Tansformer不再被采用,公司就会失败,如果Transformer继续被采用,公司可能会成为有史以来最大的公司。Xml速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  面对更专用的芯片的挑战,GPU也并非一成不变,记者了解到,颠覆自身通用性、走向专用化也是一条可能的道路。一些新技术也有望用于克服GPU的局限,应对来自其他芯片的挑战。Xml速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  一名资深芯片业内人士告诉记者,英伟达此前已在推动芯片走向专用化,以提升性能和功耗表现,现在用于AI运算的GPU加入了Tensor Core(张量处理单元)这样的结构,或许未来这种结构会更多。千芯科技董事长陈巍向记者表示,猜测未来可能会出现针对大模型应用的专用GPU,牺牲一部分原来对显示的支持能力,从而支持更大矩阵计算。此外,GPU也在采用各种技术改良自身,如采用更先进的封装和集成技术来减少互联功耗损失、采用存算一体技术以提升能效比等。Xml速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  至于业界未来会走向更适合大模型的其他AI芯片,还是仍会在GPU的基础上改良,陈巍告诉记者,目前两方力量在博弈,一方面,大家对新结构和更强大的算力有需求,另一方面,英伟达已有完善的CUDA生态,新旧力量正在此消彼长。Xml速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  Owen Rogers告诉记者,除了ASIC和GPU,未来还可能出现新的SoC(系统级芯片)设计,聚合不同类型的处理器、内存和互联技术,以满足不同场景对不同芯片的需求,企业将根据自身需求选择最合适的AI芯片。Xml速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  “年轻人报复性挤爆3.5分餐厅” 砸了谁的锅  不能仅靠年轻人“挤爆3.5分餐厅”的一身反骨,而要靠净化网络平台信用环境、提升完善评价体系  有一句流行语“股票反着买,别墅靠着海”,意思是要拒绝从众心理,反向操   39.5万人次!春节期间上海机场单日旅客吞吐量创下历年春运最高纪录  中新网2月18日电 据上海机场集团微信公众号消息,自2月6日春运出港高峰首日至2月17日(年初八),上海浦东、虹桥机场共保障进出港旅客437.6万人次(   中新经纬2月18日电 “长三角铁路”微博18日消息,截至2月17日,2024年春节假期正式落下帷幕,长三角铁路假期8天发送旅客逾1700万人次,日均发送旅客在215万人次以上,较2019年同期增幅超六成。2月18日(正月初九)是假期后的 2月21日,司法部、国家发展改革委、全国人大常委会法工委共同组织召开民营经济促进法立法座谈会,听取民营企业代表和专家学者对立法的意见建议。会议强调,要坚持以习近平新时代中国特色社会主义思想为 龙年开工首周,记者在多地采访看到,企业加快开工复产、劳动者积极返岗求职,呈现出人勤春来早、供需同发力的繁忙景象。“用工忙”折射开局稳,释放出经济运行回稳向好的信心。从跨省招工、专车专列接人返岗 中国发展网讯 据中国野生动物保护协会微信公众号消息,为持续推进大熊猫保护事业,中国野生动物保护协会已分别与西班牙马德里动物园和美国圣迭戈动物园就新一轮大熊猫国际保护合作事宜达成一致并签署协 。

本文链接:竞争对手环伺,谁在抢英伟达的GPU生意?http://www.sushuapos.com/show-5-21370-0.html

声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇: 大模型降价底气何在

下一篇: 三星电子从台积电口中“夺食”,2nm赛道欲超车胜算几何?

热门资讯

  • 深圳通报“男高管违法开除员工”:已仲裁,高管被辞

      中新经纬1月12日电 深圳市人力资源和社会保障局官方微信11日回应“深圳一公司男高管违法开除男员工”称,涉事公司经综合考虑该管理人员处理纠纷时存在不当言论及其他因素

  • 1月钢铁市场震荡延续 钢企盈利面临收缩压力

      1月钢铁市场震荡延续 钢企盈利面临收缩压力  证券时报记者 黄翔  2023年下半年以来,国内钢材市场开始呈现震荡上涨的行情。进入2024年,钢价能否延续这一趋势受到关注

  • 快问|裁员40%?资生堂中国回应

      中新经纬1月11日电 (林琬斯)近日,有传闻称资生堂中国裁员40%。11日,资生堂中国回应中新经纬称,相关传言与事实不符。  资生堂中国表示,资生堂中国于2024年开始实施新的品

  • 老赖“要求美颜”露马脚被抓

      老赖“要求美颜”露马脚被抓  本报讯 记者黄辉 通讯员元春华 武慧慧 “能不能给我开个美颜?”被执行人在法院抖音里看到自己的失信行为被曝光后,竟然笑嘻嘻地在抖音评论

  • 增值税发票数据显示:春节假期中国服务消费火热

      增值税发票数据显示:春节假期中国服务消费火热  中新社北京2月18日电 (记者 赵建华)中国国家税务总局18日公布的增值税发票数据显示,今年春节假期(正月初一至初八)中国

  • 多地景区人气旺 龙年旅游消费迎来火爆开局

      多地景区人气旺 世界同享中国年  龙年旅游消费迎来火爆开局  本报记者 潘福达  多家景区门票售罄约满、多地酒店“一房难求”、出入境旅游均增长明显……春节假期

  • 年味浓、活力足、人气旺 消费市场迎爆发 点亮龙年经济“开门红”

    商务部新闻发言人2月22日表示,春节期间,消费市场年味浓、活力足、人气旺,销售较快增长,实现良好开局。预计一季度消费市场将呈现平稳增长态势。春节期

  • 社评:布林肯的“餐桌菜单论”说明了什么

    美国国务卿布林肯近日在参加慕安会时说的一句话,可以被解读的空间很大,也值得深入解读一下。他在回答主持人关于“美中紧张局势正在导致更大的分裂”提问

  • 彩礼新规施行,多地判出“第一案”!

    春节前后是定亲结婚的高峰期,今年春节前夕,最高人民法院发布的“彩礼新规”正式施行。近日,多地适用新规对彩礼官司作出判决或调解。“彩礼新规”正式施行2月1

  • 厦门筼筜湖的生态蝶变

    拼版照片:上图为20世纪80年代的厦门筼筜湖(资料照片);下图为2024年1月24日拍摄的厦门筼筜湖及周边城市景观(新华社记者姜克红摄,无人机照片)。新华社记者付敏城在

  • 西王集团等被执行超3.3亿

      中新经纬2月22日电 据中国执行信息公开网消息,西王集团有限公司(以下简称“西王集团”)、西王国际贸易(青岛)有限公司、王勇、王棣、王伟2月20日被青岛市中级人民法院执

  • 中国铁路青藏集团原副总经理贾军被提起公诉

      中新经纬2月22日电 据高检网22日消息,近日,中国铁路青藏集团有限公司原党委委员、职工董事、副总经理、工会主席贾军(副厅级)涉嫌受贿罪、行贿罪一案,经最高人民检察院指定

推荐资讯

  • 日榜
  • 周榜
  • 月榜