设置
  • 日夜间
    随系统
    浅色
    深色
  • 主题色

竞争对手环伺,谁在抢英伟达的GPU生意?

发布时间: 2024-07-10 17:51:28 来源:

  竞争对手环伺,谁在抢英伟达的GPU生意?Kd4速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  英伟达市值在高位起伏时,业界越来越多关注到GPU(图形处理器)之外的AI芯片。Kd4速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  近期AI芯片两个备受瞩目的融资消息均与ASIC芯片(专用集成电路)有关。有消息称,AI芯片初创公司Groq在新一轮融资中估值将达25亿美元,另一家初创公司Etched则完成1.2亿美元融资,两家做的都是ASIC。GPU巨头英伟达似乎也在考虑市场竞争影响,今年年初,英伟达传出考虑布局ASIC的消息。Kd4速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  相对而言,GPU更加通用且软件生态更完善,可以运行各种算法,ASIC通用性较弱但硬件性能可能更强,可能只能运行一部分算法。除了AI初创公司和云厂商避开英伟达锋芒发力ASIC,记者还了解到,算力厂商也在考虑使用适用于边缘计算的FPGA(现场可编程门阵列)芯片。算力需求方正在寻找更多样的AI芯片方案。Kd4速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  外界将这些AI芯片企业视为英伟达的竞争对手,那么,这些AI芯片能多大程度挤占英伟达的GPU市场?Kd4速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  台面上下的ASIC生意Kd4速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  备受瞩目的ASIC初创企业融资以及低调的云巨头布局,台面上下,ASIC都在向GPU发起攻势。Kd4速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  近日传出融资消息的两家初创公司中,由谷歌TPU(张量处理单元)发明者之一Jonathan Ross创立的Groq,于今年2月推出ASIC芯片LPU(语言处理器),宣称该LPU推理性能是英伟达GPU的10倍,成本仅为其十分之一。Etched则于6月推出Sohu芯片,将Transformer(主流大语言模型基于的架构)优化固定在芯片上,声称一台集成8块Sohu的服务器性能匹敌160个H100 GPU。Kd4速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  不少云巨头自研的也是ASIC芯片,包括谷歌、微软、Meta等,其中谷歌自用的ASIC出货量已不少。据市场研究机构TechInsights最新数据,2023年数据中心加速器厂商中,谷歌TPU出货量达200万台,英伟达为380万台,其他芯片为50万台。2023年,谷歌已是第三大数据中心处理器设计商,2023年第四季度,英伟达在数据中心处理器市场的份额超50%,谷歌市占率排第三,市占率已接近第二名的英特尔。Kd4速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  一些AI定制芯片厂商因此成为隐形赢家。谷歌与博通合作开发TPU。2024财年第一季度,博通收入119.61亿美元,同比增长34%。博通CEO Hock Tan称,第二季度,博通来自AI产品的收入达创纪录的31亿美元,人工智能需求是提振业绩的一大因素。Kd4速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  今年年初至当地时间7月8日,博通市值上涨了超2000亿美元。另一家主要AI定制芯片厂商Marvell在截至5月4日的2025财年第一财季中,AI定制芯片业务显著增长,推动其数据中心业务收入增长87%。Kd4速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  “GPU本质是一种大规模并行处理器,可同时执行多任务,ASIC则是为高效执行特定小范围功能而设计。如果有一个在特定范围内执行的任务能通过ASIC实现,这种方式可能更高效且更便宜。如果应用程序需要执行多任务且这些任务会改变范围,GPU可能是更好的选择。” 就GPU和ASIC适用场景的区别,TechInsights数据中心和云频道研究总监Dr Owen Rogers告诉第一财经记者。Kd4速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  从原理上讲,Etched此前曾表示,CPU和GPU作为通用芯片需适配不同AI架构,因此大部分计算能力不用于AI相关计算,估计H100仅3.3%的晶体管用于矩阵乘法,非通用芯片少了相关顾虑,Sohu还通过减少存储器空间等方式将更多空间用于计算。Groq也专门设计用于处理大语言模型任务,并结合近存计算技术提升算力表现,在14nm的制程下,Groq大模型生成速度达到近500token/秒,超过GPU驱动的GPT-3.5的40token/秒。Kd4速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  如果能在AI场景使用性能更好的硬件,意味着完成同样计算所需能耗可以更低。此外,英伟达在截至4月28日的2025财年第一财季录得高达78.4%的毛利率,对定价权的掌握不言而喻,算力需求方若能自研或外购ASIC芯片,或能把AI芯片硬件价格也打下来。Kd4速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  虽然大模型要从成熟的GPU生态迁移到ASIC生态需要成本,且后者软件生态没有GPU成熟,但业界已在考虑用ASIC替代一部分GPU算力。除了谷歌等云厂商也将ASIC芯片用于大模型训练,市场分析主要认为ASIC可在模型推理场景替代GPU。Kd4速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  “企业需要证明支出与回报的合理性,企业将无法‘奢侈’地使用昂贵的GPU来满足所有AI需求。企业仍会用GPU,因为GPU仍需要用在大量并行化的通用用例中,但对于其他需求,在合适环境下运行的ASIC将会是更好的选择,因为ASIC购买成本更低,将会有更多ASIC设计来满足特定的需求。”Owen Rogers判断,模型训练仍将在GPU上进行,因为GPU对不同模型更加灵活,推理则可能越来越多使用低功耗的ASIC。Kd4速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  麦肯锡3月发布的报告也表示,目前主流高性能新一代AI服务器采用2个CPU和8个GPU的组合,推理工作负载运行在与训练相似的基础设施上。而随着未来AI工作量主要转向推理,工作负载将主要由专用硬件承担。到2030年,配备ASIC芯片的AI加速器将处理大多数AI工作负载,因为ASIC在特定AI任务中表现更佳。Kd4速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  GPU潜在对手还有谁Kd4速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  ASIC之外,其他芯片架构也试图进场。FPGA此前便因较好的硬件灵活性和时延表现、较低功耗,被认为适合边缘端计算,主要的两家FPGA公司是AMD持股的赛灵思和英特尔旗下的Altera,目前FPGA已呈现出向大模型领域渗透之势。国内,无问芯穹、清华大学和上海交通大学1月联合提出一种面向FPGA的大模型轻量化部署流程FlightLLM,首次在单块赛灵思U280 FPGA上实现LLaMA2-7B 高效推理。Kd4速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  “不跑大模型的时候,GPU和FPGA的使用成本差距还没有太大,跑大模型后差距越来越大了,因为模型参数量更大,所需芯片卡数指数式增加。“一名算力芯片技术人员告诉记者,一张FPGA使用时功耗大约几十瓦,而GPU待机功耗便达几十瓦、推理时功耗可达300多瓦,这意味着FPGA一体机相比GPU使用成本更低。Kd4速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  该技术人员表示,相比GPU可用于训练和推理,FPGA相对更适用于大模型边缘端推理,预计未来在推理场景对GPU形成一定替代。其所在的算力平台公司已在适配FPGA,但还未正式推出商用产品。不过,该技术人员表示,使用FPGA也有弊端,该芯片定制化,开发难度高,需要重新编程,前期需要跑通一些大模型后才会逐步缩短迭代周期。现在很多行业客户对非GPU的算力方案感兴趣,前来咨询的很多,但真正能用起来的还不算多。Kd4速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  另一些创新形态的芯片也对大模型市场虎视眈眈。今年6月,有消息称AI芯片公司Cerebras已向证券监管机构秘密提交IPO文件。与一些普通的高制程芯片越做越小相反,Celebras的思路是在采用高制程的同时将芯片做大。Cerebras2019年曾推出由一整片晶圆制成的“世界最大芯片”晶圆级芯片WSE,46225mm2面积上集成40万个AI核心和1.2万亿颗晶体管,今年3月推出的第三代晶圆级芯片WSE-3内核数量则为英伟达H100的52倍。Kd4速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  Owen Rogers告诉记者,Cerebras所有组件都在单个晶圆上,可以最大限度减少多核和内存间的距离,减少延迟并增加带宽,对于需大量并行运算和大内存的AI工作负载而言,能显著提升性能并降低功耗。Cerebras的关键特点来自芯片设计方法,但除了设计、运输和销售硬件,Cerebras还需调整现有开源框架适应其系统,减少新客户移植现有模型时的困难。Kd4速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  从共性看,不论是Cerebras、Etched还是一些FPGA芯片,芯片走向更专用化或定制化都有利于大模型在芯片上更高效运行,但由此也面临一些开发或适配上的挑战。什么样的新芯片可以闯出一条新的生路,结局尚未可知。做Transformer芯片的Etched联合创始人兼CEO Gavin Uberti便曾表示,公司在下赌注,如果Tansformer不再被采用,公司就会失败,如果Transformer继续被采用,公司可能会成为有史以来最大的公司。Kd4速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  面对更专用的芯片的挑战,GPU也并非一成不变,记者了解到,颠覆自身通用性、走向专用化也是一条可能的道路。一些新技术也有望用于克服GPU的局限,应对来自其他芯片的挑战。Kd4速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  一名资深芯片业内人士告诉记者,英伟达此前已在推动芯片走向专用化,以提升性能和功耗表现,现在用于AI运算的GPU加入了Tensor Core(张量处理单元)这样的结构,或许未来这种结构会更多。千芯科技董事长陈巍向记者表示,猜测未来可能会出现针对大模型应用的专用GPU,牺牲一部分原来对显示的支持能力,从而支持更大矩阵计算。此外,GPU也在采用各种技术改良自身,如采用更先进的封装和集成技术来减少互联功耗损失、采用存算一体技术以提升能效比等。Kd4速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  至于业界未来会走向更适合大模型的其他AI芯片,还是仍会在GPU的基础上改良,陈巍告诉记者,目前两方力量在博弈,一方面,大家对新结构和更强大的算力有需求,另一方面,英伟达已有完善的CUDA生态,新旧力量正在此消彼长。Kd4速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  Owen Rogers告诉记者,除了ASIC和GPU,未来还可能出现新的SoC(系统级芯片)设计,聚合不同类型的处理器、内存和互联技术,以满足不同场景对不同芯片的需求,企业将根据自身需求选择最合适的AI芯片。Kd4速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  中新经纬1月11日电 据《华尔街日报》中文网11日报道,据Cognizant Impact周三发布的一份研究报告称,在未来10年内,生成性人工智能对美国经济的影响力将达到惊人的1万亿美元,但这可能会让工人付出代价。  报道称,这项   【隔夜重磅】  特朗普“带货”卖鞋,一双399美元  据美联社18日消息,美国前总统唐纳德・特朗普近日突然出现在费城会议中心,并推销一款特朗普品牌球鞋,这双鞋定价399美元(约合2800元人民币),被命名为“永不言败高帮   人社部:整治虚假职业技能培训  人社部近日发布通知,要求规范培训机构办学,严禁以招生费等名义直接或变相买卖符合补贴条件的生源,以联合办学、培训合作等名义违规转包政府补贴的培训项目,与参训人员串通提供虚假信息 检察题材电影《第二十条》春节档全国热映,艺术地诠释了“法不能向不法让步”的司法理念,受到社会各界的广泛关注。最高检微信公众号即日起开设“你评我说·检察官看《第二十条》”专栏,邀请检察人员 新华社记者熊轩昂春风送暖,阳光和煦。2月21日上午,昆明市2024年“春风行动”暨“春暖农民工”服务行动专场招聘会在南坝人力资源市场举行。记者在现场走访观察到:参加招聘会的企业涉及领域广,涵盖智能制   激活公共数据要素潜能  日前,国家数据局等部门发布《“数据要素×”三年行动计划(2024―2026年)》,进一步明确和细化了激活数据要素潜能的具体方式和实践场景,扩展数据要素的高质量供给。将通过多领域、多行业的试 。

本文链接:竞争对手环伺,谁在抢英伟达的GPU生意?http://www.sushuapos.com/show-5-21370-0.html

声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇: 大模型降价底气何在

下一篇: 三星电子从台积电口中“夺食”,2nm赛道欲超车胜算几何?

热门资讯

  • 深圳通报“男高管违法开除员工”:已仲裁,高管被辞

      中新经纬1月12日电 深圳市人力资源和社会保障局官方微信11日回应“深圳一公司男高管违法开除男员工”称,涉事公司经综合考虑该管理人员处理纠纷时存在不当言论及其他因素

  • 官方:2023年12月蔬菜地头均价为近5年次低

      中新经纬1月11日电 农业农村部种植业管理司消息,2023年12月中旬以来冷空气活动频繁,中东部大部地区气温低于常年同期,蔬菜生长受阻,生产管理成本增加,蔬菜地头价环比上涨较多

  • 直播电商人才:是“野蛮生长”还是“学院派”培养

      直播电商人才:是“野蛮生长”还是“学院派”培养  在2024年寒假来临之前,北京电子科技职业学院电子商务(京东定向培养)专业的学生,迎来了一次直播实操培训课。  整个教

  • 2024年春节档观众满意度调查结果显示:4部影片超85分

      2024年春节档观众满意度调查结果显示:4部影片超85分  中新网北京2月18日电(记者 上官云)记者从中国电影艺术研究中心获悉,中国电影观众满意度调查?2024年春节档调查结果

  • 中国春节跨境游回暖:免签效应强,入境消费火

      中国春节跨境游回暖:免签效应强,入境消费火  中新社北京2月18日电 (记者 夏宾)“双向奔赴”的跨境旅游在中国春节假期回暖。  随着中国对多个国家单方面免签证,与新加

  • 中共中央印发《中国共产党巡视工作条例》

    近日,中共中央印发了修订后的《中国共产党巡视工作条例》(以下简称《条例》),并发出通知,要求各地区各部门认真遵照执行。通知指出,《条例》坚持以习近平新时

  • 探店1天|逛手机实体店的人,需求都是啥?

      中新经纬2月23日电 (林琬斯)“前一秒我还在想:开门送客还不简单?把门往外一推不得了。后一秒已经被‘同事’上了一节生动的‘开门’课。”近日,中新经纬以“体验顾问”的身

  • “中新免签朋友圈”效应:春节赴新游同比涨960%

      “中新免签朋友圈”效应:春节赴新游同比涨960% 带动“新马泰”线路  21世纪经济报道 胡慧茵  春节是新加坡重要的节日。每到农历新年,新加坡的大街小巷就洋溢起浓浓

  • 国产手机为什么一机难求

      国产手机为什么一机难求  手机市场高质量供给不仅能满足不断升级的消费需求,还能激发消费升级意愿,释放新的发展动能。拥有与时俱进的创新力,培育更多新质生产力,国产手机

  • “药械同追”试点项目助力医疗产品追溯标准化

      “药械同追”试点项目助力医疗产品追溯标准化  近日,全国首个GS1“药械同追”试点项目顺利通过中国物品编码中心的验收。该项目是以国际通用的GS1编码标准为基础建设的

  • 2023年北京高精尖产业新设市场主体占比提升至66.1%

      2023年北京高精尖产业新设市场主体占比提升至66.1%  中新网北京2月22日电 (记者 吕少威)京津冀协同发展十年来,北京科技、商务、文化、信息等高精尖产业新设市场主体占

  • 西王集团等被执行超3.3亿

      中新经纬2月22日电 据中国执行信息公开网消息,西王集团有限公司(以下简称“西王集团”)、西王国际贸易(青岛)有限公司、王勇、王棣、王伟2月20日被青岛市中级人民法院执

推荐资讯

  • 日榜
  • 周榜
  • 月榜