21世纪经济报道记者雷晨 北京报道
自ChatGPT及其背后的GPT系列大语言模型发布以来,人工智能大模型热潮持续蔓延。
除了提供云端大模型应用程序编程接口(API)的商业模式外,销售“软硬件结合”的大模型训推一体机是另一条备受关注的商业化路径,在中国市场上热度较高,甚至被称作AI“魔盒”。
大模型的训练和部署往往需要大量的计算资源。然而,当前国内在大模型训练上存在算力不够、缺少高端芯片等问题,导致大模型训练进展缓慢。
业内人士认为,在AI时代,既需要算力的强大性能,也需要考虑灵活性、普惠性和易获得性。
在此背景下,大模型训推一体机应运而生。训推一体机是指集成了大模型训练和推理功能的“全栈式”人工智能设备,通常包含中央处理器(CPU)、图形处理器(GPU)、存储器、操作系统、深度学习模型等软硬组件,能通过大规模数据训练掌握数据处理和预测等能力。
“训推一体机的出现,通过集成硬件设备、基础软件以及AI开发平台,降低了开发门槛,使得更多的企业和开发者能够参与到AI大模型的研发和应用中来。”一位机构分析师对记者指出。
目前,多家厂商都发布了基于华为昇腾AI基础软硬件平台的训推一体机产品。但从市场情况来看,仍处于商业化前期阶段。
灵活的AI“魔盒”
与OpenAI、谷歌等公司采取的提供云端大模型应用程序编程接口(API)的模式不同,训推一体机采取的是“软硬件结合”的模式。通过软硬件协同,优化了性能,降低部署成本。
“训推一体机可根据企业的特定业务需求提供‘开箱即用’的定制化大模型解决方案,企业将模型放到机器里,边进行推理边进行训练,相当于把大模型私有化,先让客户用起来,边用边训练,然后不断完善模型。”有业内资深人士对21世纪经济报道记者表示。
除了能够解决大模型的训练问题,训推一体机还可以提供本地化部署的解决方案,满足企业对数据安全的需求。随着数据安全和隐私保护意识的不断提高,越来越多的企业和组织希望能够在本地进行模型训练和推理,以减少数据泄露的风险。
在国内市场,自2023年3月华为昇腾携手华鹏振宇推出针对高校与科研院所的AI训练开发一体机以来,国内厂商相继发布合作版昇腾一体机,应用范围迅速拓宽,覆盖科研至AI全场景及垂类模型应用落地。
民生证券研报称,昇腾AI一体机是国内AI软硬件技术的黄金交点,是以国产算力领军者华为昇腾AI基础软硬件平台为基础,联合国内领先AI厂商打造的先进生产力工具。
2023年3月,华为昇腾与旗下华鹏振宇打造了专为高校和科研院所设计的AI训练开发一体机,奠定了将AI算力、AI平台软件、AI开发框架、开发组件和存储高效融合的算力底座基础架构。
2023年6月,软通动力(301236.SZ)发布训推一体化平台,支持用户一站式AI开发、深度适配不同AI应用场景;同年8月起,云从科技(688327.SH)、科大讯飞(002230.SZ)、智谱AI等大模型厂商合作款昇腾一体机面世。
其中,科大讯飞联合华为在去年8月15日推出讯飞星火一体机,进军私有化垂直大模型赛道。
据科大讯飞董事长刘庆峰介绍,“星火一体机”是国产软硬件一体化的私有专属大模型解决方案,开箱即可使用,提供从底层算力、AI框架、训练算法、推理能力、应用成效等全栈AI能力,面向金融、国企、央企等重点行业客户,提供自主可控的私有化大模型。
后续医渡科技、安恒信息、中兴通讯等公司将昇腾一体机用于自身垂类模型落地,昇腾一体机应用范围逐渐扩展到AI全场景。
值得一提的是,随着技术的进步和市场竞争的加剧,训推一体机的价格逐渐从百万级降至千元级。例如,云天励飞(688343.SH)推出的深目AI模盒,其售价在千元级,这在很大程度上降低了大模型应用的门槛。
当前,训推一体机市场上还有跨界玩家涌入。
开勒股份(301070.SZ)近日接受机构调研时表示,豫资开勒目前在研一款通用型的模型服务开发平台,以及具备训练、推理功能的一体机产品。
仍处于商业化前期
虽然训推一体机以低成本和灵活性著称,但不可忽视的是,它也存在一些局限性。
首先,其性能往往会受到硬件技术的限制,这不仅增加了技术持有和更新的成本,还在一定程度上制约了其处理复杂任务的能力。
与公共云服务或使用 API 接入大模型相比,训推一体机在效率方面可能处于劣势。由于其对大模型的使用较为零散,难以充分发挥大模型的整体优势,从而影响了处理大规模数据和复杂任务的效果。
从技术层面来看,训推一体机集成了多种高性能组件,并需要软硬件之间的紧密协同工作。尽管众多厂商陆续发布训推一体机,但记者多方了解获悉,多家厂商仍投入大量技术人员持续优化调试,以确保其在应用场景下的稳定性和效率。
目前,训推一体机覆盖的范围也逐渐扩展至能源、金融、运营商、政务、制造、教育科研等多领域的通用问答、写作辅助、代码辅助、智能分析、智能客服、知识咨询等场景。
但训推一体机仍处于商业化前期阶段。一位接近科大讯飞人士对记者表示,关于星火一体机的销售情况,目前还没有可披露的新消息。
近期,有投资者在互动平台向云从科技提问:云从科技携手华为联合发布从容大模型训推一体化解决方案,是否已与相关客户签订一体机业务合同或意向订单?
云从科技回应称,今年一体机的市场需求正随着国产算力和应用的明确,已经有了合同和未来预期的收入。另一方面,一体机订单优先会在信息化、私有化部署以及国产化算力需求明确的行业(如能源、教育和文旅等)突破。
从市场空间来看,华为董事、ICT(信息与通信技术)产品与解决方案总裁杨超斌在今年3月举行的华为中国合作伙伴大会上表示,2024年中国区人工智能训推一体机市场规模有望达到168亿元。
民生证券研报指出,以华为昇腾AI基础软硬件平台为基础,联合国内领先AI厂商打造的先进生产力工具,有着数据安全可控、开箱即用的特点,AI大模型在数据安全与数据要素驱动下,带来央国企与政府大模型本地化部署的刚需。乐观预计,2027年G端昇腾一体机市场规模超4500亿元,30%的G端PC将接入大模型AI。
患者只需吸入特制的“氙气”,3.5秒后一幅人体肺部磁共振3D影像就呈现出来。影像中,气体可抵达肺部的位置清晰可见,患者的肺部微结构、气体交换功能情况等一目了然。日前,中国科学院精密测量科学 记者从国家航天局获悉,3月20日8时31分,探月工程四期鹊桥二号中继星由长征八号遥三运载火箭在中国文昌航天发射场成功发射升空。科技日报记者 付毅飞 摄火箭飞行24分钟后,星箭分离,将鹊 自2019年以来,科学家已经在国际空间站上培育出了包括人类大脑、心脏和乳房在内的多个类器官模型。这些类器官通常利用人类干细胞培育而成,在一系列化学生长物质的帮助下,干细胞可发育成类似人体 所谓香喷喷的婴儿,到底是源于人们的爱意,还是说确有其香?《通讯·化学》21日一项小型研究首次分析了婴儿和青少年体味化学组成的差异。研究显示,有两种较难闻的化合物仅在青少年体味样本中 3月23日消息,xiaomi集团王晓雁晒出了xiaomiCivi 4 Pro限定色真机照,该系列共有三款颜色,分别是蓝色、粉色和黑与白,定价为3599元,将于4月1日开始发售。据了解,xiaomiCivi 4 Pro限定色整体设计更像专业 据英国《每日电讯报》网站3月18日报道,根据英国政府的新航空计划,首批电动飞行出租车将于2026年试飞。周一发布的《“飞行未来”行动计划》为飞行出租车在2030年广泛使用铺平道路。尽管在最初 。本文链接:A股群雄逐鹿AI“魔盒” 守望大模型一体机千亿级风口http://www.sushuapos.com/show-2-7809-0.html
声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。