中新经纬2月5日电 题:DeepSeek本地部署加速端侧AI推广落地
作者 舒迪 国泰君安证券研究所电子行业首席分析师
春节期间,DeepSeek以其独特的创新力,正逐步打开AI应用产业的上升通道。模型正式发布以来,DeepSeek连续多日登顶苹果App Store和谷歌Play Store全球下载榜首。DeepSeek通过多项工程创新,成功降低了训练成本和推理成本,同时提升了模型效果。
尽管DeepSeek触发了模型降本,但算力需求却并未减少,在多个层面呈现出增长趋势。随着AI应用模型向更高智能维度跃迁,训练需要更多算力;AI应用的推理也广泛需要算力支持,更多人开始训练和推理自己的模型;同时,转向对等异构计算的新主流计算形态也需要更多GPU(图形处理器)。未来,从对话到任务、到多模态,AI的发展将需要更多算力加持。
同时,以DeepSeek为代表的开源模型兴起加速了人工智能生态的构建,而DeepSeek的本地部署更是让个人知识库的构建成为可能。许多企业已经意识到,开源且具有广泛共识的模型更容易构建生态系统。DeepSeek蒸馏(指的是通过一系列算法和策略,将原始的、复杂的数据进行去噪、降维、提炼等操作)后的小模型表现出色,使得本地部署知识库从企业端扩展到个人用户。通过高效且灵活地构建私有化的AI知识管理系统,不仅保护了数据隐私,还可以根据特定需求进行定制优化。
在端侧产品设计中,算力和传输是关键因素。随着蒸馏模型能力的提升,未来端侧SoC(系统级芯片)将更加注重模型的本地部署和推理能力。端云协同升级将成为未来技术发展的必然趋势,端侧产品需要在有限的硬件资源下实现高效的计算和传输,而云端则需要提供更强大的计算能力和存储支持。
此外,DeepSeek的开源发展也降低了成本,推动了应用的繁荣。对于B端应用来说,优质开源模型可以更好地用于垂类场景。成本的压低将带来使用场景的普及,从而带动新的供给和需求。如今的AIGC(人工智能生成内容)创作已经呈现出类似的趋势,若推理成本进一步降低,对于AI(人工智能)内容的发展将有显著推动。
展望未来,DeepSeek将继续以其创新力和开源精神,推动AI技术的普及和应用。从教育、娱乐应用到电商场景,从AI视频生成技术到AI硬件落地发展,DeepSeek都有望推动相关行业的变革与发展。(中新经纬APP)
中新经纬版权所有,未经授权,不得转载或以其他方式使用。
责任编辑:孙庆阳
3月18日,中国经济信息社(以下简称中经社)垂直领域数字化应用系统发布仪式在北京举行。在发布仪式上,锚定建设“国家级经济信息旗舰”的目标,中经社推出了八大数字化应用系统。中经社此次发布的行 近日,国家知识产权局等五部门联合印发了《专利产业化促进中小企业成长计划实施方案》(以下简称《实施方案》)。《实施方案》提出,到2025年底,中小企业知识产权意识和专利转化运用能力得到普遍提升 南方财经全媒体记者马嘉璐 广州报道如何划分一般数据、重要数据、核心数据终于有了国标版“参考答案”。3月21日,国家标准GB/T 43697-2024《数据安全技术 数据分类分级规则》(以下简 随着量子技术的发展,利用量子特性突破传统测量技术极限的新一代精密测量技术——量子测量开始得到应用。记者从中国计量科学研究院获悉,由该院牵头编制的《量子测量术语》《量子精密 3月25日消息,去年huawei在Mate 60系列上首发了玄武机身架构,采用一体化金属机身,搭配上超耐用锦纤材质,使整机的抗挤压能力提高10倍,使用更放心。“玄武”是极其坚固的代表,huawei还在问界M9上采用了“ 3月23日,“天卫科技03星”暨“华祥苑壹号”卫星在厦门举行出征仪式,这是由厦门本土企业天卫科技制造研发的第三颗服务当地建设的商业卫星,标志着厦门航天卫星应用领域商业化、产业化发展更进一 。本文链接:舒迪:DeepSeek本地部署加速端侧AI推广落地http://www.sushuapos.com/show-2-10511-0.html
声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。
上一篇: OpenAI原应用负责人卡斯: DeepSeek加速AI平价化
下一篇: 家用市场期待机器人来“敲门”