记者8日从中国科学院自动化研究所获悉，来自该所等单位的科研人员首次在国产GPU（图形处理器）算力平台上完成原生类脑脉冲大模型“瞬悉”1.0的全流程训练和推理，并正式开源了70亿参数版本大模型，同时开放了760亿参数版本大模型的测试网址。这是全球首个类脑脉冲大模型，实现了全流程国产化，标志着我国在类脑计算与大模型融合创新方面取得重要突破。
当前，基于Transformer架构的大模型主要依赖简单“点神经元”与大规模算力提升智能，但其训练和推理成本随文本长度急剧增加，严重制约超长文本处理能力的提升。
在这项研究中，研究团队借鉴大脑神经元的工作机制，提出了一种“基于内生复杂性”的具有线性复杂度的类脑脉冲大模型架构，成功打造出“瞬悉”1.0。“这个模型不仅在理论上揭示了新型计算路径，还构建了适配国产算力的训练推理框架，为构建更高效、更复杂且性能更强的新型大模型开辟了新路径。”中国科学院自动化研究所研究员李国齐说。
相比传统模型，“瞬悉”1.0展现出四大核心优势：首先，在极低数据量下实现了高效训练，显著提升了长序列训练效率；其次，推理效率得到数量级提升，特别是在超长序列处理上展现出显著优势；再次，构建了国产自主可控的类脑大模型生态，支持将现有Transformer模型高效转换为类脑脉冲架构；最后，设计了多尺度稀疏机制，为低功耗类脑大模型运行提供了有力支撑。
李国齐表示，这项成果不仅是我国在类脑脉冲大模型架构和国产算力全流程建设上的重大突破，更为法律、医疗、科学模拟等超长序列应用场景提供了更高效的建模工具，也将启迪下一代神经形态计算理论和芯片设计。
记者8日从中国科学院自动化研究所获悉，来自该所等单位的科研人员首次在国产GPU（图形处理器）算力平台上完成原生类脑脉冲大模型“瞬悉”1.0的全流程训练和推理，并正式开源了70亿参数版本大模型，同时开放了760亿参数版本大模型的测试网址。这是全球首个类脑脉冲大模型，实现了全流程国产化，标志着我国在类脑计算与大模型融合创新方面取得重要突破。
当前，基于Transformer架构的大模型主要依赖简单“点神经元”与大规模算力提升智能，但其训练和推理成本随文本长度急剧增加，严重制约超长文本处理能力的提升。
在这项研究中，研究团队借鉴大脑神经元的工作机制，提出了一种“基于内生复杂性”的具有线性复杂度的类脑脉冲大模型架构，成功打造出“瞬悉”1.0。“这个模型不仅在理论上揭示了新型计算路径，还构建了适配国产算力的训练推理框架，为构建更高效、更复杂且性能更强的新型大模型开辟了新路径。”中国科学院自动化研究所研究员李国齐说。
相比传统模型，“瞬悉”1.0展现出四大核心优势：首先，在极低数据量下实现了高效训练，显著提升了长序列训练效率；其次，推理效率得到数量级提升，特别是在超长序列处理上展现出显著优势；再次，构建了国产自主可控的类脑大模型生态，支持将现有Transformer模型高效转换为类脑脉冲架构；最后，设计了多尺度稀疏机制，为低功耗类脑大模型运行提供了有力支撑。
李国齐表示，这项成果不仅是我国在类脑脉冲大模型架构和国产算力全流程建设上的重大突破，更为法律、医疗、科学模拟等超长序列应用场景提供了更高效的建模工具，也将启迪下一代神经形态计算理论和芯片设计。
南方财经全媒体记者 吴立洋 上海报道日前，2024中国家电及消费电子博览会（AWE）在上海新国际博览中心闭幕。作为一年一度的家电产业盛会，AWE既是各大厂商展示新技术与新产品的重要节点，也是 英国《自然》周刊网站3月12日刊登题为《OpenAI的文生视频工具Sora会如何改变科学——以及社会》的文章，作者为乔纳森·奥卡拉汉，内容编译如下：美国开放人工智能研究中心(OpenAI 我国制氢加氢一体站建设有了团体标准。记者从中国石化获悉，为推动我国氢能交通产业发展，中国石化联合国内数十家氢能头部企业发布了国内首个《制氢加氢一体站技术指南》团体标准。该标准的制定 近日，美国纽约州立大学石溪分校科学家菲格罗阿等人在一篇发表于《自然·量子信息》上的论文中称，他们通过把两个独立的光子存储在铷气里，首次在室温条件下构建了一个量子存储器网络。鉴于 所谓香喷喷的婴儿，到底是源于人们的爱意，还是说确有其香？《通讯·化学》21日一项小型研究首次分析了婴儿和青少年体味化学组成的差异。研究显示，有两种较难闻的化合物仅在青少年体味样本中 3月22日，中国互联网络信息中心（CNNIC）在京发布第53次《中国互联网络发展状况统计报告》。报告显示，截至2023年12月，我国网民规模达10.92亿人，互联网普及率达77.5%；网络基础设施建设持续加强，新型消费 。本文链接：首个全流程国产化类脑脉冲大模型推出http://www.sushuapos.com/show-2-13684-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。