中国科研团队发布类脑脉冲大模型“瞬悉” 1.0 开启新一代人工智能发展新路径
创始人
2025-09-09 13:03:02
0

中国科学院自动化研究所科研团队近日宣布,成功研发并发布全球首个基于国产GPU算力集群的类脑脉冲大模型——“瞬悉”1.0(SpikingBrain-1.0)。该模型通过创新性的“内生复杂性”理论架构,实现了在超长序列处理、训练效率及生态构建等领域的多项突破,为人工智能发展开辟了低功耗、高效率的新路径。

与传统基于Transformer架构的大模型不同,“瞬悉”1.0以脉冲神经元为核心计算单元,首次提出大规模类脑线性基础模型架构,并完全依托国产GPU平台完成全流程训练与推理。这一创新解决了脉冲驱动下模型性能退化的难题,使其在法律文档分析、医学影像处理、高能粒子物理实验等超长序列任务中展现出显著效率优势。例如,在DNA序列分析和分子动力学轨迹模拟场景中,模型的处理速度较传统方法提升了数个数量级。

研发团队负责人李国齐研究员介绍,模型通过动态阈值脉冲化策略与混合专家模型结合,实现了超过69%的稀疏度,长序列脉冲占比仅1.85%,大幅降低了计算资源消耗。在训练阶段,模型仅需主流大模型2%的预训练数据量,即可在多任务语言理解、常识推理等任务中达到同等性能水平;推理阶段则利用脉冲神经元的事件驱动特性,将复杂度降至常数级别,显存占用不随序列长度增加而显著上升。

技术突破体现在四大核心领域:其一,模型训练复杂度为线性或近线性,显著提升长序列训练效率;其二,推理效率实现数量级提升,尤其适用于超长序列场景;其三,构建了适配国产GPU集群的完整生态,包括高效训练框架、算子库及并行策略;其四,通过多尺度稀疏机制降低能耗,为下一代神经形态芯片设计提供了理论支撑。

对比主流Transformer模型,“瞬悉”1.0的优势在于突破了序列长度对计算资源的制约。传统模型训练成本随序列长度平方级增长,推理显存占用线性增加,而“瞬悉”1.0通过脉冲神经元的内生动力学特性,将计算复杂度控制在线性范围内。研究团队已公开模型代码、测试平台及中英文技术报告,并强调该架构为构建自主可控的非Transformer生态提供了可行性范本。

据悉,该模型的理论基础源于对大脑神经元工作机制的深度模拟。研究人员揭示,现有线性注意力机制本质上是树突计算的简化形式,而“瞬悉”1.0通过建立脉冲神经元与线性注意力的数学联系,为模型复杂度与性能的同步提升指明了方向。这一成果不仅推动了类脑计算的发展,也为低功耗人工智能设备的落地应用奠定了技术基础。

相关内容

热门资讯

四分钟插件!边锋斗地主,白金岛... 四分钟插件!边锋斗地主,白金岛三打哈有外 挂吗(好像存在有挂)1、白金岛三打哈有外 挂吗机器人多个强...
六分钟攻略!进贤聚友棋牌有挂吗... 六分钟攻略!进贤聚友棋牌有挂吗,友空互娱都是是有挂,玩家教你(有挂详情)1、实时进贤聚友棋牌有挂吗开...
今日头条!!心悦海南麻将真的有... 今日头条!!心悦海南麻将真的有挂吗(辅助挂)外挂透明挂辅助软件(2022已更新)(哔哩哔哩)1、打开...
推荐一款!胖猪竞技有外挂没(切... 推荐一款!胖猪竞技有外挂没(切实是真的有挂)详细透视辅助教程;1、胖猪竞技有外挂没系统规律教程、胖猪...
9分钟揭秘!八闽十三水辅助,同... 9分钟揭秘!八闽十三水辅助,同城字牌有挂吗(好像是有挂);1、很好的工具软件,可以解锁游戏的八闽十三...
一分钟了解!闽游麻将游戏有挂吗... 一分钟了解!闽游麻将游戏有挂吗(辅助挂)透视脚本辅助挂(2023已更新)(哔哩哔哩)1、闽游麻将游戏...
九分钟内幕!雀神麻将系统规律,... 九分钟内幕!雀神麻将系统规律,中至小程序辅助器免费一直是真的有挂,AA德州教程(有挂解说);1、许多...
揭秘几款!欢聚斗地主有挂吗(原... 揭秘几款!欢聚斗地主有挂吗(原来有挂)详细辅助挂教程;1、欢聚斗地主有挂吗ai辅助优化,欢聚斗地主有...
来一盘!新猴王金花有挂吗(辅助... 来一盘!新猴王金花有挂吗(辅助挂)透视辅助工具(2023已更新)(哔哩哔哩)1)新猴王金花有挂吗辅助...
九分钟插件!旺旺福建麻将跑胡子... 九分钟插件!旺旺福建麻将跑胡子有挂吗,白金岛跑得快有外 挂吗(切实是有挂)1、旺旺福建麻将跑胡子有挂...