国内首个国产GPU+类脑芯片异构混合推理系统发布:Attention交给GPU、FFN交给类脑芯片,性价比提升一倍以上
发布时间:2026年09月13日 10:00:009月13日,2026中国算力大会上,移动云联合中国电子科技南湖研究院、北京灵汐科技、上海天数智芯、清华大学、北京大学发布国内首个国产GPU+类脑芯片大模型异构混合推理系统。经DeepSeek V4实测,相较同类国产GPU算力集群性价比提升一倍以上、运营成本降低40%以上。核心思路为「分而治之」:Transformer的Attention层交给国产GPU,FFN/MOE专家模块交给类脑芯片处理,通过自研编译器和高速互联协议实现两类算力协同调度。这是国产算力在架构创新上的一次重要突破。
9 月 13 日,在深圳召开的 2026 中国算力大会上,移动云联合中国电子科技南湖研究院、北京灵汐科技、上海天数智芯、清华大学、北京大学发布国内首个国产 GPU + 类脑芯片大模型异构混合推理系统。经 DeepSeek V4 模型实测,该系统相较同类纯国产 GPU 算力集群,性价比提升一倍以上、运营成本降低 40% 以上。
核心思路:分而治之
这套系统的核心创新在于对 Transformer 模型不同计算模块做了"按需分工":
- Attention 层(注意力机制):交给国产 GPU 处理——Attention 涉及大量矩阵乘法与动态访存,是传统 GPU 的强项;
- FFN/MOE 专家模块(前馈网络/专家混合):交给类脑芯片(SNN,脉冲神经网络芯片)处理——FFN 层相对固定、对延迟更敏感,类脑芯片在这类计算上能效比远高于传统 GPU。
两类芯片通过自研编译器和高速互联协议(跨板、跨节点)实现协同调度,对外呈现统一的推理服务。
为什么类脑芯片
类脑芯片的设计灵感源于大脑神经元的脉冲式放电,相比传统 GPU 的冯·诺依曼架构,具有低功耗、事件驱动、适合稀疏计算等特点。但长期以来,类脑芯片在通用 GPU 市场难以与英伟达、AMD 竞争,多集中于物联网、边缘计算场景。这次将类脑芯片引入大模型推理的核心环节,相当于为它找到了一个可能真正发挥优势的新赛道。
意义
这套系统至少传递了三层信号:一是国产算力正在从"追赶型"投入走向"架构型"创新,不再只是简单堆 GPU 数量,而是开始根据模型特性做异构调度;二是类脑芯片这类曾经偏冷门的国产硬件,有可能在大模型推理环节找到真正的落地场景;三是高校(清华、北大)、科研机构(中电科)、芯片厂商(灵汐、天数智芯)、云计算厂商(移动云)四方协同的创新模式,正在成为国产算力突破的有效路径。
展望
异构混合推理系统能否真正在大规模生产环境中稳定运行,还需要更多实测验证。但"分而治之"的思路本身极具启发性——大模型推理需要的算力是多元化的,没有任何一种硬件能在所有模块上保持最优,异构协同可能是国产算力在当前硬件基础下实现"弯道超车"的重要方向。
Sources: