9月30日,DeepSeek正式开源面向昇腾算力平台的基础设施组件,涵盖TileLang高级语言编译工具、高性能计算库与分布式通信库,与此前面向GPU平台开源的组件一一对应。此举为中国AI软件生态的国产算力方向提供了新的选择。
本次开源发布了DeepGEMM、FlashMLA、TileKernel、DeepSelect等高性能昇腾算子库组件,以及DeepEP分布式通信库。昇腾提供了开放、稳定的Ascend C API接口,支持用户对访存路径及计算流水线进行深度调优,完成高性能算子开发。
昇腾生态兼顾不同开发范式,既支持资深开发者进行精细的手工调优,也支持TileLang等高级语言的编译对接。华为向DeepSeek团队提供了联合定义的昇腾超节点SuperPod Flex和UBL128组网方案,可实现128卡3.2Tbps单层交换Scale-up网络和256K卡两层交换Scale-out网络,支撑超低时延推理和大规模训练。
一、技术架构:通信库性能接近硬件上限
基于全互联的UBL128超节点,昇腾提供了ASC-COMM高性能自定义通信编程库,支撑用户进行通信算子与通算融合算子编程。DeepSeek团队开发的高性能DeepEP通信库,涵盖EP、CP、PP、FSDP等模式下的通信算子,为更大模型向更大集群扩展提供支持。
互联带宽实测达到Dispatch 375 GB/s、Combine 347 GB/s的通信性能,接近硬件上限。整套方案覆盖大EP低延时推理部署、单卡及单机部署、大规模训练、超长文本KVcache池化与Agentic RL等多个场景。
二、应用成果:推理与训练实践数据
为支持开发者基于昇腾950及超节点集群部署DeepSeek模型,华为将联合创新成果在CANN社区开源。面向大规模推理场景,采用EP32部署策略,DeepSeek-V4.1-Flash在offline推理模式下,可实现TPOT=5ms时每卡输出吞吐2469 tokens/s,TPOT=10ms时每卡输出吞吐5102 tokens/s。
华为方面称,这些Benchmark数据均基于Offline推理模式采集,不含Serving调度和框架负载均衡影响,上下文长度128K,Dspark投机接受率0.85。此外还开源了基于PyTorch原生框架的模型预训练、低精度量化训练、单机LoRA微调及Agentic RL等实践。
结语
华为昇腾平台方面表示,将与DeepSeek等前沿模型团队持续深化芯模协同、联合创新,以AI算力底座承载模型能力,打通推理到训练的全链路。此次开源的实际生态效果与后续适配情况,仍有待行业应用检验。



25


