DeepSeek开源华为昇腾基础组件

生活常识 1℃

9月30日消息,DeepSeek今日宣布,正式开源面向华为昇腾算力平台的基础设施组件,包括 TileLang 高级语言编译工具、计算库以及分布式通信库。这些组件与此前面向英伟达平台开源的相关组件形成一一对应关系。

文章主题示意图
主题配图,非事件现场。摄影:Nicolas Foster / Pexels

DeepSeek方面指出,TileLang 正是在这一背景下应运而生。一方面,与英伟达的 CUDA 语言相比,TileLang 的编程方式更为简洁,能够大幅提升开发效率并简化代码逻辑。

另一方面,相较于其他同类高级语言,TileLang 的编程模型可以充分释放芯片特性,从而触及硬件的性能上限。TileLang 的技术路线最初在英伟达成熟平台上得到验证,目前已经承担了 DeepSeek V4 系列模型训练中大部分算子的实现工作,是团队探索 AGI 新范式、开发高性能算子的核心工具。

此次开源的 TileLang 昇腾版本,对昇腾 Ascend C 底层指令进行了封装,提供高级语言的编程方式,同时不牺牲硬件性能。这正是 TileLang 的设计初衷。

当前,DeepSeek 训练中所使用的每一个 TileLang 算子,在昇腾上均有对应的高性能实现。TileLang 昇腾版本作为一项开源工作,希望能为更多 AI 芯片构建高可用软件生态提供示范。

本次开源还包含昇腾平台的核心计算与通信组件,为不同使用场景提供可复用的基础能力:DeepGEMM 用于加速通用矩阵运算;DeepEP 提供高效的大规模跨设备通信;TileKernels 提供数据处理所需的常规向量计算和访存算子;FlashMLA 提供稀疏注意力算子,提升长上下文处理效率;DeepSelect 则实现了高效的数据筛选。

在多项关键测试用例中,上述组件的计算与通信性能已接近硬件上限。在面向昇腾平台的研发过程中,华为团队给予了毫无保留的大力支持。双方紧密合作,共同推进基于昇腾 950 的 128 卡超节点方案,并共同对计算与通信进行了深度优化。