Skip to content

集群形态

什么时候读:要交付/使用昇腾超节点或集群(多机共享算力的大规模场景)。

一、代表产品

产品定位官方文档
Atlas 900 A3 SuperPoD 超节点面向超大模型训练/推理的整柜超节点,A3 代际链接
Atlas 900 A2 PoD 集群基础单元A2 代际的集群基础单元,规模化训练链接

二、何时需要集群

  • 单个模型显存需求超出单机(如超大参数模型、长序列、MoE 大模型)。
  • 需要大规模并行训练 / 推理,单机吞吐不够。
  • 组网(HCCS 片内 / 机间 RDMA 等)为高带宽低延迟设计。

三、软件协同

集群形态通常配合:

  • MindSpeed:并行策略(张量/流水/数据并行等)训练。见 MindSpeed 预训练
  • vLLM-Ascend / MindIE:专家并行(EP)、多卡推理。见 推理全景
  • HCCL:昇腾集合通信库。

四、部署要点

  • 集群的组网规划(管理网 + 业务网 + 高性能网/存储网)很关键,参考文献与官方部署指导。
  • 版本配套在集群规模下更要一致,无法逐机试错。
  • 使用前建议先确认 supernode 识别、NPU 拓扑、HCCL 测试通过。

NOTE

超节点的完整安装、配置与调优请以官方用户指南为准,此处仅作导航。

相关内容

AscendMate · AscendLA · GitHub 统计(近14天):仓库访问 次 · 独立访客 人 · 克隆