mindspeed-llm-training（mindspeed LLM training 命令行）

MindSpeed-LLM 分布式训练启动

本 Skill 指导用户在华为昇腾 NPU 上启动 MindSpeed-LLM 分布式训练任务。

入口脚本

重要：所有微调任务必须使用 posttrain_gpt.py，不要使用 pretrain_gpt.py。只有 posttrain_gpt.py 才能正确路由 --is-instruction-dataset 到 packed 指令数据加载器。

快速开始

LoRA 微调（Qwen2.5-7B）

# 使用示例脚本（推荐）
bash examples/mcore/qwen25/tune_qwen25_7b_4k_lora_ptd.sh

# 或手动启动
bash run_finetune.sh

预训练（Qwen2.5-7B）

bash examples/mcore/qwen25/pretrain_qwen25_7b_32k_ptd.sh

示例脚本

脚本位于 examples/mcore/<model_name>/：

支持的模型

训练参数

并行策略

推荐并行配置

通用训练参数

微调专用参数

--finetune                    # 启用微调模式
--stage sft                   # 监督微调阶段
--is-instruction-dataset      # 使用 packed 指令数据加载器
--prompt-type qwen            # 对话模板（qwen, qwen3, llama3, glm4 等）
--no-load-optim               # 不加载优化器状态
--no-load-rng                 # 不加载随机数状态
--no-pad-to-seq-lengths       # 不填充到 seq-length（节省计算）
--reset-attention-mask        # 打包数据需重置注意力掩码
--enable-thinking             # Qwen3 思维链模式（需配合 --prompt-type qwen3）

LoRA 参数

--lora-r 8                    # LoRA 秩（典型：8-16）
--lora-alpha 16               # LoRA 缩放因子（推荐 α/r ≈ 2）
--lora-fusion                 # 启用 CCLoRA（计算通信重叠）
--lora-target-modules linear_qkv linear_proj linear_fc1 linear_fc2

QLoRA 参数

--qlora                       # 启用 QLoRA
--lora-r 8
--lora-alpha 16
--lora-target-modules linear_qkv linear_proj linear_fc1 linear_fc2

QLoRA 使用 4-bit 量化基础模型 + LoRA 适配器，显著减少显存占用。 前提：QLoRA 训练前，权重转换（HF→MG）时须加 --qlora-nf4 生成 NF4 量化权重。 注意：QLoRA 不支持 --lora-fusion，开启无性能收益。

训练启动脚本模板

#!/bin/bash

NPUS_PER_NODE=8
MASTER_ADDR=localhost
MASTER_PORT=6000
NNODES=1
NODE_RANK=0

DISTRIBUTED_ARGS="
    --nproc_per_node $NPUS_PER_NODE \
    --nnodes $NNODES \
    --node_rank $NODE_RANK \
    --master_addr $MASTER_ADDR \
    --master_port $MASTER_PORT
"

# LoRA 微调示例
torchrun $DISTRIBUTED_ARGS posttrain_gpt.py \
    --use-mcore-models \
    --tensor-model-parallel-size 1 \
    --pipeline-model-parallel-size 1 \
    --micro-batch-size 1 \
    --global-batch-size 8 \
    --seq-length 4096 \
    --train-iters 2000 \
    --lr 1e-5 \
    --min-lr 1e-6 \
    --bf16 \
    --use-flash-attn \
    --use-fused-rmsnorm \
    --use-fused-swiglu \
    --use-distributed-optimizer \
    --finetune \
    --stage sft \
    --is-instruction-dataset \
    --prompt-type qwen \
    --no-load-optim \
    --no-load-rng \
    --lora-r 8 \
    --lora-alpha 16 \
    --lora-target-modules linear_qkv linear_proj linear_fc1 linear_fc2 \
    --load ./model_weights/qwen25_7b_mcore/ \
    --data-path ./finetune_dataset/alpaca \
    --tokenizer-type PretrainedFromHF \
    --tokenizer-name-or-path ./model_from_hf/Qwen2.5-7B-Instruct/ \
    --save ./lora_output/ \
    --save-interval 1000 \
    --log-interval 1

DPO 偏好对齐

torchrun $DISTRIBUTED_ARGS posttrain_gpt.py \
    --stage dpo \
    --is-pairwise-dataset \
    --is-instruction-dataset \
    --dpo-beta 0.1 \
    --dpo-loss-type sigmoid \
    --data-path ./dataset/pairwise_data \
    # ... 其他参数同 SFT

可选：模型评估

训练完成后可运行评估：

bash examples/mcore/qwen25/evaluate_qwen25_7b_mmlu.sh

支持的评估基准：MMLU、GSM8K、BBH、C-Eval、CMMLU、HumanEval、HellaSwag、BoolQ、NeedleBench、AGI-Eval。

FSDP2 后端（高级）

使用 FSDP2 替代 Megatron 原生分布式：

torchrun $DISTRIBUTED_ARGS train_fsdp2.py \
    --fsdp2 \
    --fsdp2-reshard-after-forward \
    # ... 其他参数

常见问题

Q: AssertionError:.idx and.bin files cannot be found

两个常见原因：

1. 入口脚本错误：微调必须使用 posttrain_gpt.py（不是 pretrain_gpt.py）
2. 数据路径错误：--data-path 应为前缀（如 ./finetune_dataset/alpaca），不要包含 _packed

Q: $'\r': command not found

训练脚本有 Windows 换行符：

sed -i "s/\r//g" your_script.sh

Q: 训练卡住或 HCCL 超时

export HCCL_CONNECT_TIMEOUT=1800
export CUDA_DEVICE_MAX_CONNECTIONS=1

Q: 多机训练如何配置

# 节点 0（主节点）
NNODES=2 NODE_RANK=0 MASTER_ADDR=192.168.1.100 torchrun ...

# 节点 1
NNODES=2 NODE_RANK=1 MASTER_ADDR=192.168.1.100 torchrun ...

相关 Skill

• mindspeed-llm-env-setup - 环境搭建
• mindspeed-llm-data-prep - 数据预处理
• mindspeed-llm-weight-prep - 权重转换
• hccl-test - 多卡通信测试

参考资源

• 详细训练配置 - 完整参数列表、高级并行策略、性能优化
• MindSpeed-LLM 仓库