大模型推理并行部署:DP、TP、PP、EP、SP 与 CP 的区别DP 复制模型拆请求,TP 拆一层里的矩阵,PP 拆模型层,EP 拆 MoE 专家,SP/CP 则围绕序列维度和长上下文拆分 activation 与 attention。