大模型推理并行部署:DP、TP、PP、EP、SP 与 CP 的区别

DP 复制模型拆请求,TP 拆一层里的矩阵,PP 拆模型层,EP 拆 MoE 专家,SP/CP 则围绕序列维度和长上下文拆分 activation 与 attention。

2026 年 08 月 20 日 · 6 分钟 · 2983 字 · Ge Zhang