2026年9月12日模型推理加速 张量并行该开几卡:从每层两次 All-Reduce 算清加速边界 从活跃 token 数、隐藏维度和实测集合通信延迟出发,判断张量并行该开几卡,并比较单卡多副本与流水线并行的代价,附标准库验证和排障顺序。