2026年9月11日模型推理加速 在线推理能扛多少请求:别用固定并发替代到达率压测 固定并发能测饱和吞吐,却回答不了线上安全 RPS。本文从张量工作量、开放环排队和请求级联合 SLO 出发,用多个独立重复运行的保守下包络判定单副本容量。