4bit 量化为什么不一定更快：权重变小之后，瓶颈去了哪里
4bit 权重量化省下了显存，为什么生成速度没有同比提升？从权重与 KV 读取量出发，推导不同批次下的收益边界，用可运行代码区分访存、计算和反量化开销，再设计固定负载与容量两组对照实验。
分类： 模型推理加速
模型推理服务的延迟、吞吐、显存、算子、调度与解码算法。
大模型推理加速（一）：先分清 Prefill、Decode 和你真正要优化的指标
从首 token 等待和逐 token 生成两种慢出发，区分 Prefill、Decode、TTFT、TPOT 与吞吐，并给出可比较的服务基准方法。