Skip to content
主页
文章
订阅
关于
图集
推理加速
搜索:
Close menu
主页
文章
订阅
关于
图集
推理加速
Toggle menu
搜索:
标签:
Speculative Sampling
2026年9月8日
模型推理加速
大模型推理加速(四):推测解码为什么不改变分布,什么时候反而更慢
用三 token 概率例子推导推测解码的接受与修正分布,再用接受率和轮次成本判断它何时加速、何时变慢。