Skip to content
Blog of Code
  • 主页
  • 文章
  • 订阅
  • 关于
  • 图集
  • 推理加速
Blog of Code
Close menu
  • 主页
  • 文章
  • 订阅
  • 关于
  • 图集
  • 推理加速
Toggle menu
Blog of Code

标签: 延迟优化

2026年9月8日模型推理加速

大模型推理加速(四):推测解码为什么不改变分布,什么时候反而更慢

用三 token 概率例子推导推测解码的接受与修正分布,再用接受率和轮次成本判断它何时加速、何时变慢。

登录

主要作为CZT的博客使用

欢迎大家订阅更新

网址:www.cztcode.com

Github:https://github.com/CZT0

本页面浏览人数:3 次浏览

TOP10文章

  • 2022中科大先研院计专11408经验分享 - 3,619 浏览
  • CTF解密MISC(二) - 2,846 浏览
  • 《8小时转职Golang工程师》超时强踢功能的BUG修复 - 2,328 浏览
  • Mac软件分享 - 2,315 浏览
  • DRAM刷新方式 - 2,283 浏览
  • 科林明伦杯 - 1,785 浏览
  • Google play上架流程 - 1,646 浏览
  • IDEA JSP 热部署 - 1,632 浏览
  • VUE3之Component(一) - 1,505 浏览
  • Koa的简易目录结构设计 - 1,497 浏览

订阅更新

订阅

分类

  • Android
  • APP开发
  • C++
  • CTF
  • Flutter
  • Golang
  • Java
  • Linux
  • MyBatis
  • next.js
  • node.js
  • Spring
  • Vue
  • Web
  • 模型推理加速
  • 深度学习
  • 算法
  • 综合

友情链接

T4rn's Universe
End-donkey
冻葱Tewi
BtoAI

推理加速专题

从指标、显存到解码算法,查看完整系列

© 2026 Blog of Code. Designed By CZT