Tech Stack
语言：Golang Python C TypeScript Java
前端：React Vue Android Next.js
后端：Gin Beego FastAPI Node.js SpringBoot
数据库：MongoDB MySQL RabbitMQ Redis
算法：NLP LLM Leetcode
最新内容
大模型推理加速（三）：FlashAttention 为什么更快，又没有省掉哪些计算
从注意力中间矩阵和显存 IO 出发，用在线 softmax 代码解释 FlashAttention 如何得到精确结果，以及端到端收益为何不等比。
Jellow 2026年9月7日 09:00
大模型推理加速（二）：KV Cache 到底占多少显存，PagedAttention 又解决了什么
从张量形状推导 KV Cache 显存占用，解释 GQA、分页分配与前缀缓存的区别，并给出容量估算代码。
Jellow 2026年9月6日 09:00
