模型与缓存 / READING NOTES 第 6 章 KV Cache、PagedAttention 与 Prefix CacheKV 块分配、分页寻址与前缀复用 约 1 分钟阅读·持续更新 承上:FlashAttention 解决一次注意力计算的 IO;多轮生成还需要管理长期存活的 KV。 本章小文章6.1 分页 KV 的最小状态机约 3 分钟阅读↗ 6.2 KV Cache:推理显存大户约 1 分钟阅读↗ 6.3 PagedAttention约 3 分钟阅读↗ 6.4 Prefix Cache / RadixAttention约 3 分钟阅读↗ 6.5 KV Cache 管理与 Offload约 1 分钟阅读↗ 6.6 为什么是瓶颈约 1 分钟阅读↗ 6.7 减少 KV Cache 的六类手段(面试必背)约 1 分钟阅读↗ 6.8 计算示例约 2 分钟阅读↗ 6.9 面试追问约 2 分钟阅读↗ 6.10 共享块、写时复制与缓存淘汰的状态账本约 1 分钟阅读↗