6.6 为什么是瓶颈
KV 块分配、分页寻址与前缀复用
速查：KV Cache 同时吃掉容量和带宽——容量上它随并发线性增长，常超过模型权重；带宽上 Decode 每步都要把全部 KV 从 HBM 读一遍。所以它是推理系统第一优化对象。
容量瓶颈：并发 ↑ → KV 总量 ↑ → OOM 或被迫降并发
带宽瓶颈：Decode 每步读 (权重 + KV) → 带宽决定 TPOT 下界
KV 块分配、分页寻址与前缀复用
速查：KV Cache 同时吃掉容量和带宽——容量上它随并发线性增长，常超过模型权重；带宽上 Decode 每步都要把全部 KV 从 HBM 读一遍。所以它是推理系统第一优化对象。
容量瓶颈：并发 ↑ → KV 总量 ↑ → OOM 或被迫降并发
带宽瓶颈：Decode 每步读 (权重 + KV) → 带宽决定 TPOT 下界