16.4 容量与成本：用 SLO 拐点，不用理论峰值

从业务长度分布与负载回放中找到单副本仍满足 SLO 的可持续能力 g，峰值到达率为 λ，预留系数按目标利用比例 u 表示：

副本起点 N = ceil(λ / (u × g))
GPU 总量 = N × 每副本 GPU 数（TP/PP 等实际拓扑）
故障容量：移除一个副本后，剩余容量仍满足目标负载与 SLO

教学例：实测 SLO 能力 g=4 req/s、峰值 λ=12 req/s、u=0.8，起点 N=4。若还要求损失一个副本后维持相同余量，则需至少 5 个副本。这个估算假设副本独立且流量平衡，KV 长度、冷缓存和共享网络可能使线性扩展失效。

同时校验 KV 容量：平均在途请求约 λ×平均驻留时间，再根据上下文分布估计 token / block，而不是只乘最大长度或平均值就忽略长尾。长入短出和短入长出应分别验证；稳态并发的排队时间也会增加驻留与资源占用。

成本报告的分母可以是“满足 SLO 且质量合格的请求”或“有效输出 token”，必须说明。机器利用率上升却带来更多超时，不一定降低有效成本。

发布包包含镜像、模型 / Adapter revision、配置、模板、采样、基准原始记录与观测规则。先小比例流量验证错误和 SLO，再扩大；权重 / tokenizer 更新会改变缓存可复用性，缓存状态不能跨不兼容版本直接继承。

演练故障包括启动失败、单副本退出、网关取消、Connector 传输失败与突发请求；检查重试风暴、孤儿 KV、重复工具执行和 drain 行为。回退后重测实际质量与服务指标，不能仅看 Pod 恢复 Running。