17.1 选型决策树：需求、瓶颈与证据
选型决策、技术叠加与端到端交付
| 症状 | 先获取的证据 | 可验证的方向 |
|---|---|---|
| 模型加载 OOM | 权重、临时转换、Graph / workspace | 权重量化、分片、编译捕获预算 |
| 并发 / 长上下文 OOM | KV token 容量、尾块、共享与临时槽位 | admission、分页、KV 量化、上下文策略 |
| TTFT 高 | 排队 vs Prefill、前缀命中、tokenization | 缓存、预算、Prefill GEMM 或扩容 |
| TPOT / TBT 高 | CPU 空洞、权重 / KV 读取、通信 | Graph、量化、Attention、投机或拓扑 |
| P99 失控 | 突发、长短干扰、抢占 / 重算 | 排队限制、分块、路由、PD / 池配比 |
Chunked Prefill 可能改善现有 Decode 的 TBT，同时延后长 Prompt 的 TTFT；Prefix Cache 只帮助可复用前缀；PD 引入传输；TP 增加通信；量化与投机改变 Kernel shape 和临时状态。用质量、容量和 SLO 三项约束比较组合，收益不能直接相乘。