13.1 混合批次的问题：阶段互扰与资源耦合

速查：把 Prefill 和 Decode 部署到不同的 GPU/机器上，各自按自己的瓶颈做优化（Prefill 配高算力卡、Decode 配高带宽卡），互不干扰。

图 5-5 · Prefill Pool 与 Decode Pool 分离部署，通过 KV Cache 传输衔接

术语解释：

• PD 分离（Prefill-Decode Disaggregation，预填充-解码分离）：把两个阶段部署到独立资源池，代表工作有 DistServe、Splitwise。
• KV Transfer（KV 传输）：Prefill 算好的 KV Cache 传给 Decode 侧，是 PD 分离的核心开销来源。

合在一起的问题：
  Prefill 是计算密集、耗时波动大
  Decode 是访存密集、要求 TBT 稳定
  两者混跑 → Prefill 会打断 Decode，TBT 抖动；资源也难各自最优

PD 分离：
  ┌─────────────┐        KV Transfer       ┌─────────────┐
  │ Prefill Pool│ ───────────────────────► │ Decode Pool │
  │ 高算力 GPU  │   (NVLink/RDMA/网络)     │ 高带宽 GPU  │
  └─────────────┘                          └─────────────┘

收益：TTFT 和 TPOT 分别优化、资源配比可按负载比例调整、故障隔离。 代价：KV Cache 需要跨节点传输（大 Prompt 的 KV 可能几百 MB），网络带宽成为新瓶颈；系统复杂度上升。