排障、适配与前沿报告 / READING NOTES

21.1 三种能力的自测

解释、实现和调试能力验收

约 1 分钟阅读·持续更新

1. 能解释：画 Q/K/V tile 的 online softmax 更新、PagedAttention 的 block table 寻址和 Scheduler 的 token/KV 双预算，分别指出它们优化的资源。
2. 能实现：独立实现 Reduction、Scan、Softmax、GEMM、RMSNorm、RoPE、Attention、KV BlockPool 和简化 Continuous Batching，给出边界测试与基线。
3. 能调试：拿到“Kernel 慢、NaN、KV 错、TPOT 抖动、NCCL Hang”时，先提出可证伪假设，选择一项指标或中间张量定位，再给修复与回归。