22.1 先明确适配边界与验收基线
GPU/NPU 软件栈、算子迁移、精度定位与验收
适配前冻结模型权重与配置、tokenizer/chat template、输入及采样参数、dtype/量化方式、目标设备型号、框架与运行时版本。至少保存一份原平台 reference：固定输入的中间张量、logits 和任务指标，以及 Prefill/Decode 的延迟与显存数据。不同后端的浮点计算顺序可能不同，因此先约定逐算子容差与模型级质量门槛，而不是要求所有生成文本逐字一致。
| 维度 | 最小验收证据 | 典型漏项 |
|---|---|---|
| 能跑 | Load、Forward、Prefill、Decode、Generate 都成功；明确设备与 dtype | 只跑 batch=1, seq=128 |
| 跑对 | 分层/分算子误差、logits、Top-K、PPL 或任务指标 | 只看是否生成一句通顺的话 |
| 跑快 | 同负载下 TTFT、TPOT、输出 tokens/s、吞吐、显存峰值 | 只报一个 Kernel 的加速比 |
| 跑稳 | 长时运行、高并发、长上下文、取消/抢占/恢复 | 没有验证 KV 块回收与内存趋势 |
| 覆盖率 | Batch、序列长度、动态 Shape、边界长度、并发矩阵 | 只验证单一静态 Shape |
建议把验收矩阵写成 batch × prompt_len × output_len × dtype × 并发数 × 并行度，优先覆盖块边界（block_size−1 / block_size / block_size+1）、最长上下文、空或短输入、Prefix 命中、请求取消与资源紧张。每个失败样例保留输入、版本矩阵、首次异常位置和 trace，方便复现。