加速与分布式 / READING NOTES 第 10 章 量化量化原理、低比特 Kernel、KV 压缩与部署选型 约 1 分钟阅读·持续更新 推理优化模块第 4 章：沿用 AIInfraGuide 模块四大纲。 承上：调度决定何时运行请求；量化通过低比特表示降低存储、读取与计算成本。 本章小文章10.1 量化基础：对称 / 非对称、粒度、PTQ vs QAT约 5 分钟阅读↗ 10.2 W8A8（SmoothQuant）：Activation Outlier 与等价变换约 2 分钟阅读↗ 10.3 Weight-only INT4：GPTQ、AWQ、Marlin Kernel约 5 分钟阅读↗ 10.4 KV Cache 量化：INT8 基础、KIVI 2-bit、FP8 KV约 4 分钟阅读↗ 10.5 FP8 与 NVFP4 / MXFP4：Hopper、Blackwell 的低比特浮点约 3 分钟阅读↗ 10.6 量化选型与 vLLM 实战：决策树 + 验证约 5 分钟阅读↗