第 15 章 性能分析与 Benchmark
指标、Benchmark、Nsight 与性能回归门禁
本章简介:区分离线设备能力与在线排队性能,沿请求、CPU 和 GPU 的时间线定位瓶颈,再建立可重复的性能回归门禁。
推理优化模块第 9 章:沿用 AIInfraGuide 模块四的章节与小节顺序;手册采用连续章号。
指标、Benchmark、Nsight 与性能回归门禁
本章简介:区分离线设备能力与在线排队性能,沿请求、CPU 和 GPU 的时间线定位瓶颈,再建立可重复的性能回归门禁。
推理优化模块第 9 章:沿用 AIInfraGuide 模块四的章节与小节顺序;手册采用连续章号。