I·Infra Notes AI Infra 工程实践指南 ← 返回主博客
生产服务与端侧 / READING NOTES

第 15 章 性能分析与 Benchmark

指标、Benchmark、Nsight 与性能回归门禁

本章简介:区分离线设备能力与在线排队性能,沿请求、CPU 和 GPU 的时间线定位瓶颈,再建立可重复的性能回归门禁。

推理优化模块第 9 章:沿用 AIInfraGuide 模块四的章节与小节顺序;手册采用连续章号。

本章小文章