模型与缓存 / READING NOTES 第 4 章 Transformer 基础算子与位置编码RMSNorm、RoPE、MRoPE 与算子融合 约 1 分钟阅读·持续更新 承上:GEMM 等基础算子输出了 Q/K/V 和隐藏状态;本章补齐归一化与位置编码。 本章小文章4.1 从矩阵算子拼成 Decoder Block约 2 分钟阅读↗ 4.2 算子融合(RMSNorm / RoPE / SiLU)约 2 分钟阅读↗