# PyTorch 性能分析（第二部分）：从 nn.Linear 到融合 MLP

- 原标题：Profiling in PyTorch \(Part 2\): From nn.Linear to a Fused MLP
- 类型：博客
- 来源：Hugging Face
- 发布时间：2026-06-11
- 首次精选：2026-10-28 16:25
- 分级：值得看
- 原文链接：[https://huggingface.co/blog/torch-mlp-fusion](<https://huggingface.co/blog/torch-mlp-fusion>)
- 本站页面：[https://oplearnx.com/resources/pk\_4c144fedb9ab](<https://oplearnx.com/resources/pk_4c144fedb9ab>)

## 摘要

PyTorch 性能分析系列的第二篇文章，探讨从矩阵乘法加加法到 nn.Linear 的实现，涉及为何没有独立的 mul 与 add 内核、--compile 对单个 Linear 的作用、转置在核布局与 pre-ops 中的去向、堆叠三个 Linear 构成 MLP、两类 GEMM 内核的原因、torch.compile 的作用，以及融合 Triton 内核等内容。属于偏底层的 PyTorch 性能与内核分析材料。

---
来源：LearnMap · 学径（https://oplearnx.com）