学习模型服务框架、并行计算与底层优化，适合维护训练和推理基础设施的人员。
44 条精选 · 入门 2 · 按推荐学习顺序：越基础、直观越靠前，越系统、深入越靠后
Profiling TorchNeuron (Part 1): System-level profiling on AWS Trainium.
这是关于 AWS Trainium 的系列文章第一篇，介绍如何系统地分析推理性能并找出时间开销所在。文章使用 Trainium 专用的开源 PyTorch 后端 TorchNeuron，讲解如何配置 torch.profiler 并抓取干净的 trace、阅读 key_averages() 表格以识别消耗 Neuron 设备时间的算子、以及通过 Neuron Explorer 追踪单个算子从框架调度到 NeuronCore 硬件执行的过程。文中说明从零讲起，假定读者没有性能剖析经验。
How to Read Data into GPU Memory in Python with NVIDIA GPUDirect Storage
NVIDIA 技术博客，作者 Andrew Hoyle，2026 年 10 月 22 日发布。文章介绍 KvikIO 库如何以 Python 和 C++ 高层接口封装 cuFile C API，实现加速的文件 I/O 直读 GPU 显存；说明了 KvikIO 与 cuFile 各自的路径选择、KVIKIO_COMPAT_MODE、KVIKIO_GDS_THRESHOLD、cufile.json 中的 parallel_io 与 min_io_threshold_size_kb 等设置，以及用 CUFILE_STATS_LEVEL=3 与 gds_stats 判断走加速路径还是兼容路径，并提到 KvikIO 在 cuDF、cuCIM、cuPhoton 和 GPU 加速 Presto 中的应用。
PyTorch Distributed Overview
PyTorch 官方教程中的 torch.distributed 包总览页，将相关文档按主题分类并作简要说明。正文介绍分布式库包含并行模块、通信层以及启动和调试大型训练任务的基础设施，并列出并行 API（DDP、FSDP2、张量并行、流水线并行）和 DTensor、DeviceMesh 等分片原语。页面注明首次构建 PyTorch 分布式训练应用的人可从该文档入手寻找适用的技术。
Getting Started with Fully Sharded Data Parallel (FSDP2)
PyTorch 官方中级教程，介绍 FSDP2 的工作方式，示例代码来自 pytorch/examples。正文对比 DDP，说明 FSDP 通过分片模型参数、梯度和优化器状态来降低 GPU 显存占用，使单卡放不下的模型也能训练；并描述前向与反向计算之外参数处于完全分片状态、计算前对分片参数做 all-gather、反向中对未分片梯度做 reduce-scatter 等流程。页面说明 FSDP1 已弃用，其教程已归档。
Unlocking asynchronicity in continuous batching
Hugging Face 博客于 2026 年 5 月 14 日发布的文章，作者为 Rémi Ouazan Reboul、Pedro Cuenca 和 Aritra Roy Gosthipaty，是高效 LLM 推理系列的第二篇。文章说明如何分离 CPU 与 GPU 工作负载以大幅提升推理性能：默认的同步连续批处理会导致 CPU 与 GPU 相互等待，停顿可能占近四分之一运行时间，因此采用异步批处理让 GPU 持续计算。文中提及 KV 缓存、FlashAttention、注意力掩码等概念，并以 H200 在 Inference Endpoints 上的价格为例说明成本考量。
Channels Last Memory Format in PyTorch
PyTorch 官方中级教程，介绍 channels last 内存格式是什么，以及如何用它提升某些算子的性能。正文说明该格式在保留 NCHW 维度顺序的前提下改变内存排列，使通道成为最密集的维度，并利用现有 strides 结构实现，例如 10x3x16x16 批次在该格式下 strides 为 (768, 1, 48, 3)；该格式仅针对 4D NCHW 张量实现，页面还给出连续格式与 channels last 格式之间的张量转换 API。前置条件为 PyTorch v1.5.0 和支持 CUDA 的 GPU。