教程精选。
Improving LoRA: Implementing Weight-Decomposed Low-Rank Adaptation (DoRA) from Scratch
Sebastian Raschka 的文章，先回顾 LoRA 的工作原理，再介绍新提出的 DoRA（权重分解低秩适应）方法，并在 PyTorch 中从零实现 LoRA 与 DoRA 两种方法。适合想理解这两种微调技术实现细节的读者。
ChromaDB: Embeddings and Vector Databases in Python
Real Python 的教程，作者 Harrison Hoffman，阅读时长约 1 小时 7 分钟，难度标注为高级，配套有 17 课时的相关课程。内容涵盖向量基础与相似度、词嵌入与文本嵌入、ChromaDB 这一开源向量数据库的入门、向集合添加文档、查询与过滤更新删除，最后以一个给大语言模型提供上下文的实例串联全流程。适合想用 Python 搭建向量检索与 LLM 上下文应用的开发者阅读。
How to Read Data into GPU Memory in Python with NVIDIA GPUDirect Storage
NVIDIA 技术博客，作者 Andrew Hoyle，2026 年 10 月 22 日发布。文章介绍 KvikIO 库如何以 Python 和 C++ 高层接口封装 cuFile C API，实现加速的文件 I/O 直读 GPU 显存；说明了 KvikIO 与 cuFile 各自的路径选择、KVIKIO_COMPAT_MODE、KVIKIO_GDS_THRESHOLD、cufile.json 中的 parallel_io 与 min_io_threshold_size_kb 等设置，以及用 CUFILE_STATS_LEVEL=3 与 gds_stats 判断走加速路径还是兼容路径，并提到 KvikIO 在 cuDF、cuCIM、cuPhoton 和 GPU 加速 Presto 中的应用。
MCP vs API Calls: Which Should You Use for Python LLM Apps?
Real Python 的教程，作者 Valerio Maggio，阅读时长约 28 分钟，难度标注为中级。文章从指标对比入手，分三组特性比较直接 API 调用与 MCP 服务器：集成成本与可复用性、标准化与互操作性、开销控制与成熟度，最后给出选择决策表，并注明 Anthropic 已开源 Model Context Protocol。适合在 Python LLM 应用中选择集成方式的开发者阅读。
Human-in-the-loop over MCP - Docs by LangChain
LangChain 官方文档的一页，说明当通过 MCP 端点暴露的 agent 调用 interrupt 时，Agent Server 如何用 elicitation 向 MCP 客户端索取答案并在收到回答后恢复 agent。文档描述了工具调用暂停与恢复的往返流程（resultType 为 input_required、elicit/create 请求、requestState、inputResponses 等），并注明需要 langgraph-api>=0.18.0 及支持协议修订版 2026-07-28、声明 elicitation 能力的 MCP 客户端。适合用 LangSmith/LangGraph 部署 agent 并接入 MCP 的开发者查阅。
Adversarial Example Generation
PyTorch 官方教程文档（对应 2.15.0+cu132 版本），作者为 Nathan Inkawhich，创建于 2018 年 8 月 14 日，最后更新于 2025 年 1 月 27 日。教程以图像分类器为例，介绍机器学习模型的安全与鲁棒性问题，使用快速梯度符号法（FGSM）攻击来欺骗 MNIST 分类器，演示对图像加入人眼难以察觉的扰动即可显著改变模型表现，并讨论了对抗攻击的不同类别与威胁模型。页面提供在 Google Colab 中运行和下载 Notebook 的入口。
PyTorch Distributed Overview
PyTorch 官方教程中的 torch.distributed 包总览页，将相关文档按主题分类并作简要说明。正文介绍分布式库包含并行模块、通信层以及启动和调试大型训练任务的基础设施，并列出并行 API（DDP、FSDP2、张量并行、流水线并行）和 DTensor、DeviceMesh 等分片原语。页面注明首次构建 PyTorch 分布式训练应用的人可从该文档入手寻找适用的技术。
Getting Started with Fully Sharded Data Parallel (FSDP2)
PyTorch 官方中级教程，介绍 FSDP2 的工作方式，示例代码来自 pytorch/examples。正文对比 DDP，说明 FSDP 通过分片模型参数、梯度和优化器状态来降低 GPU 显存占用，使单卡放不下的模型也能训练；并描述前向与反向计算之外参数处于完全分片状态、计算前对分片参数做 all-gather、反向中对未分片梯度做 reduce-scatter 等流程。页面说明 FSDP1 已弃用，其教程已归档。
Channels Last Memory Format in PyTorch
PyTorch 官方中级教程，介绍 channels last 内存格式是什么，以及如何用它提升某些算子的性能。正文说明该格式在保留 NCHW 维度顺序的前提下改变内存排列，使通道成为最密集的维度，并利用现有 strides 结构实现，例如 10x3x16x16 批次在该格式下 strides 为 (768, 1, 48, 3)；该格式仅针对 4D NCHW 张量实现，页面还给出连续格式与 channels last 格式之间的张量转换 API。前置条件为 PyTorch v1.5.0 和支持 CUDA 的 GPU。
Recent Developments in LLM Architectures: KV Sharing, mHC, and Compressed Attention
Sebastian Raschka 通讯文章，梳理 2026 年 4 月至 5 月主要开放权重模型发布中的架构变化，指出新架构多聚焦长上下文效率，以应对 KV 缓存大小、内存流量和注意力成本等约束。具体讨论 Gemma 4 的 KV 共享与逐层嵌入、Laguna XS.2 的逐层注意力预算、ZAYA1-8B 的压缩卷积注意力，以及 DeepSeek V4 的 mHC 与压缩注意力。文中说明主要聚焦架构设计，基本不涉及数据配比、训练计划、后训练细节、强化学习配方、基准表和产品比较。
Unlocking asynchronicity in continuous batching
Hugging Face 博客于 2026 年 5 月 14 日发布的文章，作者为 Rémi Ouazan Reboul、Pedro Cuenca 和 Aritra Roy Gosthipaty，是高效 LLM 推理系列的第二篇。文章说明如何分离 CPU 与 GPU 工作负载以大幅提升推理性能：默认的同步连续批处理会导致 CPU 与 GPU 相互等待，停顿可能占近四分之一运行时间，因此采用异步批处理让 GPU 持续计算。文中提及 KV 缓存、FlashAttention、注意力掩码等概念，并以 H200 在 Inference Endpoints 上的价格为例说明成本考量。
Reachy Mini goes fully local
这篇教程介绍如何让 Reachy Mini 机器人的对话应用在本地运行整套语音栈，不再把音频发送到服务器。方案基于名为 speech-to-speech 的级联式 VAD → STT → LLM → TTS 流程，提供兼容 Realtime API 的 WebSocket 接口，文中推荐 llama.cpp 搭配 Gemma 4、Silero VAD、Parakeet-TDT 0.6B v3 STT 和 Qwen3-TTS 等组件，并说明各组件可替换。