# 斯坦福 CME295 Transformer 与大语言模型 \| 2026 年秋季 \| 第 3 讲 — LLM 训练

- 原标题：Stanford CME295 Transformers & LLMs \| Autumn 2026 \| Lecture 3 - LLM training
- 类型：课程
- 来源：YouTube
- 学期：未标注
- 首次精选：2026-10-26 16:31
- 分级：值得看
- 学习层级：深入
- 主题：[finetuning-adaptation](<https://oplearnx.com/md/topics/finetuning-adaptation.md>)（第 5 位）、[pretraining-data](<https://oplearnx.com/md/topics/pretraining-data.md>)（第 8 位）、[reinforcement-alignment](<https://oplearnx.com/md/topics/reinforcement-alignment.md>)（第 10 位）
- 原文链接：[https://youtube.com/watch?v=S3bCDcJhz4s](<https://youtube.com/watch?v=S3bCDcJhz4s>)
- 本站页面：[https://oplearnx.com/resources/pk\_2d240157771e](<https://oplearnx.com/resources/pk_2d240157771e>)

## 摘要

这是斯坦福课程 CME295 2026 年秋季学期的第三讲录像，由 Afshine Amidi 与 Shervine Amidi 讲授。内容涵盖预训练与交叉熵损失、数据配比、中期训练、长上下文训练、监督微调（SFT）、LoRA、偏好调优、Bradley-Terry 模型、RLHF、DPO、推理能力、GRPO、在线策略蒸馏（OPD）及一个端到端示例。

---
来源：LearnMap · 学径（https://oplearnx.com）