学习预训练、数据配比、合成数据和训练效率，适合模型训练实践者。
16 条精选 · 入门 1 · 按推荐学习顺序：越基础、直观越靠前，越系统、深入越靠后
MIT：Introduction to Data-Centric AI（2024）
MIT CSAIL 于 2024 年 IAP 开设的“Introduction to Data-Centric AI”课程网站，页面称这是首个关于数据为中心 AI（DCAI）的课程。课程主张除改进模型外，改进数据集本身往往也是提升实际机器学习表现的最佳途径，并把数据改进从依赖试错与直觉的手工做法变成系统性的工程学科；内容侧重监督学习（如分类）中用于发现和修复数据问题、构建更好数据集的算法，强调实用而非模型数学细节，目的是缓解“垃圾进、垃圾出”问题。日程列出了数据为中心与模型为中心 AI、标签错误与置信学习等主题。
Stanford CME295 Transformers & LLMs | Autumn 2026 | Lecture 3 - LLM training
这是斯坦福课程 CME295 2026 年秋季学期的第三讲录像，由 Afshine Amidi 与 Shervine Amidi 讲授。内容涵盖预训练与交叉熵损失、数据配比、中期训练、长上下文训练、监督微调（SFT）、LoRA、偏好调优、Bradley-Terry 模型、RLHF、DPO、推理能力、GRPO、在线策略蒸馏（OPD）及一个端到端示例。
斯坦福大学 2026 年春季 CS336 “Language Modeling from Scratch” 课程主页，授课教师为 Tatsunori Hashimoto 和 Percy Liang，另列有多名课程助理及各自的答疑时间，课程录像发布在 YouTube 播放列表。页面介绍课程定位：语言模型是现代自然语言处理应用的基础，课程通过带学生走完开发语言模型的完整流程，帮助其全面理解语言模型。页面还提供往期开课（2025 春、2024 春）链接和课程联系方式说明。课程涉及大规模模型训练，适合具备深度学习与系统实现基础、希望深入理解语言模型构建过程的人了解。