学习教师模型、自蒸馏和同策略蒸馏，适合压缩与迁移模型能力的读者。
11 条精选 · 入门 2 · 按推荐学习顺序：越基础、直观越靠前，越系统、深入越靠后
Nathan Lambert 的 X 帖子，宣布其第一场关于开放模型生态的公开课，涵盖构成该生态的各个部分以及决定其走向的开放问题与争论，包括蒸馏在其中扮演的角色、如何管理风险、未来模型获取方式会如何变化。帖子列出章节时间点：什么是开放模型、为何关注开放模型、当前最强开放模型的竞争力、开放模型如何构建（蒸馏的作用）、人们是否真的在用开放模型、下一步走向及结论，并表示大约每半年回顾一次这些问题。适合关注开放模型生态与政策讨论的研究者或从业者阅读。
Building Reasoning Models from the Ground Up: A Full Video Course
这是 Ahead of AI 作者发布的配套视频课程介绍，包含 8 个从零构建推理模型的编程视频，共约 11 小时，用 Python 和 PyTorch 实现推理扩展、强化学习、蒸馏等方法。课程从一个预训练 LLM 出发，实现评估与改进该模型的方法，是其此前《从零编程 LLM》课程的续篇，但不需要先修该课程。适合希望动手理解推理模型内部机制的人。