学习教师模型、自蒸馏和同策略蒸馏，适合压缩与迁移模型能力的读者。
11 条精选 · 入门 2 · 按推荐学习顺序：越基础、直观越靠前，越系统、深入越靠后
AI Reasoning Models Course on LinkedIn Learning
这是一篇博客文章，Sebastian Raschka 介绍他与 LinkedIn 合作推出的约 90 分钟推理模型课程，讲解推理模型与传统 LLM 的关系及其开发方式。课程分 4 个主要部分、约 30 个短视频，配互动测验和代码示例，内容涉及推理模型、推理时扩展、蒸馏和强化学习。作者说明该课程面向想了解 LLM 概念但不想做大量编码工作的人，属 LinkedIn Premium 内容。
Introducing the Ettin Reranker Family
Tom Aarsen 发布的文章，推出六个基于 Ettin ModernBERT 编码器的 Sentence Transformers CrossEncoder 重排模型，参数量分别为 17M、32M、68M、150M、400M 和 1B，并公开训练数据与完整训练方法。模型采用蒸馏训练：在以 cross-encoder/ettin-reranker-v1-data 上 mixedbread-ai/mxbai-rerank-large-v2 的分数做逐点 MSE，该数据集是 lightonai/embeddings-pre-training 的子集与 lightonai/embeddings-fine-tuning 中重排子集的混合。文章还包含与多个嵌入模型在 MTEB(eng, v2) Retrieval 上的搭配结果、使用说明和训练说明。
OlmoEarth v1.1: A more efficient family of Earth observation models
这是 Ai2 发布 OlmoEarth v1.1 版本的文章。文中说明该系列模型用于卫星影像处理与大面积区域预测，相比前代可将计算成本最多降低约 3 倍，并给出模型合集、技术报告和预训练代码的链接。文中提到 v1 版本于 2025 年 11 月发布，合作伙伴已将其用于红树林变化追踪、森林丧失驱动因素分类、国家级作物类型制图等任务。
VibeThinker-3B and the Strength of Post-Training
Sebastian Raschka 博客文章，详细分析基于 Qwen2.5-Coder-3B 的 VibeThinker-3B 模型，指出其所报告的推理能力提升来自一套细致的后训练流程。文中列出报告基准成绩（AIME 2026 为 94.3、LiveCodeBench v6 为 80.2、IMO-AnswerBench 为 76.4），介绍其沿用标准 Qwen2 解码器结构及配置参数，并概述后训练配方，包括数据合成、两个监督微调阶段、多个强化学习阶段、离线自蒸馏和最后的指令微调。适合关注模型架构与后训练技术的读者。
Building the new GitHub Copilot Inline Suggestions Model: Part Two
这是 VS Code 官方博客系列的第二篇，讲述把补全式幽灵文本、光标附近的下一处编辑建议和较远位置的编辑统一到单个“3-in-1”模型的过程。文中说明此前分别由独立模型负责，并指出统一后一次请求可覆盖多种代码编辑行为，减少模型调用与服务复杂度。适合关注 Copilot 内联建议实现与编辑器 AI 设计的人阅读。