# 微调与模型适配 学习监督微调、LoRA、模型合并和领域适配，适合定制模型的开发者。 - 所属：[模型原理与训练]() - 网站：[https://oplearnx.com/topics/finetuning-adaptation]() ## 推荐学习顺序 1. [机器学习/AI 的 Hello World：从随机森林到 RLVR]()（博客 · 入门）：Sebastian Raschka 的博客文章，延续他每两年整理一次的“Hello World”入门示例清单，列出 2013 至 2025 年的代表性最小示例，包括 Iris 数据集上的随机森林、Titanic 上的 XGBoost、MNIST 上的多层感知机、CIFAR-10 上的 AlexNet、IMDb 影评上的 DistilBERT、Alpaca 50k 上用 LoRA 微调的 Llama 2，以及 MATH-500 上用 RLVR 的 Qwen3，并逐一给出背景说明和代码示例出处。 2. [MIT 6.S191：深度学习导论]()（课程 · 入门）：MIT 6.S191 深度学习入门课程网站。课程定位为高强度的短期训练营，讲授深度学习基础及其在自然语言处理、计算机视觉、生物等领域的应用，内容包括深度学习算法基础、构建神经网络的实践经验，以及大语言模型和生成式 AI 等前沿话题，并以项目提案竞赛收尾。先修要求假设学习者掌握微积分（求导）和线性代数（矩阵乘法），有 Python 经验有帮助但非必需，也欢迎旁听。页面显示 2026 年课程时间为 2026 年 3 月 30 日至 5 月 25 日每周一美东时间上午 10 点，线上版本每周同步发布，并列出各讲主题与幻灯片、视频、代码实验室的开放安排。 3. [使用低秩适应（LoRA）进行参数高效的大语言模型微调]()（博客 · 入门）：Sebastian Raschka 的博客文章，介绍低秩适应（LoRA）这一参数高效微调技术。文章先说明为何要微调预训练大模型、全参数微调的计算成本问题，再引出 LoRA 的核心思路，并将其与 prefix tuning、adapter 等其他参数高效方法做比较。适合对大模型微调原理和参数高效方法感兴趣的读者。 4. [改进 LoRA：从零实现权重分解低秩适应（DoRA）]()（教程 · 进阶）：Sebastian Raschka 的文章，先回顾 LoRA 的工作原理，再介绍新提出的 DoRA（权重分解低秩适应）方法，并在 PyTorch 中从零实现 LoRA 与 DoRA 两种方法。适合想理解这两种微调技术实现细节的读者。 5. [斯坦福 CME295 Transformer 与大语言模型 \| 2026 年秋季 \| 第 3 讲 — LLM 训练]()（课程 · 深入）：这是斯坦福课程 CME295 2026 年秋季学期的第三讲录像，由 Afshine Amidi 与 Shervine Amidi 讲授。内容涵盖预训练与交叉熵损失、数据配比、中期训练、长上下文训练、监督微调（SFT）、LoRA、偏好调优、Bradley-Terry 模型、RLHF、DPO、推理能力、GRPO、在线策略蒸馏（OPD）及一个端到端示例。 6. [VibeThinker-3B 与后训练的力量]()（博客 · 深入）：Sebastian Raschka 博客文章，详细分析基于 Qwen2.5-Coder-3B 的 VibeThinker-3B 模型，指出其所报告的推理能力提升来自一套细致的后训练流程。文中列出报告基准成绩（AIME 2026 为 94.3、LiveCodeBench v6 为 80.2、IMO-AnswerBench 为 76.4），介绍其沿用标准 Qwen2 解码器结构及配置参数，并概述后训练配方，包括数据合成、两个监督微调阶段、多个强化学习阶段、离线自蒸馏和最后的指令微调。适合关注模型架构与后训练技术的读者。 7. [为开放权重模型微调构造边缘案例，最难的部分是什么？\[D\]]()（帖子 · 进阶）：r/MachineLearning 的讨论帖，提出问题：在为开放权重模型微调、重点提升边缘案例处理能力时，如何发现稀有或异常的边缘案例、如何在已有数据集上改造出更专门化的案例、样本是手写还是用模型合成或从真实数据挖掘、如何控制质量、如何判断覆盖度是否足够，以及是否有加入更多边缘案例反而使模型变差的经历。适合正在做开放权重模型微调数据构建的人阅读。 8. [在波兰语法律数据上对 Qwen9B 做 CPT 后，怎么让它聊天？重点：怎么让它推理？怎么在我的 harness 里做函数调用？先做哪个？\[D\]]()（帖子 · 深入）：这是一条 Reddit r/MachineLearning 社区帖子。发帖人基于 Qwen3.5-9B-BASE 训练波兰语法律模型（计划之后扩到更大规模的 qwen），已完成三个连续 CPT 阶段、每阶段约 8000 万 token，依次为复杂法律评注、立法（欧盟与本地）、法院判决，各阶段从上一检查点继续且不混合来源；在一个小型波兰金融法律多选题测验上略优于基座模型且立法检查点最好。发帖人的困惑是如何把领域适应的基座模型变成能推理法律问题的 agentic 聊天助手，如何获得推理能力、在自家 harness 中的工具使用训练，以及 SFT 与 RL 在该流程中的位置和顺序，并列出可获取的数据类型（如 Facebook 法律问答群中的真实杂乱提问）。适合正在做领域继续预训练和后续 SFT/RL 对齐实验的人阅读。 9. [我为语音转文字应用微调了一个 LLM，用来清理转写文本]()（帖子 · 进阶）：一篇 r/LocalLLaMA 社区帖子，作者为自己开发的语音转文字应用 WhisperNow 微调本地 LLM 做文本清理，去除口头填充词、误起头、自我纠正并格式化列表。帖子介绍了 66,557 行的数据集（合并公开数据与合成听写内容），说明训练中发现的薄弱点及补充样本的做法，并给出 LFM2.5 1.2B/2.6B、Qwen3.5 4B 三个全量微调模型在 GPU 与 CPU 上的耗时对比，以及与若干云端 API 的延迟对照。适合在做本地语音输入或文本后处理模型微调的人阅读。 10. [jatechan/ai-data-extractor]()（项目 · 进阶）：一个免费开源工具，用于从 AI 编程助手中提取本地聊天历史并统一为 JSONL 格式，支持 Claude Code、Codex CLI、Cursor、Windsurf、Aider、Cline/Roo Code 等。README 说明其可自动发现并提取用户消息、回复、代码上下文、代码改动、工具调用及时间戳、会话 ID、项目路径、模型名等字段，列出各来源的存储格式与搜索路径。 11. [NVIDIA Nemotron 3.5 Transcribe 与 Granary v2：可提示、可适配的智能多语言转写]()（博客 · 进阶）：这是 NVIDIA 发布在 Hugging Face 上的博客，介绍开放的 Nemotron 3.5 Transcribe 模型与 Granary v2 数据流程。该模型把多语言转写、说话人区分（diarization）、翻译和音频问答整合在同一个检查点中，可转写 40 种语言，并支持提示词控制；文章同时提供 Granary v2 数据处理流程与微调方案以便适配。适合关注语音模型与开源权重的开发者阅读。 12. [4B 3D 编码模型更新：一次性生成效果与画面质量明显提升]()（帖子 · 进阶）：这是一篇 Reddit r/LocalLLaMA 社区帖子，作者发布其 4B 3D 场景编码模型的新版本，包括完整 FP16 权重，并公开了训练数据集 CCORE Three.js 3D Scenes（4146 个场景示例，3933 训练 / 213 验证，含提示、完整思考轨迹、HTML/JavaScript 响应、复杂度等级和可选渲染参考图，MIT 许可）。帖中给出 Q8 的推荐参数（temperature 0.6、top-k 20、top-p 0.95），说明 Q4 已发布但本版未测试，并提醒在 LM Studio 中关闭 MTP、重新下载同名文件。适合用本地小模型生成 Three.js 3D 场景、或想用其数据集训练模型的人阅读。 13. [Swift1.5 qwen flash next iq3xxs（gsq rco）去审查版 \+ 基础模型：能否不用重复下载？]()（帖子 · 入门）：r/LocalLLaMA 社区帖子。发帖者把 swift 1.5 qwen flash next gsq rco iq3xxs 作为主力模型跑在 Strata 上，但偶尔遇到拒答，想同时保留 abliterated（去审查）版本，又听说后者质量会有损失，只打算在特定边缘情况使用。因其 1TB 存储所剩不多，询问是否可以只下载有变化的权重再与之合并，并说明自己是新手、不确定这种做法是否可行。适合在有限硬盘空间下管理多个量化模型变体的人阅读。 14. [首批无需上采样步骤的 6 步 LoRA 适配器，速度约提升 5 倍 \[N\]]()（项目 · 进阶）：r/MachineLearning 社区帖子，作者发布了托管在 Hugging Face 上的一组 6 步 LoRA（PrunaAI/P-Q-Image-2.1），称可将图像生成或编辑从 40 步缩减到 6 步；其中 6 步版用于编辑时保留输入，6 步上采样版去掉了单独的提示词上采样步骤，据称可节省 41 至 80 秒，适配器直接加载在 Qwen-Image-2.1 之上、流程无需改动。适合关注扩散模型少步蒸馏、图像生成/编辑加速的人阅读。 15. [在 Diffusers 中欢迎 FLUX.3 Image Klein]()（博客 · 进阶）：这是 Hugging Face 博客的一篇文章（2026 年 10 月 15 日），介绍 Black Forest Labs 的新开放图像生成模型 FLUX.3 Image Klein 以及它在 Diffusers 中的首日支持。该模型同时支持文生图、多参考图生图和新增的布局控制（在提示词中写边界框指定图像各部分位置），发布了时间步蒸馏版和基础版两个开放检查点，并附带 NVFP4/FP8 权重加载、LoRA 训练脚本和 Modular Diffusers 流水线支持。 16. [大规模自蒸馏中的 EMA 教师：ZeRO-3 \+ PEFT \[P\]]()（项目 · 深入）：r/MachineLearning 社区帖子，讨论自蒸馏中 EMA 教师与大模型扩展的问题：同时把教师和学生放在 GPU 上会增加延迟和 ZeRO-3 通信开销，作者改用 LoRA 微调，冻结共享骨干、只维护学生和教师两个轻量适配器，并将在 TRL 和 ZeRO-3 下可运行的实现打包成即插即用仓库，支持教师/学生适配器切换、EMA 教师检查点保存与恢复，以及在 GPU 显存紧张时修复内存尖峰的 deepspeed 配置，已在 Qwen3.5 和 ToolAlpaca 上测试。适合做分布式训练、ZeRO-3 与 LoRA 微调实验的人阅读。 --- 中文标题与摘要由模型根据原文生成，以原文为准。 来源：LearnMap · 学径（https://oplearnx.com）