学习监督微调、LoRA、模型合并和领域适配，适合定制模型的开发者。
16 条精选 · 入门 4 · 按推荐学习顺序：越基础、直观越靠前，越系统、深入越靠后
What's the hardest part of creating edge cases for fine-tuning open-weight models? [D]
r/MachineLearning 的讨论帖，提出问题：在为开放权重模型微调、重点提升边缘案例处理能力时，如何发现稀有或异常的边缘案例、如何在已有数据集上改造出更专门化的案例、样本是手写还是用模型合成或从真实数据挖掘、如何控制质量、如何判断覆盖度是否足够，以及是否有加入更多边缘案例反而使模型变差的经历。适合正在做开放权重模型微调数据构建的人阅读。
CPT’d Qwen9B on Polish legal data. How to make it chat? IMPORTANTLY: how to make it reason? and function call in my harness? and which to do first? [D]
这是一条 Reddit r/MachineLearning 社区帖子。发帖人基于 Qwen3.5-9B-BASE 训练波兰语法律模型（计划之后扩到更大规模的 qwen），已完成三个连续 CPT 阶段、每阶段约 8000 万 token，依次为复杂法律评注、立法（欧盟与本地）、法院判决，各阶段从上一检查点继续且不混合来源；在一个小型波兰金融法律多选题测验上略优于基座模型且立法检查点最好。发帖人的困惑是如何把领域适应的基座模型变成能推理法律问题的 agentic 聊天助手，如何获得推理能力、在自家 harness 中的工具使用训练，以及 SFT 与 RL 在该流程中的位置和顺序，并列出可获取的数据类型（如 Facebook 法律问答群中的真实杂乱提问）。适合正在做领域继续预训练和后续 SFT/RL 对齐实验的人阅读。
I fine-tuned an LLM to clean up transcriptions for my voice-to-text app
一篇 r/LocalLLaMA 社区帖子，作者为自己开发的语音转文字应用 WhisperNow 微调本地 LLM 做文本清理，去除口头填充词、误起头、自我纠正并格式化列表。帖子介绍了 66,557 行的数据集（合并公开数据与合成听写内容），说明训练中发现的薄弱点及补充样本的做法，并给出 LFM2.5 1.2B/2.6B、Qwen3.5 4B 三个全量微调模型在 GPU 与 CPU 上的耗时对比，以及与若干云端 API 的延迟对照。适合在做本地语音输入或文本后处理模型微调的人阅读。
4B 3D coding model update: much better one-shot results and visual quality
这是一篇 Reddit r/LocalLLaMA 社区帖子，作者发布其 4B 3D 场景编码模型的新版本，包括完整 FP16 权重，并公开了训练数据集 CCORE Three.js 3D Scenes（4146 个场景示例，3933 训练 / 213 验证，含提示、完整思考轨迹、HTML/JavaScript 响应、复杂度等级和可选渲染参考图，MIT 许可）。帖中给出 Q8 的推荐参数（temperature 0.6、top-k 20、top-p 0.95），说明 Q4 已发布但本版未测试，并提醒在 LM Studio 中关闭 MTP、重新下载同名文件。适合用本地小模型生成 Three.js 3D 场景、或想用其数据集训练模型的人阅读。
Swift1.5 qwen flash next iq3xxs (gsq rco) Abliterated + Base model without double download possible?
r/LocalLLaMA 社区帖子。发帖者把 swift 1.5 qwen flash next gsq rco iq3xxs 作为主力模型跑在 Strata 上，但偶尔遇到拒答，想同时保留 abliterated（去审查）版本，又听说后者质量会有损失，只打算在特定边缘情况使用。因其 1TB 存储所剩不多，询问是否可以只下载有变化的权重再与之合并，并说明自己是新手、不确定这种做法是否可行。适合在有限硬盘空间下管理多个量化模型变体的人阅读。