用 100 步 GRPO 微调 350M 模型以改善结构化输出

跨 HF Jobs 的 LoRA 异步 GRPO：一个存储桶、一个代理，不用 NCCL

Async GRPO with LoRA across HF Jobs: a bucket, a proxy, and no NCCL

Hugging Face 博客文章（2026 年 9 月 10 日），讲在 HF Jobs 上以 LoRA 方式做异步 GRPO 训练，标题点出方案依赖一个存储桶和一个代理、不使用 NCCL。材料显示文章按多次实验（Run 1 到 Run 5）组织，依次讨论训练器跟不上、打包 micro batch、停止重算前向、三副本以及提高在途请求上限等调整。材料中未给出更多结论细节。

把数据库评分转化为强化学习奖励：用 ThinkingBox 对智能体进行后训练

Turning Database Grading into RL Rewards: Post-Training Agents with ThinkingBox

这是此前博客的后续，介绍已在 GitHub 上发布的 ThinkingBox-Training。作者用比较最终数据库状态与预期结果的方式评估智能体工作，并把同类的可执行信号用作 ThinkingBox-Bench 之外训练任务的奖励。文中报告对 Qwen3.8-27B 经 50 步 GRPO 后平均成功率从 51.70% 升至 60.78%，二十次尝试全部正确的任务数从 38 增至 107；ThinkingBox-Bench 包含 507 项任务。

2025 年大语言模型现状：进展、问题与预测

Sebastian Raschka 于 2025 年 12 月 30 日发布在个人杂志上的年度回顾文章，梳理 2025 年大语言模型的主要发展，包括被作者称为“推理、RLVR 和 GRPO 之年”的趋势、2025 年 1 月 DeepSeek R1 的发布及其影响，并讨论仍然存在的局限与开放问题以及对后续发展的看法。

斯坦福 CME295 Transformer 与大语言模型 | 2026 年秋季 | 第 3 讲 — LLM 训练

Stanford CME295 Transformers & LLMs | Autumn 2026 | Lecture 3 - LLM training

这是斯坦福课程 CME295 2026 年秋季学期的第三讲录像，由 Afshine Amidi 与 Shervine Amidi 讲授。内容涵盖预训练与交叉熵损失、数据配比、中期训练、长上下文训练、监督微调（SFT）、LoRA、偏好调优、Bradley-Terry 模型、RLHF、DPO、推理能力、GRPO、在线策略蒸馏（OPD）及一个端到端示例。