Sebastian Raschka··3 个月前
控制大语言模型中的推理努力程度
Controlling Reasoning Effort in LLMs
Sebastian Raschka 的文章,从 OpenAI o1、DeepSeek-R1 及可验证奖励强化学习(RLVR)讲起,并以新近发布的 GPT-5.6 模型家族(三个尺寸、每个约五到六档推理努力设置)为例。文章聚焦如何开发具备多种努力模式的推理模型,区别于其此前侧重把常规 LLM 转为推理模型的资料。
- 分级
- 值得看
- 所属主题
- 推理与持续学习
- 收录时间
- 2026-10-28
推荐阅读
从零构建推理模型:完整视频课程
Building Reasoning Models from the Ground Up: A Full Video Course
这是 Ahead of AI 作者发布的配套视频课程介绍,包含 8 个从零构建推理模型的编程视频,共约 11 小时,用 Python 和 PyTorch 实现推理扩展、强化学习、蒸馏等方法。课程从一个预训练 LLM 出发,实现评估与改进该模型的方法,是其此前《从零编程 LLM》课程的续篇,但不需要先修该课程。适合希望动手理解推理模型内部机制的人。
2025 年大语言模型现状:进展、问题与预测
Sebastian Raschka 于 2025 年 12 月 30 日发布在个人杂志上的年度回顾文章,梳理 2025 年大语言模型的主要发展,包括被作者称为“推理、RLVR 和 GRPO 之年”的趋势、2025 年 1 月 DeepSeek R1 的发布及其影响,并讨论仍然存在的局限与开放问题以及对后续发展的看法。
ScaffoldCoT 数据集更新:维护、面向小模型的新智能体数据集,以及一个围绕这些数据集训练的正在训练中的新模型
ScaffoldCoT Dataset Updates: Maintainance, a new agent-focused dataset for small models, and a new model in training built around the datasets!
这是一篇作者在 r/LocalLLaMA 发布的项目更新帖,介绍 ScaffoldCoT 数据集的最新变动:项目更名为 Scaffold Chat,移除了全部工具调用示例(约 27.6 万条),现有 3,450,159 条样本、16 个领域、75 个分片、约 13GB;同时发布约 10 亿 token 的真实执行编码智能体会话数据集 Scaffold Agent,并预告一个基于这些数据训练的 5–10B 模型。适合关注开源数据集构建、小模型智能体训练与数据清洗的人阅读。
LinkedIn Learning 上的 AI 推理模型课程
AI Reasoning Models Course on LinkedIn Learning
这是一篇博客文章,Sebastian Raschka 介绍他与 LinkedIn 合作推出的约 90 分钟推理模型课程,讲解推理模型与传统 LLM 的关系及其开发方式。课程分 4 个主要部分、约 30 个短视频,配互动测验和代码示例,内容涉及推理模型、推理时扩展、蒸馏和强化学习。作者说明该课程面向想了解 LLM 概念但不想做大量编码工作的人,属 LinkedIn Premium 内容。
在波兰语法律数据上对 Qwen9B 做 CPT 后,怎么让它聊天?重点:怎么让它推理?怎么在我的 harness 里做函数调用?先做哪个?[D]
CPT’d Qwen9B on Polish legal data. How to make it chat? IMPORTANTLY: how to make it reason? and function call in my harness? and which to do first? [D]
这是一条 Reddit r/MachineLearning 社区帖子。发帖人基于 Qwen3.5-9B-BASE 训练波兰语法律模型(计划之后扩到更大规模的 qwen),已完成三个连续 CPT 阶段、每阶段约 8000 万 token,依次为复杂法律评注、立法(欧盟与本地)、法院判决,各阶段从上一检查点继续且不混合来源;在一个小型波兰金融法律多选题测验上略优于基座模型且立法检查点最好。发帖人的困惑是如何把领域适应的基座模型变成能推理法律问题的 agentic 聊天助手,如何获得推理能力、在自家 harness 中的工具使用训练,以及 SFT 与 RL 在该流程中的位置和顺序,并列出可获取的数据类型(如 Facebook 法律问答群中的真实杂乱提问)。适合正在做领域继续预训练和后续 SFT/RL 对齐实验的人阅读。
一个 OpenAI 模型推翻了离散几何中的一个核心猜想
An OpenAI model has disproved a central conjecture in discrete geometry
这是 OpenAI 于 2026 年 5 月 20 日发布的文章,介绍一个内部 OpenAI 模型在平面单位距离问题上取得突破。该问题由 Paul Erdős 于 1946 年提出,问的是在平面放置 n 个点时最多有多少对点恰好相距 1。文中称,长期以来人们认为“方格”构造基本最优,而该模型推翻了这一猜想,给出了一族无穷多的构造,文章将其称为 AI 驱动数学的一个里程碑。
原文涉及
- Tulu 3: Pushing Frontiers in Open Language Model Post-Training(新标签页打开)arxiv.org
- Kimi k1.5: Scaling Reinforcement Learning with LLMs(新标签页打开)arxiv.org
- DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning(新标签页打开)arxiv.org
- Qwen3 Technical Report(新标签页打开)arxiv.org
- DeepSeekMath-V2: Towards Self-Verifiable Mathematical Reasoning(新标签页打开)arxiv.org