# 推理与持续学习 研究推理计算、长期学习和自我改进，适合关注模型能力进展的读者。 - 所属：[模型原理与训练]() - 网站：[https://oplearnx.com/topics/reasoning-continual-learning]() ## 推荐学习顺序 1. [一个 OpenAI 模型推翻了离散几何中的一个核心猜想]()（博客 · 入门）：这是 OpenAI 于 2026 年 5 月 20 日发布的文章，介绍一个内部 OpenAI 模型在平面单位距离问题上取得突破。该问题由 Paul Erdős 于 1946 年提出，问的是在平面放置 n 个点时最多有多少对点恰好相距 1。文中称，长期以来人们认为“方格”构造基本最优，而该模型推翻了这一猜想，给出了一族无穷多的构造，文章将其称为 AI 驱动数学的一个里程碑。 2. [LinkedIn Learning 上的 AI 推理模型课程]()（博客 · 入门）：这是一篇博客文章，Sebastian Raschka 介绍他与 LinkedIn 合作推出的约 90 分钟推理模型课程，讲解推理模型与传统 LLM 的关系及其开发方式。课程分 4 个主要部分、约 30 个短视频，配互动测验和代码示例，内容涉及推理模型、推理时扩展、蒸馏和强化学习。作者说明该课程面向想了解 LLM 概念但不想做大量编码工作的人，属 LinkedIn Premium 内容。 3. [2025 年大语言模型现状：进展、问题与预测]()（博客 · 进阶）：Sebastian Raschka 于 2025 年 12 月 30 日发布在个人杂志上的年度回顾文章，梳理 2025 年大语言模型的主要发展，包括被作者称为“推理、RLVR 和 GRPO 之年”的趋势、2025 年 1 月 DeepSeek R1 的发布及其影响，并讨论仍然存在的局限与开放问题以及对后续发展的看法。 4. [控制大语言模型中的推理努力程度]()（博客 · 进阶）：Sebastian Raschka 的文章，从 OpenAI o1、DeepSeek-R1 及可验证奖励强化学习（RLVR）讲起，并以新近发布的 GPT-5.6 模型家族（三个尺寸、每个约五到六档推理努力设置）为例。文章聚焦如何开发具备多种努力模式的推理模型，区别于其此前侧重把常规 LLM 转为推理模型的资料。 5. [从零构建推理模型：完整视频课程]()（课程 · 进阶）：这是 Ahead of AI 作者发布的配套视频课程介绍，包含 8 个从零构建推理模型的编程视频，共约 11 小时，用 Python 和 PyTorch 实现推理扩展、强化学习、蒸馏等方法。课程从一个预训练 LLM 出发，实现评估与改进该模型的方法，是其此前《从零编程 LLM》课程的续篇，但不需要先修该课程。适合希望动手理解推理模型内部机制的人。 6. [ScaffoldCoT 数据集更新：维护、面向小模型的新智能体数据集，以及一个围绕这些数据集训练的正在训练中的新模型]()（帖子 · 进阶）：这是一篇作者在 r/LocalLLaMA 发布的项目更新帖，介绍 ScaffoldCoT 数据集的最新变动：项目更名为 Scaffold Chat，移除了全部工具调用示例（约 27.6 万条），现有 3,450,159 条样本、16 个领域、75 个分片、约 13GB；同时发布约 10 亿 token 的真实执行编码智能体会话数据集 Scaffold Agent，并预告一个基于这些数据训练的 5–10B 模型。适合关注开源数据集构建、小模型智能体训练与数据清洗的人阅读。 7. [在波兰语法律数据上对 Qwen9B 做 CPT 后，怎么让它聊天？重点：怎么让它推理？怎么在我的 harness 里做函数调用？先做哪个？\[D\]]()（帖子 · 深入）：这是一条 Reddit r/MachineLearning 社区帖子。发帖人基于 Qwen3.5-9B-BASE 训练波兰语法律模型（计划之后扩到更大规模的 qwen），已完成三个连续 CPT 阶段、每阶段约 8000 万 token，依次为复杂法律评注、立法（欧盟与本地）、法院判决，各阶段从上一检查点继续且不混合来源；在一个小型波兰金融法律多选题测验上略优于基座模型且立法检查点最好。发帖人的困惑是如何把领域适应的基座模型变成能推理法律问题的 agentic 聊天助手，如何获得推理能力、在自家 harness 中的工具使用训练，以及 SFT 与 RL 在该流程中的位置和顺序，并列出可获取的数据类型（如 Facebook 法律问答群中的真实杂乱提问）。适合正在做领域继续预训练和后续 SFT/RL 对齐实验的人阅读。 8. [斯坦福 AA228 / CS238：不确定性下的决策（2026 年秋）]()（课程 · 进阶）：斯坦福大学一门课程主页，从计算角度讲不确定性下的决策，介绍构建自主系统与决策支持系统所需的工具。内容涵盖概率模型与决策理论、随机动态下的求解方法、模型不确定性与不完整状态信息，涉及贝叶斯网络、影响图、动态规划、强化学习与部分可观测马尔可夫决策过程，应用包括空中交通管制、航空监视、自动驾驶与行星机器人探索。先修要求为基本概率与一门高级编程语言；页面注明讲座不要求到场、习题课仅在 Zoom 进行、考试为线下。适合具备概率与编程基础、想系统学习不确定性下决策方法的学生和开发者。 9. [思考以回忆：推理如何解锁大语言模型中的参数化知识]()（博客 · 深入）：Google Research 的研究文章，探讨推理能帮助语言模型回忆简单事实这一看似反常的现象，即使任务不需要复杂的逐步求解。作者提出该现象由两种机制驱动：一是利用生成的推理 token 进行隐式计算，二是生成相关事实以激活对正确答案的回忆。 10. [睡眠框架：让大语言模型在持续学习中保留知识的新方法]()（博客 · 深入）：这是 Google Research 的一篇博客，作者为 Ali Behrouz 和 Vahab Mirrokni，提出在持续学习中引入「睡眠阶段」的学习范式。文章指出已部署的大模型知识基本静止、受知识截止日期限制，而持续更新参数易导致灾难性遗忘，仅依赖上下文学习又受限于上下文窗口。受人类大脑在休息时处理和巩固记忆的启发，该方法为模型设计周期性的生命周期，使其持续学习并巩固脆弱的短期信息。页面标注日期为 2026 年 10 月 27 日。 11. [面向自我改进的框架工程（Harness Engineering for Self-Improvement）]()（博客 · 深入）：Lilian Weng 的一篇博客文章，主题是递归自我改进（RSI）。文章从 I. J. Good（1965）提出的“超智能机器”与 Yudkowsky（2008）的 RSI 定义讲起，讨论现代 AI 中这一反馈回路的含义，包括模型改写自身权重，或改进训练流程与部署系统从而产生更强的后继模型，并提及前沿实验室研究加速的情况。 12. [Stanford CS329A：自我改进的 AI 智能体（2025 秋）]()（课程 · 深入）：斯坦福大学 CS329A“Self-Improving AI Agents”2025 年秋季课程主页，教师为 Aakanksha Chowdhery 和 Azalia Mirhoseini。课程介绍称其涵盖智能体通过与自身及环境交互持续自我提升的技术，包括宪法式 AI、使用验证器、测试时计算扩展、搜索与 LLM 结合、基于 RL 的训练时扩展，以及工具使用、代码、记忆增强、多模态能力编排、多步推理与规划、鲁棒评估框架等；课程以阅读最新论文、课堂讨论和原创研究项目为主，并邀请学界与业界讲者分享编码智能体、STEM 研究助手、机器人自主系统等应用。课程时间为周一、周五 16:30–17:50（太平洋时间），地点 Skilling Auditorium。 --- 中文标题与摘要由模型根据原文生成，以原文为准。 来源：LearnMap · 学径（https://oplearnx.com）