Google Research··4 天前
睡眠框架：让大语言模型在持续学习中保留知识的新方法
The sleep framework: A new way for LLMs to retain knowledge in continual learning
这是 Google Research 的一篇博客，作者为 Ali Behrouz 和 Vahab Mirrokni，提出在持续学习中引入「睡眠阶段」的学习范式。文章指出已部署的大模型知识基本静止、受知识截止日期限制，而持续更新参数易导致灾难性遗忘，仅依赖上下文学习又受限于上下文窗口。受人类大脑在休息时处理和巩固记忆的启发，该方法为模型设计周期性的生命周期，使其持续学习并巩固脆弱的短期信息。页面标注日期为 2026 年 10 月 27 日。
- 分级
- 值得看
- 所属主题
- 推理与持续学习
- 收录时间
- 2026-10-28
推荐阅读
面向自我改进的框架工程（Harness Engineering for Self-Improvement）
Harness Engineering for Self-Improvement
Lilian Weng 的一篇博客文章，主题是递归自我改进（RSI）。文章从 I. J. Good（1965）提出的“超智能机器”与 Yudkowsky（2008）的 RSI 定义讲起，讨论现代 AI 中这一反馈回路的含义，包括模型改写自身权重，或改进训练流程与部署系统从而产生更强的后继模型，并提及前沿实验室研究加速的情况。
思考以回忆：推理如何解锁大语言模型中的参数化知识
Thinking to recall: How reasoning unlocks parametric knowledge in LLMs
Google Research 的研究文章，探讨推理能帮助语言模型回忆简单事实这一看似反常的现象，即使任务不需要复杂的逐步求解。作者提出该现象由两种机制驱动：一是利用生成的推理 token 进行隐式计算，二是生成相关事实以激活对正确答案的回忆。
Stanford CS329A：自我改进的 AI 智能体（2025 秋）
斯坦福大学 CS329A“Self-Improving AI Agents”2025 年秋季课程主页，教师为 Aakanksha Chowdhery 和 Azalia Mirhoseini。课程介绍称其涵盖智能体通过与自身及环境交互持续自我提升的技术，包括宪法式 AI、使用验证器、测试时计算扩展、搜索与 LLM 结合、基于 RL 的训练时扩展，以及工具使用、代码、记忆增强、多模态能力编排、多步推理与规划、鲁棒评估框架等；课程以阅读最新论文、课堂讨论和原创研究项目为主，并邀请学界与业界讲者分享编码智能体、STEM 研究助手、机器人自主系统等应用。课程时间为周一、周五 16:30–17:50（太平洋时间），地点 Skilling Auditorium。
斯坦福 AA228 / CS238：不确定性下的决策（2026 年秋）
斯坦福大学一门课程主页，从计算角度讲不确定性下的决策，介绍构建自主系统与决策支持系统所需的工具。内容涵盖概率模型与决策理论、随机动态下的求解方法、模型不确定性与不完整状态信息，涉及贝叶斯网络、影响图、动态规划、强化学习与部分可观测马尔可夫决策过程，应用包括空中交通管制、航空监视、自动驾驶与行星机器人探索。先修要求为基本概率与一门高级编程语言；页面注明讲座不要求到场、习题课仅在 Zoom 进行、考试为线下。适合具备概率与编程基础、想系统学习不确定性下决策方法的学生和开发者。
在波兰语法律数据上对 Qwen9B 做 CPT 后，怎么让它聊天？重点：怎么让它推理？怎么在我的 harness 里做函数调用？先做哪个？[D]
CPT’d Qwen9B on Polish legal data. How to make it chat? IMPORTANTLY: how to make it reason? and function call in my harness? and which to do first? [D]
这是一条 Reddit r/MachineLearning 社区帖子。发帖人基于 Qwen3.5-9B-BASE 训练波兰语法律模型（计划之后扩到更大规模的 qwen），已完成三个连续 CPT 阶段、每阶段约 8000 万 token，依次为复杂法律评注、立法（欧盟与本地）、法院判决，各阶段从上一检查点继续且不混合来源；在一个小型波兰金融法律多选题测验上略优于基座模型且立法检查点最好。发帖人的困惑是如何把领域适应的基座模型变成能推理法律问题的 agentic 聊天助手，如何获得推理能力、在自家 harness 中的工具使用训练，以及 SFT 与 RL 在该流程中的位置和顺序，并列出可获取的数据类型（如 Facebook 法律问答群中的真实杂乱提问）。适合正在做领域继续预训练和后续 SFT/RL 对齐实验的人阅读。
ScaffoldCoT 数据集更新：维护、面向小模型的新智能体数据集，以及一个围绕这些数据集训练的正在训练中的新模型
ScaffoldCoT Dataset Updates: Maintainance, a new agent-focused dataset for small models, and a new model in training built around the datasets!
这是一篇作者在 r/LocalLLaMA 发布的项目更新帖，介绍 ScaffoldCoT 数据集的最新变动：项目更名为 Scaffold Chat，移除了全部工具调用示例（约 27.6 万条），现有 3,450,159 条样本、16 个领域、75 个分片、约 13GB；同时发布约 10 亿 token 的真实执行编码智能体会话数据集 Scaffold Agent，并预告一个基于这些数据训练的 5–10B 模型。适合关注开源数据集构建、小模型智能体训练与数据清洗的人阅读。