推理与持续学习

研究推理计算、长期学习和自我改进,适合关注模型能力进展的读者。

12 条精选 · 入门 2 · 按推荐学习顺序:越基础、直观越靠前,越系统、深入越靠后

在 3D 图中查看
  1. 6进阶
    帖子发布 10-27
    Reddit

    ScaffoldCoT 数据集更新:维护、面向小模型的新智能体数据集,以及一个围绕这些数据集训练的正在训练中的新模型

    ScaffoldCoT Dataset Updates: Maintainance, a new agent-focused dataset for small models, and a new model in training built around the datasets!

    这是一篇作者在 r/LocalLLaMA 发布的项目更新帖,介绍 ScaffoldCoT 数据集的最新变动:项目更名为 Scaffold Chat,移除了全部工具调用示例(约 27.6 万条),现有 3,450,159 条样本、16 个领域、75 个分片、约 13GB;同时发布约 10 亿 token 的真实执行编码智能体会话数据集 Scaffold Agent,并预告一个基于这些数据训练的 5–10B 模型。适合关注开源数据集构建、小模型智能体训练与数据清洗的人阅读。

  2. 7深入
    帖子发布 10-29
    Reddit

    在波兰语法律数据上对 Qwen9B 做 CPT 后,怎么让它聊天?重点:怎么让它推理?怎么在我的 harness 里做函数调用?先做哪个?[D]

    CPT’d Qwen9B on Polish legal data. How to make it chat? IMPORTANTLY: how to make it reason? and function call in my harness? and which to do first? [D]

    这是一条 Reddit r/MachineLearning 社区帖子。发帖人基于 Qwen3.5-9B-BASE 训练波兰语法律模型(计划之后扩到更大规模的 qwen),已完成三个连续 CPT 阶段、每阶段约 8000 万 token,依次为复杂法律评注、立法(欧盟与本地)、法院判决,各阶段从上一检查点继续且不混合来源;在一个小型波兰金融法律多选题测验上略优于基座模型且立法检查点最好。发帖人的困惑是如何把领域适应的基座模型变成能推理法律问题的 agentic 聊天助手,如何获得推理能力、在自家 harness 中的工具使用训练,以及 SFT 与 RL 在该流程中的位置和顺序,并列出可获取的数据类型(如 Facebook 法律问答群中的真实杂乱提问)。适合正在做领域继续预训练和后续 SFT/RL 对齐实验的人阅读。

模型原理与训练的其他细分主题