在波兰语法律数据上对 Qwen9B 做 CPT 后，怎么让它聊天？重点：怎么让它推理？怎么在我的 harness 里做函数调用？先做哪个？[D]
CPT’d Qwen9B on Polish legal data. How to make it chat? IMPORTANTLY: how to make it reason? and function call in my harness? and which to do first? [D]
这是一条 Reddit r/MachineLearning 社区帖子。发帖人基于 Qwen3.5-9B-BASE 训练波兰语法律模型（计划之后扩到更大规模的 qwen），已完成三个连续 CPT 阶段、每阶段约 8000 万 token，依次为复杂法律评注、立法（欧盟与本地）、法院判决，各阶段从上一检查点继续且不混合来源；在一个小型波兰金融法律多选题测验上略优于基座模型且立法检查点最好。发帖人的困惑是如何把领域适应的基座模型变成能推理法律问题的 agentic 聊天助手，如何获得推理能力、在自家 harness 中的工具使用训练，以及 SFT 与 RL 在该流程中的位置和顺序，并列出可获取的数据类型（如 Facebook 法律问答群中的真实杂乱提问）。适合正在做领域继续预训练和后续 SFT/RL 对齐实验的人阅读。
- 分级
- 值得看
- 收录时间
- 2026-10-29
原帖
TLDR: training my first general law model and unsure what to do with my data PRE-PS: it will be a replacement for opus in my current AI LAW harness, I know it will be hard but I wanna do this project and find it geniuenly fun.
中文大意
发帖人用 Qwen3.5-9B-BASE 做波兰法律模型，已按“法律评注→立法（EU+本地）→法院判决”顺序做了三轮 CPT，每轮约 8000 万 token，互不混源；在一个小型波兰金融/法律选择题小测上仅略优于 base，立法阶段 checkpoint 最好，且还没做 assistant SFT。手头数据包括：Facebook 法律问答群（真实但答案可靠性混杂）、机构认证问答（置信度最高）、法学院学习材料、少量带答案的 ABCD 题（目前用于评测）、数千条 Claude Code 风格 harness 多轮对话（需过滤/匿名/质检）、政府公开合同，以及此前 NER、判决摘要、图生成等任务的实验数据；可用 codex 清洗和生成。他纠结：1）剩下数据继续 CPT 还是直接做 SFT、token 量怎么定；2）如何 SFT 出推理，是否用注入式/合成推理或迭代自助训练；3）先做普通聊天机…
讨论区核心观点
依据 3 条评论
- 法律、医学等幻觉代价高的领域，常规做法是用 RAG 检索相关资料，建立可查询语料库，让模型不必把全部法律知识装进参数里，而专注于推理能力。 出处（新标签页打开）
- 用带完整推理轨迹的更大模型（非 OpenAI/Anthropic 来源）在可访问语料库/数据库的条件下解出问题，再用这些轨迹训练目标小模型；预算紧张时可用本地 Qwen 27B 之类先做实验。 出处（新标签页打开）
- 发帖人在追问：应选择他在 B 方案中设想的迭代训练（把注入式思考写进 harness 金标样本，再让模型自行发展推理），还是直接上 RL。 出处（新标签页打开）