更多帖子
帖子进阶

一份简报文件,让大模型写出本地 9B 模型真正能执行的计划(并减少我的 Claude token 消耗)

A briefing file that lets a big model write plans a local 9B can actually execute (and cut my Claude token spend)

AI 导读

这是一篇社区分享帖,作者把用 Ornith 1.5-9B(8-bit)做本地编码智能体的经验整理成公开的简报文件,交给更强的规划模型(作者用 Claude Code)使用。内容分为分工方式(强模型写规格与小任务卡并验证结果,本地模型执行命令、构建、轮询、git 等机械工作)、如何向小模型下简报(精确文件与行号、绝对路径、1–3 行改动、每步以命令和预期输出结束、明确停止规则)、运行方式(每任务新会话、小上下文)以及验证方式;作者称小模型完成的 75 次提交合并中,其自述笔记多次出错但被计划校验捕获。适合在本地小模型与大模型之间拆分编码任务流程的人阅读。

分级
值得看
收录时间
2026-10-27

原帖

The stronger model writes the spec and a plan of small task cards, then verifies the result before merge. The local model does the long, mechanical middle: running commands, builds, polling jobs, git work.

Electrical_Ninja3805 · · 在 Reddit 查看原帖(新标签页打开)

中文大意

发帖人把 Ornith 1.5-9B(8-bit)当作本地编码代理用于真实工程,并把踩过的经验写成一份公开文件,交给更强的规划模型(他用 Claude Code)读取。分工是:强模型写规格和由小任务卡组成的计划、并在合并前验证结果;本地 9B 干漫长机械的中段工作——跑命令、构建、轮询任务、git 操作,这部分最耗 token,且在自己硬件上跑。文件内容涵盖:小模型擅长什么(工作比它的报告更可靠、不会主动探索、不知道自己何时完成、长上下文变慢);如何给它写简报(精确的文件与行范围、绝对路径、1–3 行改动、精确函数签名、每条规则都写明、每步以带确切预期输出的命令结尾、显式停止规则);如何运行(每个新会话一个任务、小上下文、用计划文件当记忆);落地前用 git 和日志核对声称,而不是看模型自述。成果:跨两个仓库 75 次提交的合并全部回归测试通过,期间模型自述多次出错但都被检查抓住。局限:…

讨论区核心观点

依据 12 条评论

  • 有回复者采用同样的分工(强模型规划、弱模型执行),但云端版:Opus 规划、Codex 里 GPT-6.1 写、Claude 审查,并在 skill 里按任务类型固定模型,不让 harness 自己选。 出处(新标签页打开)
  • 有人关心任务卡的粒度:是给每个任务卡设粗略改动上限,还是按仓库/改动切分,以及 9B 从什么时候开始“跑题”。 出处(新标签页打开)
  • 有人问 9B 会不会对糟糕的任务卡提出异议,还是照做不误。 出处(新标签页打开)
  • 有评论认为“每步的预期输出”是很好的护栏。 出处(新标签页打开)
  • 评论提到自己也在搭 harness/框架,与帖主思路相似也有分歧,共同点是“大模型规划和判断、小模型执行计划”,并向帖主致谢。 出处(新标签页打开)
  • 讨论里出现“第二次重试最有效”的说法,并追问那次重试是重写规格还是只补上前几次的错误。 出处(新标签页打开)