Hamel's Blog(Hamel Husain 个人博客) · Hamel Husain · Antaripa Saha
How To Use Decision Models for Evals
How To Use Decision Models for Evals是Hamel's Blog(Hamel Husain 个人博客)的免费文章(en)。前置条件:需了解 precision、recall、F1 等分类指标的基本含义,以及 pass/fail 式 LLM 评测的常规做法。
学会在自动化评测中为决策模型(decision model)挑选与调优判定阈值、在性能与成本之间取舍,并正确解读其概率分数。
- 难度
- 见前置条件
- 类型
- 博客与教程 · 文章
- 语言
- en
- 规模
- 1 个课节
- 内容费用
- 免费
- 动手
- 打开即可学习
使用限制
阅读文章不需要账号;复现模型对比需要各决策模型提供商的 API 密钥。
- 练习与作业
- Jev / Perplexity Decider / Liquid d1 / Cloudflare Clef / OpenAI Decisions 等决策模型 API 密钥
学完你能
- 解释决策模型作为 LLM judge 低成本替代方案时的适用条件(成本、性能、延迟要求)
- 说明默认 0.5 判定阈值为什么可能低估模型表现,并给出改用自定义阈值的理由
- 在 precision 与 recall 之间做业务导向的权衡,用 F1 或 F-beta 选择阈值
- 写出可交给编码 Agent 执行的阈值调优提示词,包含分层五折交叉验证与最低精度/召回约束
- 用 F1 与 API 成本画出 Pareto 前沿,判断哪个决策模型适合自身场景
- 读懂概率校准图,判断模型分数能否直接当作置信度估计,并了解 Platt scaling 的作用
适合你吗
适合
适合已在使用 LLM 评分器做 pass/fail 自动化评测、想用更便宜的决策模型降低评测成本的工程师和 PM;文章以公寓租赁 Agent 的失败检测为例,实操性强。
暂不适合
不适合想系统学习评测理论框架或完全没有标注数据/评测经验的初学者;也不涉及决策模型自身的训练原理。
需要先会
需了解 precision、recall、F1 等分类指标的基本含义,以及 pass/fail 式 LLM 评测的常规做法。
课程特点
- 内容侧重
- 按内容目录判断
- 练习与项目
- 用文章提供的 charts/chart-data.json 形式的数据结构,在自己的评测集上重做阈值调优与校准图,比较与默认 0.5 阈值的差异。
- 学习时长
- 1 个课节原站未给出统一学习时长;实际用时取决于已有基础。
- 内容费用
- 免费网页正文可免费直接阅读,主要学习内容无付费墙或登录拦截;顶部 Maven 课程报名入口属作者其他产品,不影响本资源。
常见问题
免费吗?
免费:网页正文可免费直接阅读,主要学习内容无付费墙或登录拦截;顶部 Maven 课程报名入口属作者其他产品,不影响本资源。实践可能产生费用:如需复现文中多个决策模型的对比,需调用各厂商的付费 API;仅用已保存分数做阈值调优则不产生费用。
需要什么基础?
需了解 precision、recall、F1 等分类指标的基本含义,以及 pass/fail 式 LLM 评测的常规做法。软件、账号与硬件:自备带人工标签的评测样本与已保存的模型分数即可跟做;文中对候选模型的对比需要访问对应厂商 API(付费)。
有中文吗?
本站记录的语言是en;是否有中文字幕或译本本站未核实,请以原站为准。
怎么开始?
从原始资源入口开始:https://hamel.dev/blog/posts/decision-model-evals/。打开原文即可,无需安装软件。开课提示词尚未完整验证。练习与作业需要自备:Jev / Perplexity Decider / Liquid d1 / Cloudflare Clef / OpenAI Decisions 等决策模型 API 密钥。
来源与使用须知
- 收录时间
- 本站首次收录 2026-10-22
- 指南参考
- 课程主页
版权与转载
- 课程材料未标明许可:仅供个人学习,转载、修改或商用前请先联系原作者。
- 本站只提供原始链接和学习指南,不转载、不镜像课程材料;引用时请注明原作者与出处。