返回资源列表

Hamel's Blog(Hamel Husain 个人博客) · Hamel Husain · Antaripa Saha

How To Use Decision Models for Evals

How To Use Decision Models for Evals是Hamel's Blog(Hamel Husain 个人博客)的免费文章(en)。前置条件:需了解 precision、recall、F1 等分类指标的基本含义,以及 pass/fail 式 LLM 评测的常规做法。

学会在自动化评测中为决策模型(decision model)挑选与调优判定阈值、在性能与成本之间取舍,并正确解读其概率分数。

打开官方课程
难度
见前置条件
类型
博客与教程 · 文章
语言
en
规模
1 个课节
内容费用
免费
动手
打开即可学习

使用限制

阅读文章不需要账号;复现模型对比需要各决策模型提供商的 API 密钥。

练习与作业
Jev / Perplexity Decider / Liquid d1 / Cloudflare Clef / OpenAI Decisions 等决策模型 API 密钥

学完你能

  • 解释决策模型作为 LLM judge 低成本替代方案时的适用条件(成本、性能、延迟要求)
  • 说明默认 0.5 判定阈值为什么可能低估模型表现,并给出改用自定义阈值的理由
  • 在 precision 与 recall 之间做业务导向的权衡,用 F1 或 F-beta 选择阈值
  • 写出可交给编码 Agent 执行的阈值调优提示词,包含分层五折交叉验证与最低精度/召回约束
  • 用 F1 与 API 成本画出 Pareto 前沿,判断哪个决策模型适合自身场景
  • 读懂概率校准图,判断模型分数能否直接当作置信度估计,并了解 Platt scaling 的作用

适合你吗

适合

适合已在使用 LLM 评分器做 pass/fail 自动化评测、想用更便宜的决策模型降低评测成本的工程师和 PM;文章以公寓租赁 Agent 的失败检测为例,实操性强。

暂不适合

不适合想系统学习评测理论框架或完全没有标注数据/评测经验的初学者;也不涉及决策模型自身的训练原理。

需要先会

需了解 precision、recall、F1 等分类指标的基本含义,以及 pass/fail 式 LLM 评测的常规做法。

课程特点

内容侧重
按内容目录判断
练习与项目
用文章提供的 charts/chart-data.json 形式的数据结构,在自己的评测集上重做阈值调优与校准图,比较与默认 0.5 阈值的差异。
学习时长
1 个课节原站未给出统一学习时长;实际用时取决于已有基础。
内容费用
免费网页正文可免费直接阅读,主要学习内容无付费墙或登录拦截;顶部 Maven 课程报名入口属作者其他产品,不影响本资源。

常见问题

免费吗?

免费:网页正文可免费直接阅读,主要学习内容无付费墙或登录拦截;顶部 Maven 课程报名入口属作者其他产品,不影响本资源。实践可能产生费用:如需复现文中多个决策模型的对比,需调用各厂商的付费 API;仅用已保存分数做阈值调优则不产生费用。

需要什么基础?

需了解 precision、recall、F1 等分类指标的基本含义,以及 pass/fail 式 LLM 评测的常规做法。软件、账号与硬件:自备带人工标签的评测样本与已保存的模型分数即可跟做;文中对候选模型的对比需要访问对应厂商 API(付费)。

有中文吗?

本站记录的语言是en;是否有中文字幕或译本本站未核实,请以原站为准。

怎么开始?

从原始资源入口开始:https://hamel.dev/blog/posts/decision-model-evals/。打开原文即可,无需安装软件。开课提示词尚未完整验证。练习与作业需要自备:Jev / Perplexity Decider / Liquid d1 / Cloudflare Clef / OpenAI Decisions 等决策模型 API 密钥。

来源与使用须知

收录时间
本站首次收录 2026-10-22
指南参考

版权与转载

  • 课程材料未标明许可:仅供个人学习,转载、修改或商用前请先联系原作者。
  • 本站只提供原始链接和学习指南,不转载、不镜像课程材料;引用时请注明原作者与出处。