YouTube··14 天前
高风险 AI 智能体的评估
Evals for High-Stakes AI Agents — Doneyli De Jesus & Annabell Schäfer, Langfuse
Langfuse 的 Annabell Schäfer 和 Doneyli De Jesus 的一场实操工作坊，用一个银行助手演示 AI 工程闭环：带 PII 脱敏的追踪、构建数据集、把领域专家意见转化为失败模式、LLM-as-a-judge 与代码评估器，以及当分数下降时在 CI 中阻止提示词变更。还涉及面向利益相关者的仪表盘和与编码智能体协作。材料列出各章节时间点。
- 分级
- 值得看
- 收录时间
- 2026-10-26
推荐阅读
在你睡觉时自我改进的智能体——Fuad Ali，Arize AI
Agents That Self Improve While You Sleep - Fuad Ali, Arize AI
这是 Arize AI 的 Fuad Ali 的一场工作坊视频，讲解如何为 AI 智能体搭建自我改进闭环：追踪全部数据，让常驻智能体 Signal 按计划读取轨迹并提交去重后的问题，把失败转化为评估与持续更新的回归数据集，运行实验证明修复有效，并在评估设计、数据集整理和修复审查等环节保留人工参与。演示基于一个预先植入了缺陷的玩具购物智能体，并包含关于定性输出评估、决策模型与成本的问答。
如何判断 AI 智能体何时可以无人监督地工作
How to Know When an AI Agent Can Work Unsupervised — Evan Kormos, Coinbase
Coinbase 的 Evan Kormos（有 15 年企业金融服务经验）介绍把智能体引入政策驱动、受监管工作流的实用方法：把流程建模为 DAG 和循环，说明一个循环的可信度取决于它的检查，并展示评估与追踪如何成为新的信心机制。智能体随后经历三个阶段：完全监督、抽样监督、仅由人处理异常。材料按章节列出讲解顺序。
如何判断你的 AI 智能体是否靠谱：用 Phoenix 与 Claude 做评估
How to Know If Your AI Agent Is Any Good: Evals With Phoenix & Claude — Laurie Voss, Arize AI
这是 Laurie Voss（Arize AI 开发者关系负责人、npm 联合创始人）的一场工作坊录像，以一个由 Claude 驱动的金融分析师智能体为例，搭建完整的评估闭环：用 Arize Phoenix 做追踪、阅读追踪记录、编写代码评估和 LLM-as-a-judge 评估、测试评判模型本身是否可信、用实验验证提示词修复效果、从 Claude Haiku 4.5 升级到 5.5，并在 CI 中用 npm test 做门禁。开场用例是智能体写出“116% 分析师同意”这类自信错误。适合构建生产级智能体、关心评估流程的工程师。
没有基准时如何测试 AI 代理——Air Canada 的 Nathanael Weill
How to Test AI Agents When No Benchmark Exists — Nathanael Weill, Air Canada
演讲者带领 Air Canada 的 AI 代理团队，面对任务过于具体、没有公开基准且领域专家无暇评分的问题，他的做法是“先写答案”：从已知答案出发生成输入，再看代理能否找回该答案。这使一个 RAG 项目从每周一次专家评分测试提升到每天数十次自动化测试；随后他把方法用于供应商合同审查代理，给出五种构建测试集的方式：过往决策、植入规则违规、删除条款、不应产生影响的变化，以及填空式合同模板。他还解释了为何在代码能校验答案时避免使用 LLM 评审。
如何用 Harbor 在真实任务上测试你的智能体——Xander Song，Arize AI
How to Test Your Agents on Real Tasks With Harbor - Xander Song, Arize AI
这是 Arize AI 工程师 Xander Song 介绍 Harbor 的演讲视频，Harbor 是一个在隔离沙箱中用真实数据评估智能体在真实任务上表现的开源框架。内容涵盖任务、Docker 环境、验证器与奖励、试验与作业、在消耗 token 前校验配置的 oracle，以及 ATIF 轨迹；随后演示团队如何在 Daytona 与 Phoenix 上大规模运行 Harbor，用于测试一次将智能体导向新 SQL 工具的提示改动，最后是问答环节。
AI 工程师现在做什么？——Aparna Dhinakaran，Arize AI
What Does an AI Engineer Do Now? - Aparna Dhinakaran, Arize AI
Arize AI 的 Aparna Dhinakaran 讨论在领域从编写功能转向运行智能体工厂的过程中，AI 工程师的实际工作是什么，认为当前的任务是构建闭环：评估非确定性工作的评测、智能体消费的遥测，以及据此行动的智能体。她介绍 Arize 如何构建常驻智能体 Signal，用于读取追踪数据、记住以往问题并提交 PR，内容涉及触发条件、沙箱、持久状态以及如何评估评估器。