教程
用 Langfuse 持续改进代理——Annabell Schäfer 与 Lotte Verheyden,ClickHouse
Continuously Improving Agents with Langfuse — Annabell Schäfer & Lotte Verheyden, ClickHouse
这是一场工作坊,讲者 Lotte Verheyden 和 Annabell Schäfer 以示例 IT 支持代理 Specs 展示如何用 Langfuse 把生产中的用户挫败反馈转化为可用的信号。演示把基于 OpenAI Agents SDK 的 TypeScript 应用接入 Langfuse,并添加三类评估器:针对用户不认同的 judge 评估器、针对全大写输入的代码评估器,以及比较用户请求与系统提示的范围检查,各评估器通过显式变量映射定位相关消息。随后用预置的生产轨迹让编码代理通过 Langfuse CLI 与 skill 分析不必要工具调用、重试、延迟和评估覆盖不足等问题,并提出代码改动;结尾把在线监控放入持续改进循环:将观察到的失败转为代表性数据集、离线实验、检查回归并随真实使用变化重复。
- 分级
- 值得看
- 所属主题
- 整理中
- 收录时间
- 2026-10-26