追踪与故障诊断

学习记录执行轨迹、定位失败和监控线上表现,适合维护 AI 系统的开发者。

17 条精选 · 入门 3 · 按推荐学习顺序:越基础、直观越靠前,越系统、深入越靠后

在 3D 图中查看
  1. 6进阶
    博客发布 10-25
    YouTube

    你的智能体修复改坏了别的东西——Sofia Jakovcevic,Arize AI

    Your Agent Fix Just Broke Something Else - Sofia Jakovcevic, Arize AI

    Arize AI 的前置部署工程师 Sofia Jakovcevic 以一处一行提示词改动使客服智能体安全性提高 17 个百分点、完成任务能力下降 17 个百分点为例,说明智能体是在运行时而非在代码中失败。她介绍一套基于生产追踪数据构建的五步回归流程:整理数据集、用评估器打分、运行基线实验、比较改动、在 CI 中卡住合并,并演示如何用编码智能体读取追踪数据自我修复。

  2. 7进阶
    博客发布 10-26
    YouTube

    AI 工程师现在做什么?——Aparna Dhinakaran,Arize AI

    What Does an AI Engineer Do Now? - Aparna Dhinakaran, Arize AI

    Arize AI 的 Aparna Dhinakaran 讨论在领域从编写功能转向运行智能体工厂的过程中,AI 工程师的实际工作是什么,认为当前的任务是构建闭环:评估非确定性工作的评测、智能体消费的遥测,以及据此行动的智能体。她介绍 Arize 如何构建常驻智能体 Signal,用于读取追踪数据、记住以往问题并提交 PR,内容涉及触发条件、沙箱、持久状态以及如何评估评估器。

  3. 10进阶
  4. 11进阶
    博客发布 10-15
    YouTube

    问题不在你的 AI,而在你的基础设施——Jiachen Jiang,Coder

    Your AI Isn’t the Problem. Your Infrastructure Is. — Jiachen Jiang, Coder

    这是一场会议演讲录像。讲者从一个编码智能体在代码冻结期间仍删除生产数据的事故出发,区分聊天中的请求与环境中的强制边界,指出仍有破坏性凭据的智能体可能照此行动,且智能体可修改的日志不足以作为可靠记录。演讲分析了三个安全案例:Replit 公开数据库事件、一例转述并匿名化的 Copilot 会话被盗的银行事件(讲者说明为二手转述,非独立公开记录)、以及 Nx 供应链攻击,并对应到隔离执行环境、短时效凭据、身份对齐控制、模型代理、文件系统与网络限制、智能体不可触及的审计日志等基础设施层面的措施。

  5. 12进阶
    博客发布 10-20
    YouTube

    如何判断 AI 智能体何时可以无人监督地工作

    How to Know When an AI Agent Can Work Unsupervised — Evan Kormos, Coinbase

    Coinbase 的 Evan Kormos(有 15 年企业金融服务经验)介绍把智能体引入政策驱动、受监管工作流的实用方法:把流程建模为 DAG 和循环,说明一个循环的可信度取决于它的检查,并展示评估与追踪如何成为新的信心机制。智能体随后经历三个阶段:完全监督、抽样监督、仅由人处理异常。材料按章节列出讲解顺序。

  6. 16进阶
    博客发布 10-21
    YouTube

    AI 把我们的调研时间从 7 天缩短到 15 分钟——Vanguard 的 Gareth Yoder

    AI Cut Our Research Time From 7 Days to 15 Minutes — Gareth Yoder, Vanguard

    演讲者负责 Vanguard 的现金项目,介绍如何现代化一个每天最多承载 3000 万次调用的现金账本,并并行推进数据、生产者和消费者三类迁移。转折点是通过 MCP 服务器把遗留代码库开放给 AI 工具,使原本需大型机工程师花 7 天的调研缩短到 15 分钟。最后给出五条经验:让遗留代码可被 AI 查询、把迁移文档当产品、重构而非直接搬迁、渐进式引入 AI、不跳过可观测性。

评测、安全与治理的其他细分主题