智能体评测

学习在真实任务中测试智能体和执行框架,适合追求可靠自动化的开发者。

39 条精选 · 入门 3 · 按推荐学习顺序:越基础、直观越靠前,越系统、深入越靠后

在 3D 图中查看
  1. 30进阶
    项目发布 10-16
    GitHub

    reacher-z/Awesome-CUA

    一个关于计算机使用智能体(computer-use agents)的开源、可溯源资料集,收录经审阅的论文、GUI 模型、数据集、基准测试与工具,并提供可复用的 JSONL/SQLite 数据。仓库标签涵盖智能体评测、浏览器智能体、GUI 定位、视觉语言模型、强化学习等方向,另设配套网站与中英文 README。

  2. 31进阶
    项目发布 10-12
    GitHub

    DishwasherBench——前沿模型能把碗碟装进洗碗机吗?

    DishwasherBench – Can Frontier Models Stack a Dishwasher?

    这是一个用于评测语言模型的 GitHub 项目:内置名为 Spotless 的洗碗机装载游戏,基于一台真实机器(Bosch SMV4HAX40G)的物理仿真,玩家在浏览器中按刚体物理装载 3D 物件,并按 Eco 50 程序模拟水流、污渍与洗涤剂作用,按洗干净的件数计分。项目强调装载结果确定可复现、每次对局都是可由他人重放验证的记录,人类通过浏览器游玩,模型通过 MCP 接口游玩。

  3. 32进阶
    项目发布 10-28
    Reddit

    JEV 竞技场博客与基准测试

    JEV arena blog and benchmark

    r/LocalLLaMA 社区帖子,作者做了一个小型 2D 格斗游戏,由语言模型决定每一步动作:模型获得当前血量、距离、对手动作和可选动作,再决定接近、格挡、踢腿或发火球。当前排行榜包含 18 个模型、306 场对局,每对模型交换阵营各打一次;游戏会等待双方回答,因此 API 延迟不影响胜负。用户可自带选手:选模型和角色、写策略与防守指令、取昵称提交,自定义配置有单独排行榜并可观看对局。游戏还有一个 mental_attack 动作:不攻击而是把预设消息注入对手的下一次提示,消耗一次物理动作且有冷却,不能直接改变血量或游戏状态。代码开源,可本地运行并用 JSON 定义选手和可续赛的锦标赛;录好的对局和内置机器人可离线无密钥运行,新的 API 对局需自备密钥。适合关注 LLM 对抗式评测、想比较不同模型决策与提示注入策略的人阅读。

  4. 33进阶
    项目发布 10-11
    GitHub

    jwuthri-cloud/Tracely-ai

    面向 AI Agent 的 trace 原生 CI/CD 工具:对生产环境 trace 打分、将失败聚类成问题、把坏运行冻结为可重放的回归测试,并阻止会引入回归的 PR,同时发出通知。可自托管,标签显示使用 ClickHouse 和 Python。

  5. 34深入
    项目发布 10-22
    GitHub

    QwenLM/BabelArena

    一个 GitHub 仓库(Apache-2.0 许可),README 介绍 BabelArena:面向 LLM 智能体的多语言基准,从四个智能体基准家族中取 699 个标准任务、覆盖 13 个领域,各改编为 23 种语言,共 16,077 个任务实例;每个语言变体保留原任务身份和评估标准以便跨语言对比。变体由代理式工作流 BabelFlow 构建,经多层验证与人工审核后采纳。对五个前沿模型的评测显示,没有单一模型在四个家族上全面领先,低资源语言出现更多工具使用与控制流错误、相同任务下输入 token 可达英语的约两倍等。仓库附有 arXiv 论文链接(arXiv:2609.23490)。

  6. 35深入
    项目发布 10-14
    GitHub

    QwenLM/BlenderWorld

    Qwen 团队发布的一个用于评估 3D 创作视觉智能体的基准,全称为“Benchmarking Visual Agents for 3D Creation from Real-World References”。基准包含 9 个类别、22 个子类共 223 个任务,智能体根据任务简报和参考素材在 Blender 中交付可编辑工程文件及指定导出物,可用 bw evaluate 进行评估;仓库提供论文、Hugging Face 与 ModelScope 数据集链接。

评测、安全与治理的其他细分主题