更多博客
博客必读进阶

在编程评测中区分信号与噪音

Separating signal from noise in coding evaluations

AI 导读

OpenAI 2026 年 7 月 8 日发布的分析文章,通过对编程基准 SWE-Bench Pro 的详细审计,称发现大量任务存在问题,并估计约 30% 的任务是有缺陷的。文章将此与 OpenAI 此前对 SWE-bench Verified 的调查联系起来,讨论评测缺陷会影响对模型能力的判断、安全评估与研究优先级。

收录时间
2026-10-28