博客必读进阶
在编程评测中区分信号与噪音
Separating signal from noise in coding evaluations
OpenAI 2026 年 7 月 8 日发布的分析文章,通过对编程基准 SWE-Bench Pro 的详细审计,称发现大量任务存在问题,并估计约 30% 的任务是有缺陷的。文章将此与 OpenAI 此前对 SWE-bench Verified 的调查联系起来,讨论评测缺陷会影响对模型能力的判断、安全评估与研究优先级。
- 收录时间
- 2026-10-28