Anthropic··12 天前
用 Claude 缩减代码的攻击面
Using Claude to reduce the attack surface of code
Anthropic 的一篇文章，介绍用 AI 模型进行自动化攻击面分析与缩减的初步研究，即先梳理可达代码，再移除或限制某次部署不需要暴露的访问。文中预告了他们用 Claude 对大型开源代码库应用这类技术所收集的数据。
- 分级
- 值得看
- 收录时间
- 2026-10-26
推荐阅读
在编程评测中区分信号与噪音
Separating signal from noise in coding evaluations
OpenAI 2026 年 7 月 8 日发布的分析文章，通过对编程基准 SWE-Bench Pro 的详细审计，称发现大量任务存在问题，并估计约 30% 的任务是有缺陷的。文章将此与 OpenAI 此前对 SWE-bench Verified 的调查联系起来，讨论评测缺陷会影响对模型能力的判断、安全评估与研究优先级。
PHP2Shell：AI 发现 PHP 中的严重远程代码执行漏洞
PHP2Shell: AI uncovers critical RCE in PHP
Wiz 研究团队的博客，披露其发现 PHP 核心中的多个严重漏洞，包括内存泄露和无需认证的远程代码执行，且不依赖上层应用，称过去十年发布的每个 PHP 版本（最早至 5.4）都受其中至少一个漏洞影响。文中称这些缺陷存在已久，需要极其复杂的利用链才能证明可利用性，PHP 已于 2026 年 10 月 21 日发布修复补丁，并建议尽快修补。文章称这些漏洞影响全球约 70% 的网站所使用的 PHP。
在缺陷上线前拦截：JiTTesting 在全规模下的人机协同方法
Catching Bugs Before They Land: JiTTesting’s Human-on-the-Loop Approach at Full Scale
这是 Meta 工程博客的一篇文章，介绍其用大语言模型在代码提交前即时生成测试（Catching JiTTests）的方法从研究原型落地为内部基础设施的过程，并给出五个月部署中减少负载与误报的观察结果。文中还提到论文《Just-in-Time Catching Test Generation at Meta》对首次部署和测试细节的完整记录。适合关注大规模代码库测试、LLM 辅助软件工程的人阅读。
把 AI 落地到五家大型银行，而不用等 12 个月合规审查——Cisco 的 Al Chen
Shipping AI Into 5 Major Banks Without a 12-Month Compliance Wait — Al Chen, Cisco
这是一场技术演讲，讲者来自 Cisco，介绍在五家大型银行内部署 AI 软件的过程，重点是如何避免长达一年的合规瓶颈。内容涵盖构建流水线、用代理编写并测试漏洞利用来修复 CVE、备份与恢复验证、LLM 评审器导致的 PII 泄露，以及为何零泄露和数据主权从来不是免费的。适合关注金融行业 AI 部署与合规安全的工程人员观看。
Daybreak：保护全球每一个组织的工具
Daybreak: Tools for securing every organization in the world
OpenAI 2026 年 6 月 22 日发布在安全与公司公告栏目的文章，介绍代号 Daybreak 的新工具、合作方以及 GPT-5.5-Cyber 的完整版本，帮助组织大规模发现、验证和修补漏洞，重点是超越漏洞发现、推进端到端的补丁自动化。内容面向关注网络安全的组织。
Parameter Golf 教给我们的关于 AI 辅助研究的事
What Parameter Golf taught us about AI-assisted research
OpenAI 于 2026 年 5 月 12 日发布的研究文章，回顾名为 Parameter Golf 的开放机器学习挑战：该活动吸引 1000 多名参与者、2000 多份提交，在严格约束下探索 AI 辅助机器学习研究、编程智能体、量化与新型模型设计。文中还设有“技术印象”和“纪录赛道”等小节，分享相关经验。