【#Claude用1.8亿行形式化证明验证开源软件安全#】 “Bug海啸”马上就要来了，AI攻防同时升级：一边是找漏洞越…

加强针对蒸馏攻击的防御

Strengthening our defenses against distillation attacks

文章讨论针对 Claude 的“蒸馏攻击”，即未经模型开发者授权、通过大量虚假账号网络在工业规模上提取并复制某模型能力的行为。文中介绍其采用新方法后，早期证据显示蒸馏者获取的数据量减少约 90% 至 99%。文章还说明对非法蒸馏的两点担忧，其中之一是相关公司可用远低于开发时间和成本的方式接近前沿能力。

大语言模型正让形式化软件验证在大得多的规模上变得可行

LLMs are making formal software verification feasible at a much larger scale

Anthropic 的一篇研究文章，介绍其与 Theorem 合作，用 Claude 在 100 多个真实开源软件库的汇编代码（RISC-V）层面证明安全属性，并称过程中发现了多年未被察觉的缺陷。文章称这据其所知是首次在汇编层面把形式化验证大规模应用于生产软件。作者署名包括 Keane Lucas、Nicholas Carlini 等人。

Patch the Planet：Daybreak 支持开源维护者的计划

Patch the Planet: a Daybreak initiative to support open source maintainers

这是 OpenAI 的公告，介绍 Patch the Planet 这一 Daybreak 计划，与 Trail of Bits 合作，帮助开源软件维护者用 AI 辅助安全研究和专家人工审查来发现、验证并修补漏洞。文中描述安全工程师会在发现结果送达维护者前先行审查，并与项目合作开发补丁和测试、建立可复用的工作流。

Claude狂写1.8亿行证明！万亿次测试漏掉的Bug，被AI一锅端

新智元报道，Anthropic前沿红队团队与Theorem Labs发布报告，让Claude对RISC-V机器码进行形式化验证，在123个开源代码库的239个测试入口上累计写出约10亿行Rocq证明，其中约1.8亿行通过Rocq检查器核验。文章描述了该方法与OSS-Fuzz模糊测试的区别：把测试入口改写为数学命题，要求证明规定范围内（小于64MiB输入）不触发约定崩溃，过程中发现数百个Bug，Claude会自行打补丁后继续证明；并给出在Rust写的Python解释器里埋7个Bug、随机测试漏掉5个而证明全部找出的对照实验，以及cJSON一个391行解析入口对应63万行证明的例子。适合关注形式化验证与AI辅助软件安全的人阅读。

阻止一场有组织的模型蒸馏行动

Disrupting a coordinated model-distillation campaign

OpenAI 安全类文章，介绍该公司如何阻止了一场试图提取其受保护模型推理内容的行动，以及如何加强对对抗性蒸馏的防御。正文分“我们观察到的内容”“对归因的评估”“为何重要”等部分。材料未说明具体面向的读者。