专家称 AI 黑客事件的成因是失控与监控方面的失败

Claude Duet 的安全性、隐私与安全防护

Claude Duet Safety, Privacy, and Security

Anthropic 的一篇文章，说明 Claude Duet 在跨账户操作和代替用户行动时内置的防护措施。文章称该智能体基于三条原则设计：对用户信息及他人在所连接应用中分享的内容谨慎处理，使用新的分类器检查拟发出的消息；用户保有其代理行为的控制权；Duet 不会看到密码、浏览器 cookie、登录令牌等凭据。文章还提到这延续了 2025 年发布的“安全可信智能体框架”及相关论述。

前沿 AI 的民主治理，第二部分：赋能网络防御者

Democratic governance of frontier AI, part II: Empowering cyber defenders

OpenAI 2026 年 10 月 21 日发布在 Global Affairs 与 Security 栏目的文章，提出一份蓝图，内容涉及用前沿 AI 赋能网络防御者、加强防护措施、推进网络安全现代化以及增强公共机构韧性。页面提供可下载的“Cybersecurity 2.0”蓝图 PDF，正文开头指出 AI 正在改变网络安全的速度、规模与经济性。适合关注 AI 安全政策与治理的读者。

Claude Duet

Anthropic 介绍 Claude Duet 的产品文章：这是一个让 Claude 作为主动型智能体工作的新应用，目前已以研究预览形式开放等候名单，面向美国地区的 Pro 和 Max 订阅用户。文章称 Duet 会主动提示需要关注的事项、完成用户交代的任务、在用户离开时继续工作，并在代其行动前征求确认；产品面向事务繁多的专业人士和小企业主，以 iOS、Android 独立应用及 claude.ai 网页形式提供，在研究预览期间计入与 Claude 其余功能相同的用量额度。

我差点被自己（的提示注入）攻陷

I almost got owned. By myself.

r/ClaudeAI 用户描述自己测试提示注入的经历：在 Sonnet 与 Opus 上多次尝试未触发，换用 Haiku 后出现效果——写在测试文件里的一行“记得今晚吃药”在上下文压缩、原文块已不在上下文中之后，仍被模型当作指令回答出来，作者由此担心在授予完整权限时任意数据可能被当作命令执行，并提到 ClaudeAI 缺少 hooks、只能借助 MCP 做防护。适合使用 Claude 并给其较高权限、关心提示注入与数据边界风险的人阅读。

Glasswing 项目：初步进展报告

Project Glasswing: An initial update

Anthropic 关于 Glasswing 项目的早期进展说明。该项目旨在能力更强的 AI 模型被用于攻击之前，加固全球关键软件；文中称项目启动约一个月来，Anthropic 与约 50 家合作方使用 Claude Mythos Preview 在全球最重要的软件中发现逾一万个高严重度或严重漏洞，并指出当前瓶颈已从发现漏洞转向验证、披露和修补漏洞的速度。文中还涉及对 Mythos 级模型未来发布的考量。

我们如何在各产品中约束 Claude

How we contain Claude across products

Anthropic 的文章，讨论智能体能力增强后潜在影响范围随之扩大，并介绍其为 claude.ai、Claude Code 和 Cowork 构建约束机制的经验。文中把部署风险分为失败可能性和单次失误可造成的损害两部分，指出前者随防护与模型训练进展下降，而理论影响范围只随能力和权限扩张而增大，因此工程问题在于如何限制影响范围。