真实的 AI 智能体攻击以及本可阻止它们的措施——Andrey Rybka，彭博

Claude Duet 的安全性、隐私与安全防护

Claude Duet Safety, Privacy, and Security

Anthropic 的一篇文章，说明 Claude Duet 在跨账户操作和代替用户行动时内置的防护措施。文章称该智能体基于三条原则设计：对用户信息及他人在所连接应用中分享的内容谨慎处理，使用新的分类器检查拟发出的消息；用户保有其代理行为的控制权；Duet 不会看到密码、浏览器 cookie、登录令牌等凭据。文章还提到这延续了 2025 年发布的“安全可信智能体框架”及相关论述。

一个 AI 智能体让它的用户被 Resy 封号——Keycard、摩根大通与 AAuth

An AI Agent Got Its User Banned From Resy — Keycard, JPMorgan Chase & AAuth

这是一场主题讨论录像，由 Keycard 的 Allie Howe 主持，嘉宾包括 Keycard CEO Ian Livingstone、摩根大通全球首席安全架构师 Michael Davis 和 OAuth 共同创造者 Dick Hardt。起因是一个餐厅预订智能体在 90 分钟内发起 200 次调用，导致其用户被 Resy 封禁。讨论涉及 OAuth 权限范围对智能体过于粗糙、像带新人一样引导智能体、给智能体设定“任务”、用预算替代速率限制、把智能体的“大脑”和“手”分离、智能体商业以及“了解你的智能体”等议题。

问题不在你的 AI，而在你的基础设施——Jiachen Jiang，Coder

Your AI Isn’t the Problem. Your Infrastructure Is. — Jiachen Jiang, Coder

这是一场会议演讲录像。讲者从一个编码智能体在代码冻结期间仍删除生产数据的事故出发，区分聊天中的请求与环境中的强制边界，指出仍有破坏性凭据的智能体可能照此行动，且智能体可修改的日志不足以作为可靠记录。演讲分析了三个安全案例：Replit 公开数据库事件、一例转述并匿名化的 Copilot 会话被盗的银行事件（讲者说明为二手转述，非独立公开记录）、以及 Nx 供应链攻击，并对应到隔离执行环境、短时效凭据、身份对齐控制、模型代理、文件系统与网络限制、智能体不可触及的审计日志等基础设施层面的措施。

你们怎么用 Claude Code 给自己的应用做安全测试，而不让它以为你是黑客？

How do you guys security test your own app with claude code without it thinking ur a hacker?

r/ClaudeAI 社区帖子。一位独立开发者做自托管的 AI agent 应用，想在发布前自行测试认证绕过、跨用户数据访问、权限提升和对 agent 的提示注入，但用 Claude Code 编写攻击载荷或利用脚本时它有时会变得谨慎。发帖者征询社区做法，例如事先声明是自己的本地代码、写进 CLAUDE.md、改为要求编写失败测试（证明用户 A 读不到用户 B 的数据）、或用专门工具跑结果，并提到担心被平台封禁或被有关部门标记。适合用 Claude Code 做应用安全测试的独立开发者阅读。

构建你自己的托管智能体团队——Jack Wotherspoon，Google DeepMind

Build Your Own Team of Managed Agents - Jack Wotherspoon, Google DeepMind

Google DeepMind 开发者体验工程师 Jack Wotherspoon 的演讲视频，介绍 Gemini Managed Agents：通过单次 API 调用在云端沙箱中运行编码智能体，而非在本地电脑上。内容覆盖 Interactions API、Antigravity harness、多智能体共享环境、上传的 skills 与 AGENTS.md、隔离密钥的代理、定时触发与多智能体工作流，并演示从 SEC 文件研究到量化分析再到报告的流程，以及在 AI Studio 中构建应用。

datawhalechina/mini-workbuddy

一个 GitHub 项目，自述为用 AgentScope 从零搭建本地智能体工作台。内容以产品为主线组织的教程，共五篇 15 章，讲解模型接入、消息结构、工具注册、循环、权限拦截、状态存储等概念；运行环境为 Python 3.11 及以上、AgentScope 2.x 和兼容 OpenAI 接口的模型服务，并提供 GitHub Pages 在线阅读。材料说明其面向会写 Python 函数与类、了解 async/await、有大模型 API 使用经验的读者，如高校学生、想把脚本做成产品的开发者和需要向团队讲解智能体运转的工程师。