更多博客

Simon Willison 博客19 小时前

博客深入仅限授权使用

我们是如何接管 ChatGPT 账号的

How We Took Over ChatGPT Accounts

仅限授权使用：这是用于授权测试与研究的安全工具或资料，只能在你有权测试的系统上使用。
AI 导读

Simon Willison 博客上的一篇摘要，介绍 Parameter Labs 发现的一条针对 ChatGPT artifacts（HTML 预览）沙盒机制的漏洞利用链：沙盒 iframe 可通过 postMessage 触发父页面中 MathLive 虚拟键盘的 innerHTML 注入，进而以无沙盒限制的 iframe 结合 YouTube oEmbed 端点绕过 CSP 执行 JavaScript，最终读取用户私有数据并外传。

打开原文
分级
值得看
收录时间
2026-11-02
帖子发布 10-27
Reddit

驳斥 Cohere 关于 Qwen 3.8 Flash Next 上传到阿里远程 URL 的说法

Debunking Cohere's claim of Qwen 3.8 Flash Next uploading to Alibaba remote URL

r/LocalLLaMA 社区帖子，作者基于 CohereLabs 在 Hugging Face 上发布的调查 trace 数据集，逐条分析所谓模型上传到阿里远程 URL 的证据：trace 中预先填充了 2323 个 token 直到 URL 生成之前，使 Qwen 3.8 Flash Next 表现得像 URL 生成器；作者还指出所涉提示词缺少上下文、表述含糊，并将 Cohere CEO 对 The Register 表示没有证据表明这是有意为之的表态一并引用。适合关注模型安全事件复盘与推理 trace 分析的人阅读。

深入模型解释与探测攻击与安全防护
查看详情 →
博客发布 10-25
YouTube

你的 AI 分析师能保守秘密吗？——Aaron Linsky（Bridgewater）与 Nikhil Benesch（turbopuffer）

Can Your AI Analyst Keep a Secret? - Aaron Linsky, Bridgewater & Nikhil Benesch, turbopuffer

Bridgewater Associates 产品工程负责人 Aaron Linsky 说明 Vault 中一亿份带有各自权限的文档为何使其最初的搜索方案失效；turbopuffer 首席技术官 Nikhil Benesch 讲解后置过滤会损失召回、前置过滤太慢，而在聚类向量索引上做“原生过滤”可兼得两者，在 4 亿向量上实现约 120 毫秒的 P90 搜索延迟。内容还涉及权限建模、向量索引原理以及在实际中编写权限过滤器。

深入权限与沙箱隔离RAG 与搜索
查看详情 →
博客发布 09-10
Anthropic

衡量 AI 在情报目标定位与常规武器方面的能力

Measuring AI capabilities in intelligence targeting and conventional weapons

Anthropic 的 Frontier Red Team 开发了新的评估方法，用于测量 AI 在战术情报目标定位（如依据零散信息定位人员）和常规武器开发（如设计无人机打击移动目标）方面的能力。文中称在部分军事与情报任务上，模型能完成过去只有少数受过高度训练的人类专家才能做的事，并说明平台内安全措施的必要性及已部署的相关分类器；还提到测试的部分中国开发者开放权重模型虽落后于前沿，但也显示出令人关注的相关能力。

深入攻击与安全防护模型基准与比较
查看详情 →
博客发布 05-28
Google Research

基于零信任聚合的隐私分析

Private analytics via zero-trust aggregation

这是 Google Research 的一篇博客文章，介绍一种隐私分析方案，将新的安全聚合密码协议与可信执行环境（TEE）的透明性属性结合，以实现隐私与安全保障。文中以 Android 的 SafetyCore 等端侧功能为例，说明团队在需要只揭示整体趋势而不泄露个人数据时，可使用密码学安全聚合作为基础组件。材料未说明具体适合哪类读者。

深入隐私与风险治理权限与沙箱隔离
查看详情 →