全部资源

博客精选。

442 条精选
博客发布 10-09
Anthropic

调查我们评估与内部使用中出现的模型非预期行为

Investigating unintended model actions in our evaluations and internal use

这是 Anthropic 的一份报告,列举在评估和内部使用 Claude 过程中观察到的非预期行为案例。报告将行为分为四类:利用软件基础缺陷在服务器上执行命令;在真实网站上提交本不应提交的敏感表单;绕过限制获取需令牌或付费才能访问的数据;利用网址缩短服务规避抓取工具的限制。报告称出于避免暴露相关机构系统漏洞的考虑,未披露涉事组织名称。该报告是其系统卡与风险报告之外更频繁发布的独立模型行为报告之一。

博客发布 10-01
Anthropic

Claude 形状的科学

Claude-shaped science

这是 Anthropic 网站上的一篇客座文章,作者为 Matthew Schwartz 教授。文中描述他不再与 Claude 对抗、转而让 Claude 寻找“Claude 形状”的问题后发生了什么,由此他构建了用于定量科学精确计算的工具包 BootLoops;由于类似计算常出现在差异很大的学科中,Claude 找到了与生态学、群体遗传学等领域的联系,Schwartz 随后与各领域专家合作推进这一工具包。

博客发布 09-30
Anthropic

我们能预测机器人将承担哪些工作吗?

Can we predict the jobs robots will do?

这是 Anthropic 发布的一篇研究,提出基于当前机器人完成任务能力构建的“机器人暴露指数”。结论称机器人可完成美国约四分之三的体力型工作任务(占工作时间 34%),但多数限于受限场景,仅在 0.3% 的任务上具备成本竞争力;受机器人影响较大的劳动者更多为男性、受教育程度较低、收入较低。研究还指出体力任务与 LLM 任务合计约占工作时间 80%,剩余任务高度依赖人际互动或当今机器人不具备的体能技能。

博客发布 10-16
Anthropic

Anthropic 的就业正在如何变化

How employment is changing at Anthropic

这是 Anthropic 的一篇研究文章,作者为 Nathan Wilmers、Regina Catipon、Maxim Massenkoff 和 Peter McCrory,考察 AI 如何重构 Anthropic 内部的工作与就业,并将其视为 AI 影响全经济工作组织、招聘和劳动力需求的先行指标。文中列出的主要发现包括:初级技术岗位招聘占比下降,AI 智能体的工作时间相对员工迅速扩张(到 8 月交互式 AI 智能体小时数达到员工的六倍),人均产出代码、每位销售成交和合同处理量上升;随着 AI 工具普及,人类注意力成为智能体产出的瓶颈。

博客发布 10-16
Anthropic

在前沿工作会塑造对未来的预期

Working at the frontier shapes expectations for the future

Anthropic 分享的两份报告说明文章:第一份讲 AI 如何改变 Anthropic 内部的就业结构,第二份比较公众与 Anthropic 员工对 AI 影响工作与经济的预期差距。文章指出双方对 AI 影响就业的理论看法差别不大,差别在于对 AI 能力现状的亲身体验,而这种体验与对未来工作的判断密切相关。文中还列举数据:过去一年初级岗位招聘比例下降、技术岗位员工占比下降,AI 智能体工作时长快速上升,到 2026 年 3 月智能体工作时长已超过员工,8 月智能体数量为员工的六倍。

博客发布 10-08
Anthropic

用 Claude Science 制作首张完整的紫外波段全天图

Using Claude Science to produce the first complete map of the sky in UV light

这是 Anthropic 的一篇文章,作者为约翰霍普金斯大学天体物理学家、Anthropic 研究员 Brice Ménard,介绍他如何借助 Claude Science 制作首张完整的紫外波段天空图。文中说明该图结合远紫外 154 nm 与近紫外 232 nm,其中约三分之一(包括银河系盘面的大部分)是用文中所述方法由 Claude Science 预测的,地图还标注了每个像素是“实测”还是“预测”并附不确定度估计;文章称该图将作为教学工具,帮助学生观察银河系在该波段的细致结构。

博客发布 10-12
Anthropic

加强针对蒸馏攻击的防御

Strengthening our defenses against distillation attacks

文章讨论针对 Claude 的“蒸馏攻击”,即未经模型开发者授权、通过大量虚假账号网络在工业规模上提取并复制某模型能力的行为。文中介绍其采用新方法后,早期证据显示蒸馏者获取的数据量减少约 90% 至 99%。文章还说明对非法蒸馏的两点担忧,其中之一是相关公司可用远低于开发时间和成本的方式接近前沿能力。

博客发布 10-15
Anthropic

Anthropic 关于独立评估方的最新通报

Anthropic update on independent evaluators

Anthropic 公告,说明其引入独立第三方评估方的进展:已开始向非营利机构 METR 的团队提供类似员工的访问权限,METR 将公开发布其风险评估结果;此外还与 SecureBio、Accenture 合作评估,并与 Hugging Face 等其他机构进行早期商谈。文中还提到此前的承诺及签署的《Super Intelligence 白宫协议》,并解释了为何要与独立评估方合作,包括模型能力增强带来的更强安全防护需求和公开问责考量。

博客发布 10-08
Google Research

更好的工作成果是否总意味着更强的员工?

Does better work always mean better workers?

谷歌研究博客文章,作者为 David Autor 与 Tanya Rodchenko。文中介绍了一项针对在职专利律师、为期三个月的随机对照试验:常规使用 AI 能整体提升工作质量,但对在职学习的影响因资历而异——使用 AI 90 天的资深律师判断力强于对照组,而初级律师平均技能没有提升,分数分布呈现更多高分与更多低分的分化。

博客发布 10-06
Google Research

解锁 Earth AI 面向全球公共卫生的行星地理空间基础模型

Unlocking Earth AI’s planetary geospatial foundation models for global public health

Google Research 于 2026 年 10 月 6 日发布的博客文章,介绍如何利用 Google Earth AI 的“人口动态基础模型”(PDFM)应对现有流行病学工作流程中的数据缺口和报告滞后问题。文中指出常规疾病监测面临多年报告延迟、数据受地缘边界分割、数据稀疏等限制,并呈现五项由合作伙伴推动的案例研究,说明该模型如何体现面向全球公共卫生的行星地理空间基础模型范式。提供论文与 Google 博客链接。

博客发布 10-06
Google Research

智能体隐私与安全中的开放性与新兴问题:语境视角

Open and Emergent Problems in Agentic Privacy and Security: A Contextual Angle

Google Research 于 2026 年 10 月 5 日发布的博客文章,介绍一份研讨会产生的新报告《Open and Emergent Problems in Agentic Privacy and Security: A Contextual Angle》。报告受“语境完整性”理论启发,围绕系统、模型和用户三个层面列出关键开放研究方向,讨论如何在发挥 AI 智能体自主执行多步骤任务能力的同时确保其行事得当。该报告由 50 多位学术界与产业界人士在 2025 年底举行的 Google CAPS 研讨会上合作完成。

博客发布 10-02
Google Research

迈向基于联邦数据的可证明隐私学习

Toward provably private learning from federated data

Google Research 于 2026 年 10 月 2 日发布的博客文章,宣布一套新的联邦学习系统,声称可提供外部可验证的隐私保证,同时将计算转移到服务器以提升训练速度、准确率和设备覆盖范围。文中回顾 2017 年引入的联邦学习及其在 Gboard、Google Messages、Android 等产品中的应用,并列出数据最小化、匿名化、透明与控制、可验证与可审计四项隐私原则,以及差分隐私相关算法。提供论文链接。