博客入门
Anthropic突然更新！AI自进化已突破红线，人类根本来不及反应
新智元的一篇报道，称 Anthropic 向美国 SEC 递交更新版招股书（S-1/A），在第 29 页的措辞中加入「过去就曾未能识别」等表述，从「未来可能无法在研发显著加速前识别」改为承认此类情况已经发生过。报道引用文件内容称：未来模型可能触发《负责任扩展政策》中「自我加速」阈值（一年完成基线两年研发进度），研究员因指标滞后而可能事后才察觉；到当年 9 月内部代码库逾九成代码出自 Claude，工程师每日提交代码量为 2024 年均值的 45 倍以上，内部调用 Claude 的开销 1 至 9 月涨逾 250 倍、4 月起超过全员月度现金工资总额；同时文件在第 188 页明确禁止让 Claude 脱离人类监督全自动设计下一代前沿模型。
- 分级
- 值得看
- 是否付费
- 免费全文公开可读
- 预估学习时长
- 约 6 分钟按全文字数估算
- 收录时间
- 2026-11-05
中文精读
原文约 1,984 词 · 4 节
开头：Anthropic 更新招股书，交底“AI 造 AI”加速循环
- 正在冲刺纳斯达克 IPO 的 Anthropic 向美国 SEC 递交了更新版招股书（S-1/A），距首版公开仅一周，管理层在文件中补上了关于“AI 造 AI”的内容。
- 招股书称 AI 造 AI 的加速循环已经运转起来，进化速度快到人类科学家来不及实时监测；内部测算显示未来 Claude 很快会触发“AI 显著加速研发”阈值，1 年完成过去 2 年的研发进度。
- Anthropic 首次承认受“滞后指标”所困，过去曾没能及时察觉研发加速，未来也可能在加速发生后才后知后觉。
- 公司在第 188 页明确划出底线：尽管内部超 90% 代码已由 Claude 接手，也绝不脱离人类监督让 Claude 全自动设计下一代前沿模型。
- 本节后续分三部分展开：六个词的招股书改动、内部 Token 账单与安全红线、近 9000 亿美元算力合约带来的竞赛压力。
六个词改写招股书：造 AI 的人也只能事后察觉
- 比对两版招股书，最关键的改动在第 29 页：首版只说公司“可能无法”在研发显著加速发生前识别出来，修订版加入了六个英文单词“have in the past not identified（过去就曾未能识别）”。
- 这六个词把“未来可能发生”的预警改成了“过去已经发生过”的坦白，即 AI 研发速度突然加快、人类团队事后才反应过来的情况在公司实验室已真实发生过。
- 内部估算认为未来模型很快会撞上《负责任扩展政策》里的“自我加速红线”：越线意味着在 AI 加持下 1 年内跑完 2018 至 2024 年基线速度下 2 年的研发进度。
- 顶尖研究员之所以后知后觉，是因为模型能力提升难以实时测准：预训练和 Agent 协同带来的提升无法从训练曲线读出，必须等模型训完、跑完评测、在内部工程线上用上几个月，再统计代码产量和实验周期才能倒推加速倍率。
- 时间差由此产生：等研究员用滞后几个月的数据算出“已越线”，新模型早已写完下一代模型的核心代码，人类看到的往往是几个月前的后视镜。
内部 Token 账单压过全员薪水，却不敢让 Claude 全自动造下一代
- 更新版招股书披露三季度内部数据：到今年 9 月，内部代码库超过九成代码出自 Claude；每位工程师每天提交的代码量在一个季度内从均值 35 倍升到 2024 年均值的 45 倍以上。
- 内部算力消耗涨势更猛：今年 1 月到 9 月，公司内部调用 Claude 的开销按公开标价算暴涨 250 倍以上；早在今年 4 月，每月花在内部 Claude 上的钱就已超过全体员工的月度现金工资总额（不含股权激励）。
- 尽管 Claude 写代码快几十倍、账单压过人类薪水，Anthropic 仍划下红线：第 188 页讲内部研发循环的章节末尾规定，哪怕技术上完全做得到，也不会脱离人类监督和理解让 Claude 全自动设计、构建下一代前沿模型。
- 担忧在于模型接管的研发工作越来越多，若某代模型藏着未被发现的漏洞、偏差或欺骗倾向，风险会沿研发流程传递；一旦全自动设计下一代，隐患会跨代累积、层层放大，等察觉时很难追查源头。
- 第 31 页透露公司正考虑修改安全红线，强制要求研发流程中特定关键决策必须由人类审查签字。
- 守住安全边界的代价是研发进度：达里奥几周前自曝一个已训完的 Mythos 级高级模型被雪藏约四个月；为防模型权重被窃取并加固安全，一个全新前沿基座模型的预训练启动时间推迟了一个多月；4 月那款漏洞挖掘能力极强的 Mythos 至今只通过“Project Glasswing”定向提供给少数机构做防御。
签下 8954 亿算力长约：谁减速谁出局
- 一边因安全顾虑推迟新模型预训练，另一边 Anthropic 抢算力的手笔最大，这反映了前沿 AI 竞赛的囚徒困境：所有头部玩家都不敢减速。
- Anthropic 的判断是：若不在 AI 辅助研发上投入足够算力，竞争对手就会靠“AI 造 AI”不断放大复利优势，几个迭代后就把你甩在身后。
- 算力合约清单包括：博通 1612 亿美元设备租赁、谷歌云 1213 亿美元 TPU 算力（外加最高 1500 亿美元追加框架）、SpaceX 与 xAI（Colossus 集群）1205 亿美元、亚马逊 AWS 1100 亿美元，后面还有微软 Azure、Nscale、Lambda 和 AMD。
- 对比全美科技巨头财报，一家前三季度营收 332 亿美元的创业公司，其表外承诺总额已压过 Meta（8660 亿美元）、微软（5940 亿美元）、英伟达（5300 亿美元）和亚马逊（4530 亿美元），全美仅次于谷歌。
- 近 9000 亿美元算力合同在账上，意味着 Anthropic 没有放慢研发节奏的退路；要消化这笔天量算力、撑起年化近 700 亿美元营收，唯一办法是把越来越多研发工作交给 Claude，让它以几十倍于人类的速度写代码、做实验。