北大数院校友出手！ChatGPT代写，要「实名」了

中文精读

原文约 2,371 词 · 6 节

1. 开头：textGrain 水印上线，AI 写字的「实名制」

   • OpenAI 推出文本水印 textGrain：模型每次选词时掺入只有 OpenAI 知道的密钥，人眼看不出，检测器一扫即可判断文字是否出自其模型。
   • 发布要点有四项：全球 API 客户当天可自行开启，ChatGPT 与 Codex 未来几周接入；误报率 1% 时，400 token 的心理学类回答九成以上可检出，官方称效果追平甚至超过谷歌 SynthID。
   • 另外两条：旗舰模型 GPT-6 Astra 加水印后 8 项核心跑分基本持平、5 项略涨；检测器暂不对公众开放，只发给审核通过的研究者和专业机构，textGrain 本身开源。
   • 谷歌、Anthropic、OpenAI 三家均已给 AI 生成的文字加上可追溯标记，文中的说法是 AI 写作「实名制时代」拉开大幕。

2. 从 1781 年的搬土问题到最优传输

   • 大模型逐词生成：先给所有候选词打概率再按概率抽取，例如「The morning was ___」后 warm 占 30%、cold 占 25%。水印要让这次抽取听密钥的话，但必须满足「无偏」——把所有可能的密钥平均起来，每个词被抽中的概率与原分布完全一致。
   • Scott Aaronson 在 OpenAI 做的第一版水印满足了无偏，却留下一个毛病：同一问题、同一把密钥下，模型每一步都选同一个词，同一个问题问十遍，回答可能一字不差。
   • textGrain 的解法来自最优传输（optimal transport），起点是真的「搬土」：1781 年法国数学家蒙日提出一堆土填进另一个坑、每份土运到哪儿总运费最低的问题。
   • 20 世纪 40 年代苏联数学家康托洛维奇放宽条件，允许一份土拆开运往多处、只要两头总量对得上，搬土问题由此变成线性规划；他后来凭最优资源配置理论与库普曼斯分享 1975 年诺贝尔经济学奖。
   • 原文提到一个巧合：库普曼斯正是耶鲁的经济学家，而这篇技术报告的作者之一、耶鲁经济学家陈晓红，如今坐的就是以库普曼斯命名的讲席。
   • 后续脉络：2010 年菲尔兹奖得主维拉尼把最优传输与几何、概率、偏微分方程打通；2013 年 Marco Cuturi 引入熵正则化与 Sinkhorn 算法大幅提速，使其成为机器学习常用工具。textGrain 把这条数学链条搬进大模型，被搬运的对象换成下一个词的概率。

3. textGrain 原理：给水印设「随机性预算」

   • 论文证明了一条恒等式：水印让选词与密钥之间多出的关联，恰好等于模型平均损失的随机性；即获得多少统计关联就要付出多少随机性。
   • 因此 OpenAI 可事先规定水印最多消耗原随机性的比例，例如定为 0.2，平均至少保留八成随机性以维持回答多样性。
   • 第一步：密钥结合前文把候选词随机分组并累加各组概率，如图中六个词分为 0.40、0.35、0.25 三组，只需在组间分配概率。
   • 第二步：准备 4 套「偏心」方案，密钥为每个「组×方案」格子生成随机分数，用带熵约束的最优传输和 Sinkhorn 算法反复修正行列和，把概率往高分格子挪，挪到预算用完；4 套方案各偏向不同组，平均后每组概率仍为 0.40、0.35、0.25。
   • 第三步：密钥选中其中一套，图中选中第 2 列，「cold、sunny」组概率从 0.35 提到 0.69，再按组内原比例（如 25 比 10）挑词，写下「cold」。不知密钥者看到的是一次正常抽签。
   • 检测只问一个问题：这段文字的选词是否总「碰巧」踩中密钥指定的偏好。普通文字每位分数纯随机，总分范围可由现成概率分布精确算出；带水印文字踩在高分格子上，总分异常高。检测只需原文和密钥，不需调用模型，也不需知道生成时的预算。

4. textGrain 原理：给水印设「随机性预算」（续）

   • 水印未削弱模型：GPT-6 Astra 的 8 项基准中 5 项略涨，掉得最多的只有 1.12 个点；ChatGPT 内部测试显示用户「点踩率」几乎无变化。

5. 作者团队：北大数院校友领衔，宾大、耶鲁联手 OpenAI

   • 这份 20 页技术报告有 4 位高校学者，9 位作者背景横跨统计学、经济学、优化与机器学习。
   • 第一作者李翔在北大完成统计学本科与博士，导师张志华，近年专攻大模型文本水印与评估，明年 1 月赴罗格斯大学统计系任助理教授。
   • 宾大的龙琦是生物统计学家、中国科大少年班出身，执掌宾大生物医学信息学研究所；耶鲁的陈晓红是美国艺术与科学院院士，曾与邹至庄共同获得 2017 年中国经济学奖；温刚是耶鲁统计与数据科学系五年级博士生，北大数院本科，主攻高维概率与随机矩阵，2021 年起跟着苏炜杰做研究。
   • OpenAI 一方，Qingquan Song 来自基座模型团队、是开源工具 Auto-Keras 作者之一，Arzav Jain 与 Florent Joly 都参与过 ChatGPT 搜索研发。
   • 通讯作者苏炜杰今年 5 月正式加入 OpenAI，同时仍是宾大沃顿统计与数据科学系教授；他是北大数院 07 级，年级第一、首届丘成桐大学生数学竞赛全能金牌，后于斯坦福随 Emmanuel Candès 读统计学博士，研究方向含统计机器学习、高维推断、优化与隐私保护。
   • 原文提到，ICML 2023 专门拿苏炜杰提出的「保序机制」做过实验，让作者给自己的投稿排序，用来校准审稿分数；今年 2 月他获 COPSS 会长奖，颁奖词首条即生成式 AI 的统计基础（含水印研究）。

6. 「这是我写的」开始需要证明

   • 原样照抄确实危险，几百个词连在一起就足以让检测器认出；但眼下能查的人不是老师或 HR——OpenAI 检测器只给审核通过的研究者，Anthropic 的也只对监管、媒体、研究者和教育机构开放。
   • ChatGPT 每周有 12 亿人使用，越来越多文字出自模型，谷歌、Anthropic、OpenAI 都选择把出处写进文字本身。
   • 文末的判断：水印只能证明一段话出自 AI，证明不了一段话出自你，「这是我写的」这句话往后可能也要拿出证据。