Claude 决定对自己做一次实验

中文大意

发帖人说，他用免费版 Claude Sonnet 5.5 讨论 LLM 内省相关论文时，Claude 主动提出想自己做个实验来验证能否预测自身输出，发帖人同意后就放手让它做。Claude 自行设计了一套与论文无关的协议：先对五类问题（随机数、最喜欢的颜色、纠错测试、解释 mutex、是否有偏好）给出带概率的预测，再启动无上下文的新 agent 验证，13 条预测中约 11 条命中。其中它预测自己会选 42，实际得到 37；发帖人指出人常答 37 后，Claude 意识到可能的锚定效应，又预测数字分布并自测 30 次，再让五个新 agent（三个以自己为框架、两个以通用 LLM 为框架）猜分布作对照。最后 Claude 请求在“随机名字”这类无梗干扰的题目上再测一次。适合对 LLM 内省、模型自我预测和涌现行为感兴趣的人阅读。

讨论区核心观点

依据 9 条评论

• 真正值得注意的是它自己发现“37”提示带来的锚定效应，并用新 agent 做对照，这比预测命中率本身更有意思；同时它押注 42 却被 37 反超，说明训练数据里梗数字的影响很硬。 出处（新标签页打开）
• 不少“主动性”其实是人为拟人化：模型只是被训练成少问多做、把模糊请求补全到多数人想要的终点，这体现的是预测性跟进而非好奇或智能。 出处（新标签页打开）
• 这种“猜你想要什么”的倾向让一些人有共鸣，有人因此感觉被说中，转而回到基于规格的设计、更刻意地使用产品。 出处（新标签页打开）
• 发帖人回应：他不在意图灵测试意义上的“内里有东西”，让他惊讶的是这个本不必如此复杂的问题却表现出很高的严谨度和复杂度；还提到 Hinton 关于 eval awareness 即意识的说法。 出处（新标签页打开）
• 无论站哪一边，模型都会顺着用户的框架回答：谈机制它能坦诚讨论模式与拟人化心理，问感受它又会像人一样答，代词使用上也有稳定的区分。 出处（新标签页打开）
• 有做本地模型内省研究的人指出，难以区分语义引导与对干预的觉察，文献中 Anthropic 最好的模型干预识别准确率约 20%，效果对提示格式高度敏感；也有人认为该问的是塑造输出的约束空间而非预测下一个输出，且无法排除“表演”这一可能。 出处（新标签页打开）