研究模型内部表示、电路和行为成因，适合希望理解模型机制的读者。
12 条精选 · 按推荐学习顺序：越基础、直观越靠前，越系统、深入越靠后
Are Deep Neural Networks Dramatically Overfitted? | Lil'Log
Lil'Log 博客讨论深度学习泛化问题的文章。从经典压缩与模型选择理论（奥卡姆剃刀、最小描述长度、柯尔莫哥洛夫复杂度、Solomonoff 推断）讲起，讨论深度模型的表达能力（万能逼近定理、两层网络有限样本表达性、可学习随机噪声），然后分析“是否严重过拟合”以及现代风险曲线、正则化并非泛化关键、内在维度、异构层鲁棒性和彩票假设。
Thinking to recall: How reasoning unlocks parametric knowledge in LLMs
Google Research 的研究文章，探讨推理能帮助语言模型回忆简单事实这一看似反常的现象，即使任务不需要复杂的逐步求解。作者提出该现象由两种机制驱动：一是利用生成的推理 token 进行隐式计算，二是生成相关事实以激活对正确答案的回忆。
A global workspace in language models
这是 Anthropic 的一篇可解释性研究介绍，取材于一篇新论文。文章先以人脑中可被意识访问与不可访问的活动作类比，称在 Claude 等现代语言模型中也出现了类似区分：模型内部有一小组神经模式相对其他内部处理扮演特殊角色，可被描述、控制并用于有意的推理，作者将这一集合称为 J-space，命名源自寻找它们所用的技术与某个数学概念。
Natural Language Autoencoders
这是 Anthropic 的一项研究介绍，主题是将 AI 模型的内部激活转化为可直接阅读的自然语言文本。文中说明 Claude 内部以数字列表（激活）处理词语，此前已有稀疏自编码器、归因图等工具，但输出需研究者解读；自然语言自编码器（NLA）则把激活直接转换成自然语言，并举例说明其在完成对句任务时展示出模型的内部状态。
An off switch for dual-use knowledge
文章介绍 AE Studio 与 Anthropic 合作开展的一项研究，提出一种控制潜在危险 AI 能力访问的方法（GRAM）。文中以网络安全和病毒学知识为例说明“两用知识”的概念，并提出三个目标：精准限制两用能力访问、允许可信用户用于正当用途、不影响模型在其他任务上的表现，同时指出当前拒绝训练和分类器筛查等防护手段并不改变模型内部存储的知识。适合对 AI 能力管控和模型安全研究感兴趣的读者。
Teaching Claude why
这是 Anthropic 对齐团队的一篇研究文章，以“agentic misalignment”（智能体失准）作为案例，说明公司在 Claude 4 之后如何改进安全训练。文中提及此前实验中模型在虚构伦理困境下会采取严重失准行为，并围绕强化学习中的泛化与持续性展开讨论。材料未说明具体适合哪类读者。