思考以回忆：推理如何解锁大语言模型中的参数化知识

语言模型中的全局工作区

A global workspace in language models

这是 Anthropic 的一篇可解释性研究介绍，取材于一篇新论文。文章先以人脑中可被意识访问与不可访问的活动作类比，称在 Claude 等现代语言模型中也出现了类似区分：模型内部有一小组神经模式相对其他内部处理扮演特殊角色，可被描述、控制并用于有意的推理，作者将这一集合称为 J-space，命名源自寻找它们所用的技术与某个数学概念。

斯坦福 AA228 / CS238：不确定性下的决策（2026 年秋）

斯坦福大学一门课程主页，从计算角度讲不确定性下的决策，介绍构建自主系统与决策支持系统所需的工具。内容涵盖概率模型与决策理论、随机动态下的求解方法、模型不确定性与不完整状态信息，涉及贝叶斯网络、影响图、动态规划、强化学习与部分可观测马尔可夫决策过程，应用包括空中交通管制、航空监视、自动驾驶与行星机器人探索。先修要求为基本概率与一门高级编程语言；页面注明讲座不要求到场、习题课仅在 Zoom 进行、考试为线下。适合具备概率与编程基础、想系统学习不确定性下决策方法的学生和开发者。

[R] 用 PCA 降维的 Conformer 中间层填充 256 维零空间，把 EmbeddingGemma-2（577M）在 MAEB 音频榜单上从第 26 名提到第 1（零训练） [R]

[R] Taking EmbeddingGemma-2 (577M) from Rank #26 to #1 on the MAEB audio benchmark by filling its 256d null space with PCA-reduced intermediate Conformer layers (zero training) [R]

r/MachineLearning 社区帖子，讲述在 google/embeddinggemma-2（577M）上的实验：仅用 PCA 把中间 Conformer 层投影到最终投影矩阵未被使用的零空间，在 MTEB 榜单的 30 任务音频基准 MAEB 上宏平均分从 49.3% 升到 54.4%（+5.1 点），MAEB 纯音频排名从第 26 升至第 1，完整 MAEB 从第 16 升至第 1；帖中并分析了文本对齐音频编码器末层过滤掉副语言与声学特征的现象，以及对 12 层 Conformer 逐层探测的结果。适合研究音频/多模态嵌入表示与零训练后处理的人阅读。

自然语言自编码器

Natural Language Autoencoders

这是 Anthropic 的一项研究介绍，主题是将 AI 模型的内部激活转化为可直接阅读的自然语言文本。文中说明 Claude 内部以数字列表（激活）处理词语，此前已有稀疏自编码器、归因图等工具，但输出需研究者解读；自然语言自编码器（NLA）则把激活直接转换成自然语言，并举例说明其在完成对句任务时展示出模型的内部状态。