Alex Wang 博客··17 天前
你本可以凭记忆发明 Transformer
You could have invented transformers from memory
Alex Wang 的一篇博客文章，标题为“你本可以凭记忆发明 Transformer”。所提供的材料只显示标题和页面中的 MathJax 宏定义，看不到正文内容，因此无法判断具体讲了什么。从标题看，内容与 Transformer 架构和联想记忆有关。
- 分级
- 值得看
- 所属主题
- 神经网络与注意力
- 收录时间
- 2026-10-26
推荐阅读
PBT 不能让 grokking 更快，但能逃离一个什么都无法 grok 的超参数区间 [P]
PBT doesn’t make grokking faster, but it can escape a hyperparameter range where nothing groks [P]
这是一篇 [P] 类社区实验帖，在模 97 加法、35% 训练集的小型 MLP 上对学习率与权重衰减运行基于种群的训练（PBT），与等算力网格搜索对比：最优固定格点约 317±29 步达到 95% 验证准确率，PBT 为 2667±2244 步；从“死区”起点出发时，固定设置与慢速 PBT 均为 0/3，而快速 PBT 3/3 在约 6850 步逃离。消融显示随机供体也能逃离但更晚，重放胜出的 lr/wd 调度在 60 次新初始化中 55 次成功，而几何均值常数设置为 0/60；作者结论是 PBT 是逃离坏区间的救援工具而非加速手段，并列出任务单一、种子数有限、事后选择胜者等局限。适合研究超参数搜索、grokking 现象与训练动力学的人阅读。
从 GPT-2 到 gpt-oss：架构进展分析
From GPT-2 to gpt-oss: Analyzing the Architectural Advances
Sebastian Raschka 于 2025 年 8 月 9 日发布的文章，围绕 OpenAI 新发布的开权重模型 gpt-oss-120b 与 gpt-oss-20b，基于代码与技术报告总结架构细节。内容包括与 GPT-2 的架构对比、用于把模型放进单张 GPU 的 MXFP4 优化、宽度与深度的取舍（与 Qwen3 对比）、注意力偏置与 attention sinks、基准比较，文末简要讨论 GPT-5。
元学习：学会快速学习
Meta-Learning: Learning to Learn Fast
Lil'Log 博客介绍元学习的文章。先定义元学习问题并说明训练与测试方式的一致性，然后按三类方法展开：基于度量的方法（孪生网络、匹配网络、关系网络、原型网络）、基于模型的方法（记忆增强网络、Meta Networks、快速权重），以及基于优化的方法（LSTM 元学习器、MAML、一阶 MAML、Reptile），并附有中文译本链接。
大型 LLM 架构对比
The Big LLM Architecture Comparison
Sebastian Raschka 于 2025 年 7 月 19 日发布的文章（末次更新标注为 2026 年 4 月 2 日，加入 Gemma 4），比较从 DeepSeek V3 到 GLM-5 等现代 LLM 的架构设计。文中以 GPT-2 为参照，讨论位置嵌入从绝对位置到 RoPE、多头注意力转向分组查询注意力、SwiGLU 取代 GELU 等变化，并说明其重点在结构本身而非基准表现或训练算法。
基于流的深度生成模型
Flow-based Deep Generative Models
Lil'Log 博客关于流模型（flow-based generative models）的文章。先对比 GAN、VAE 与流模型的区别，回顾雅可比矩阵、行列式与变量变换定理，再介绍归一化流（Normalizing Flows）及 RealNVP、NICE、Glow，以及基于自回归流的 MADE、PixelRNN、WaveNet、掩码/逆自回归流，最后提到 VAE + Flows 的组合。
本周几个值得关注的开源权重模型
A Few Notable Open-Weight Models This Week
Sebastian Raschka 的简短笔记，介绍近期发布的六个开源权重模型架构，包括 Nanbeige 4.2、Laguna S 2.1、Motif-3-Beta、Solar Open 2、Antares 1B 和 BTL-3。文中给出了各模型的架构示意图与作者认为有意思的设计说明，例如 Nanbeige 4.2 3B 采用循环深度共享，将同一 22 层堆栈运行两次，扩展到 44 层而不复制权重。