博客
策略梯度算法
Policy Gradient Algorithms | Lil'Log
Lil'Log 博客的一篇长文，讲解强化学习中的策略梯度方法。内容从策略梯度定理及其证明讲起，逐一介绍 REINFORCE、Actor-Critic、A3C/A2C、DPG/DDPG/D4PG、MADDPG、TRPO、PPO、PPG、ACER、ACTKR、SAC、TD3、SVPG、IMPALA 等算法，并附有符号表和参考文献；文末更新记录提到已有中文和韩文译本。
全部资源
全部 AI 精选，可按分级、类型、是否付费、收录时间筛选，按关键词搜索。
排序：最新收录 · 推荐902 条精选
教程
元学习：学会快速学习
Meta-Learning: Learning to Learn Fast
Lil'Log 博客介绍元学习的文章。先定义元学习问题并说明训练与测试方式的一致性，然后按三类方法展开：基于度量的方法（孪生网络、匹配网络、关系网络、原型网络）、基于模型的方法（记忆增强网络、Meta Networks、快速权重），以及基于优化的方法（LSTM 元学习器、MAML、一阶 MAML、Reptile），并附有中文译本链接。
博客
深度神经网络严重过拟合了吗？
Are Deep Neural Networks Dramatically Overfitted? | Lil'Log
Lil'Log 博客讨论深度学习泛化问题的文章。从经典压缩与模型选择理论（奥卡姆剃刀、最小描述长度、柯尔莫哥洛夫复杂度、Solomonoff 推断）讲起，讨论深度模型的表达能力（万能逼近定理、两层网络有限样本表达性、可学习随机噪声），然后分析“是否严重过拟合”以及现代风险曲线、正则化并非泛化关键、内在维度、异构层鲁棒性和彩票假设。
博客
广义语言模型
Generalized Language Models
Lil'Log 博客梳理预训练语言模型的文章。按时间顺序介绍 CoVe、ELMo、跨视角训练 CVT、ULMFiT、GPT、BERT、ALBERT、GPT-2、RoBERTa、T5、GPT-3、XLNet、BART 和 ELECTRA，涉及预训练任务、输入嵌入、字节对编码、零样本迁移等，最后总结困惑度指标与常用任务和数据集。
博客
基于流的深度生成模型
Flow-based Deep Generative Models
Lil'Log 博客关于流模型（flow-based generative models）的文章。先对比 GAN、VAE 与流模型的区别，回顾雅可比矩阵、行列式与变量变换定理，再介绍归一化流（Normalizing Flows）及 RealNVP、NICE、Glow，以及基于自回归流的 MADE、PixelRNN、WaveNet、掩码/逆自回归流，最后提到 VAE + Flows 的组合。
博客
从自编码器到 Beta-VAE
From Autoencoder to Beta-VAE
Lil'Log 博客梳理自编码器及其变体的文章。依次介绍普通自编码器、去噪、稀疏和收缩自编码器，然后重点讲变分自编码器 VAE（ELBO 损失与重参数化技巧）、Beta-VAE，以及后续加入的 VQ-VAE、VQ-VAE-2 和 TD-VAE 章节，附符号表。
博客
多臂老虎机问题及其解法
The Multi-Armed Bandit Problem and Its Solutions
这篇博客以“去哪家餐厅吃饭”等生活化例子说明利用与探索的权衡，界定多臂老虎机问题，并介绍若干策略：ε-贪心、基于 Hoeffding 不等式的置信上界 UCB1、贝叶斯 UCB、汤普森采样，最后附案例研究与总结。作者提到针对伯努利老虎机的算法实现在其 GitHub 仓库 lilianweng/multi-armed-bandit 中。
博客
用于 Sim2Real 迁移的域随机化
Domain Randomization for Sim2Real Transfer
Lil'Log 博客介绍机器人领域域随机化（Domain Randomization）的文章。先说明仿真到真实迁移的困难与系统辨识等思路，然后讲均匀域随机化的做法，从优化和元学习两个角度解释其原理，并介绍面向任务性能的引导式域随机化，包括匹配真实数据分布和借助仿真器数据引导两类方法。
博客
面向初学者的目标检测 第一部分：梯度向量、HOG 与选择性搜索
Object Detection for Dummies Part 1: Gradient Vector, HOG, and SS
Lilian Weng 的“Object Detection for Dummies”系列第一篇，介绍目标识别与检测之前的基础图像处理概念与图像分割方法，包括图像梯度向量、常见图像处理核、方向梯度直方图（HOG）、Felzenszwalb 图像分割算法，以及选择性搜索及其配置变化。文中说明本部分不涉及深度神经网络，深度学习检测模型留待第二、三部分。
博客发布 2025-07-19
大型 LLM 架构对比
The Big LLM Architecture Comparison
Sebastian Raschka 于 2025 年 7 月 19 日发布的文章（末次更新标注为 2026 年 4 月 2 日，加入 Gemma 4），比较从 DeepSeek V3 到 GLM-5 等现代 LLM 的架构设计。文中以 GPT-2 为参照，讨论位置嵌入从绝对位置到 RoPE、多头注意力转向分组查询注意力、SwiGLU 取代 GELU 等变化，并说明其重点在结构本身而非基准表现或训练算法。
教程发布 2025-06-17
从头理解并用代码实现 LLM 中的 KV 缓存
Understanding and Coding the KV Cache in LLMs from Scratch
Sebastian Raschka 于 2025 年 6 月 17 日发布的技术教程，讲解 LLM 推理中 KV 缓存的工作原理，并给出一个从零实现、便于阅读的代码示例。文中说明 KV 缓存存储推理阶段可复用的 key 与 value 中间计算结果，可显著加快文本生成；代价是增加代码复杂度与内存需求，且不能用于训练。作者提到该主题未包含在其《Building a Large Language Model From Scratch》一书中。
博客发布 03-14
走进大语言模型架构图库
Inside the LLM Architecture Gallery
Sebastian Raschka 的博客文章，介绍他建立的 LLM Architecture Gallery（大语言模型架构图库）：把他为阅读新模型报告而绘制的架构图集中在一处，截至更新时收录来自 42 篇文章和报告的 93 张模型卡片，覆盖 GPT-2、Llama 3 等稠密架构、DeepSeek V3、Kimi K2 等混合专家模型以及注意力与循环/状态空间层结合的混合架构；文中说明了每张卡片的架构图、原文链接和参数事实表等内容。