RL Handbook：强化学习全面指南（开源手册）

策略梯度算法

Policy Gradient Algorithms | Lil'Log

Lil'Log 博客的一篇长文，讲解强化学习中的策略梯度方法。内容从策略梯度定理及其证明讲起，逐一介绍 REINFORCE、Actor-Critic、A3C/A2C、DPG/DDPG/D4PG、MADDPG、TRPO、PPO、PPG、ACER、ACTKR、SAC、TD3、SVPG、IMPALA 等算法，并附有符号表和参考文献；文末更新记录提到已有中文和韩文译本。

一窥强化学习（长文）

A (Long) Peek into Reinforcement Learning

这篇长篇博客以 AlphaGo、AlphaGo Zero 和 OpenAI 在 DOTA2 1v1 中的成果为引子，概述强化学习。内容涵盖核心概念（转移与奖励模型、策略、价值函数、最优价值与策略）、马尔可夫决策过程、贝尔曼期望与最优方程，以及主要方法：动态规划（策略评估、策略改进、策略迭代）、蒙特卡洛方法、时序差分学习（自举、值估计、SARSA、Q-Learning、DQN）、TD 与 MC 结合、策略梯度（策略梯度定理、REINFORCE、Actor-Critic、A3C）和进化策略，并讨论利用-探索困境与致命三元组问题，最后附 AlphaGo Zero 案例。文中注明该文有中文译本。

2025 年大语言模型现状：进展、问题与预测

Sebastian Raschka 于 2025 年 12 月 30 日发布在个人杂志上的年度回顾文章，梳理 2025 年大语言模型的主要发展，包括被作者称为“推理、RLVR 和 GRPO 之年”的趋势、2025 年 1 月 DeepSeek R1 的发布及其影响，并讨论仍然存在的局限与开放问题以及对后续发展的看法。

面向推荐系统的 Bandit 方法

Bandits for Recommender Systems

这篇博客文章讲解 Bandit 方法如何通过建模不确定性并主动探索来解决推荐系统的反馈回路问题，尤其适用于物品集合快速变化（新闻、广告、推文）或流量较低的场景。文中简要讨论了 ε-greedy、UCB 和 Thompson Sampling 三种主要算法，并提及工业界实现。适合做推荐系统、关注探索与利用问题的人阅读。

从零构建推理模型：完整视频课程

Building Reasoning Models from the Ground Up: A Full Video Course

这是 Ahead of AI 作者发布的配套视频课程介绍，包含 8 个从零构建推理模型的编程视频，共约 11 小时，用 Python 和 PyTorch 实现推理扩展、强化学习、蒸馏等方法。课程从一个预训练 LLM 出发，实现评估与改进该模型的方法，是其此前《从零编程 LLM》课程的续篇，但不需要先修该课程。适合希望动手理解推理模型内部机制的人。

多臂老虎机问题及其解法

The Multi-Armed Bandit Problem and Its Solutions

这篇博客以“去哪家餐厅吃饭”等生活化例子说明利用与探索的权衡，界定多臂老虎机问题，并介绍若干策略：ε-贪心、基于 Hoeffding 不等式的置信上界 UCB1、贝叶斯 UCB、汤普森采样，最后附案例研究与总结。作者提到针对伯努利老虎机的算法实现在其 GitHub 仓库 lilianweng/multi-armed-bandit 中。