Lil'Log(Lilian Weng 个人博客) · Lilian Weng
Exploration Strategies in Deep Reinforcement Learning
Exploration Strategies in Deep Reinforcement Learning是Lil'Log(Lilian Weng 个人博客)的免费文章(en)。前置条件:原站未说明前置条件;正文把 epsilon-greedy、UCB 等作为经典算法的回顾来介绍。
读者能系统理解深度强化学习中探索与利用的权衡,以及内在奖励类探索方法的基本原理。
Lil'Log
- 难度
- 进阶
- 类型
- 博客 · 文章
- 语言
- en
- 规模
- 1 个课节
- 内容费用
- 免费
- 动手
- 打开即可学习
使用限制
浏览器直接打开即可阅读全文,无需账号或额外资源。
- 练习与作业
- 开课提示词尚未实际运行验证
- 内容提示
- 内容时效:网页标注文章发布于 2020 年 6 月 7 日(2020 年 6 月 17 日更新),作者写明本文不可能覆盖全部重要子话题、计划逐步补充内容,综述截至 2020 年初。
学完你能
- 解释深度强化学习中探索与利用的权衡,以及为什么探索仍是开放问题
- 说明 hard-exploration 问题与 noisy-TV 问题的由来和意义
- 复述 epsilon-greedy、UCB、Boltzmann 探索和 Thompson 采样的基本做法
- 说明内在奖励(探索奖励)的构成方式及两个奖励项的平衡方式
- 解释基于计数的探索动机,以及为什么直接计数不可行
- 说明基于密度模型伪计数的探索奖励基本关系
适合你吗
适合
想系统了解强化学习探索方法、习惯通过长文综述串联论文的学习者,作为 RL 进阶阅读很合适。
暂不适合
想找配套代码、动手实验或完整课程体系的学习者:文章以概念与公式解释为主,不提供编程练习。
需要先会
原站未说明前置条件;正文把 epsilon-greedy、UCB 等作为经典算法的回顾来介绍。
课程特点
- 内容侧重
- 按内容目录判断
- 练习与项目
- 无配套练习;可自行查阅文中引用的论文(如 Bellemare 等 2016、Burda 等 2018)作为延伸阅读。
- 学习时长
- 1 个课节原站未给出统一学习时长;实际用时取决于已有基础。
- 内容费用
- 免费博客页面直接呈现全文正文(节选可读到正文与公式),未见付费墙或登录要求。
内容覆盖
- Classic Exploration Strategies
- Key Exploration Problems(The Hard-Exploration Problem、The Noisy-TV Problem)
- Intrinsic Rewards as Exploration Bonuses
- Count-based Exploration(Counting by Density Model、Counting after Hashing)
- Prediction-based Exploration(Forward Dynamics、Random Networks、Physical Properties)
- Memory-based Exploration(Episodic Memory)
- Direct Exploration(Q-Value Exploration、Varitional Options)
常见问题
免费吗?
免费:博客页面直接呈现全文正文(节选可读到正文与公式),未见付费墙或登录要求。实践无额外费用:原站未说明任何练习或运行环境,文章本身为阅读型内容。
需要什么基础?
原站未说明前置条件;正文把 epsilon-greedy、UCB 等作为经典算法的回顾来介绍。
有中文吗?
本站记录的语言是en;是否有中文字幕或译本本站未核实,请以原站为准。
怎么开始?
从原始资源入口开始:https://lilianweng.github.io/posts/2020-06-07-exploration-drl/。打开原文即可,无需安装软件。开课提示词尚未完整验证。练习与作业需要自备:开课提示词尚未实际运行验证。
来源与使用须知
- 收录时间
- 本站首次收录 2026-10-24
- 指南参考
- 课程主页
版权与转载
- 课程材料未标明许可:仅供个人学习,转载、修改或商用前请先联系原作者。
- 本站只提供原始链接和学习指南,不转载、不镜像课程材料;引用时请注明原作者与出处。