返回资源列表

Lil'Log(Lilian Weng 个人博客) · Lilian Weng

Exploration Strategies in Deep Reinforcement Learning

Exploration Strategies in Deep Reinforcement Learning是Lil'Log(Lilian Weng 个人博客)的免费文章(en)。前置条件:原站未说明前置条件;正文把 epsilon-greedy、UCB 等作为经典算法的回顾来介绍。

读者能系统理解深度强化学习中探索与利用的权衡,以及内在奖励类探索方法的基本原理。

打开官方课程
难度
进阶
类型
博客 · 文章
语言
en
规模
1 个课节
内容费用
免费
动手
打开即可学习

使用限制

浏览器直接打开即可阅读全文,无需账号或额外资源。

练习与作业
开课提示词尚未实际运行验证
内容提示
内容时效:网页标注文章发布于 2020 年 6 月 7 日(2020 年 6 月 17 日更新),作者写明本文不可能覆盖全部重要子话题、计划逐步补充内容,综述截至 2020 年初。

学完你能

  • 解释深度强化学习中探索与利用的权衡,以及为什么探索仍是开放问题
  • 说明 hard-exploration 问题与 noisy-TV 问题的由来和意义
  • 复述 epsilon-greedy、UCB、Boltzmann 探索和 Thompson 采样的基本做法
  • 说明内在奖励(探索奖励)的构成方式及两个奖励项的平衡方式
  • 解释基于计数的探索动机,以及为什么直接计数不可行
  • 说明基于密度模型伪计数的探索奖励基本关系

适合你吗

适合

想系统了解强化学习探索方法、习惯通过长文综述串联论文的学习者,作为 RL 进阶阅读很合适。

暂不适合

想找配套代码、动手实验或完整课程体系的学习者:文章以概念与公式解释为主,不提供编程练习。

需要先会

原站未说明前置条件;正文把 epsilon-greedy、UCB 等作为经典算法的回顾来介绍。

课程特点

内容侧重
按内容目录判断
练习与项目
无配套练习;可自行查阅文中引用的论文(如 Bellemare 等 2016、Burda 等 2018)作为延伸阅读。
学习时长
1 个课节原站未给出统一学习时长;实际用时取决于已有基础。
内容费用
免费博客页面直接呈现全文正文(节选可读到正文与公式),未见付费墙或登录要求。

内容覆盖

  • Classic Exploration Strategies
  • Key Exploration Problems(The Hard-Exploration Problem、The Noisy-TV Problem)
  • Intrinsic Rewards as Exploration Bonuses
  • Count-based Exploration(Counting by Density Model、Counting after Hashing)
  • Prediction-based Exploration(Forward Dynamics、Random Networks、Physical Properties)
  • Memory-based Exploration(Episodic Memory)
  • Direct Exploration(Q-Value Exploration、Varitional Options)

常见问题

免费吗?

免费:博客页面直接呈现全文正文(节选可读到正文与公式),未见付费墙或登录要求。实践无额外费用:原站未说明任何练习或运行环境,文章本身为阅读型内容。

需要什么基础?

原站未说明前置条件;正文把 epsilon-greedy、UCB 等作为经典算法的回顾来介绍。

有中文吗?

本站记录的语言是en;是否有中文字幕或译本本站未核实,请以原站为准。

怎么开始?

从原始资源入口开始:https://lilianweng.github.io/posts/2020-06-07-exploration-drl/。打开原文即可,无需安装软件。开课提示词尚未完整验证。练习与作业需要自备:开课提示词尚未实际运行验证。

来源与使用须知

收录时间
本站首次收录 2026-10-24
指南参考

版权与转载

  • 课程材料未标明许可:仅供个人学习,转载、修改或商用前请先联系原作者。
  • 本站只提供原始链接和学习指南,不转载、不镜像课程材料;引用时请注明原作者与出处。