Lil'Log（Lilian Weng 个人博客） · Lilian Weng
Self-Supervised Representation Learning
Self-Supervised Representation Learning是Lil'Log（Lilian Weng 个人博客）的免费文章（en）。前置条件：需要了解神经网络训练、卷积网络与基本分类任务，并接触过对比学习、强化学习 MDP 等概念会更容易读懂。
读完能理解自监督表征学习（pretext task）的基本框架，以及图像、视频、控制三类自监督方法的主要思路与代表工作。
Lil'Log
- 难度
- 见前置条件
- 类型
- 博客 · 文章
- 语言
- en
- 规模
- 1 个课节
- 内容费用
- 免费
- 动手
- 打开即可学习
使用限制
浏览器直接打开即可阅读全文，无需账号或安装。
- 练习与作业
- 开课提示词尚未实际运行验证
- 内容提示
- 内容时效：网页标注文章发布于 2019 年 11 月 10 日，最后一条更新说明停留在 2021 年 5 月 31 日（移除 Momentum Contrast 一节并指向另一篇对比学习文章）。
学完你能
- 解释自监督学习与监督学习、无监督学习的区别，以及 pretext task 与下游任务的关系
- 说明用代理任务学到的中间表征如何用线性分类器在 ImageNet 上评估
- 列举并解释基于图像变形的自监督任务，如 Exemplar-CNN 的替代类别和图像旋转预测
- 描述基于图像块的预测任务，如预测两块图像的相对位置及其防捷径设计
- 说明基于视频的自监督思路，如跟踪与帧序列任务
- 概述基于控制（强化学习）的自监督方法，如多视角度量学习、自主目标生成与 bisimulation
适合你吗
适合
适合已具备深度学习基础、想系统了解自监督/表征学习经典方法与思路的学习者，文章为长综述，适合通读加按节精读。
暂不适合
不适合完全零基础者；页面是概念与方法综述，不提供完整可运行代码实现，也不侧重 NLP 语言建模或生成模型。
需要先会
需要了解神经网络训练、卷积网络与基本分类任务，并接触过对比学习、强化学习 MDP 等概念会更容易读懂。
课程特点
- 内容侧重
- 按内容目录判断
- 练习与项目
- 可在读完图像类方法后，尝试用 PyTorch 实现一个简单的旋转预测 pretext 任务来巩固理解（原站未提供代码）。
- 学习时长
- 1 个课节原站未给出统一学习时长；实际用时取决于已有基础。
- 内容费用
- 免费节选直接给出文章正文与目录，页面为公开博客文章，未见付费墙或登录拦截。
内容覆盖
- Why Self-Supervised Learning?
- Images-Based：Distortion
- Images-Based：Patches
- Images-Based：Colorization
- Images-Based：Generative Modeling
- Images-Based：Contrastive Learning
- Video-Based：Tracking
- Video-Based：Frame Sequence
- Video-Based：Video Colorization
- Control-Based：Multi-View Metric Learning
- Control-Based：Autonomous Goal Generation
- Control-Based：Bisimulation
- References
常见问题
免费吗？
免费：节选直接给出文章正文与目录，页面为公开博客文章，未见付费墙或登录拦截。实践无额外费用：文章为阅读型综述，未涉及需要付费的云服务、API 或 GPU。
需要什么基础？
需要了解神经网络训练、卷积网络与基本分类任务，并接触过对比学习、强化学习 MDP 等概念会更容易读懂。软件、账号与硬件：只需浏览器阅读，无需安装环境或账号。
有中文吗？
本站记录的语言是en；是否有中文字幕或译本本站未核实，请以原站为准。
怎么开始？
从原始资源入口开始：https://lilianweng.github.io/posts/2019-11-10-self-supervised/。打开原文即可，无需安装软件。开课提示词尚未完整验证。练习与作业需要自备：开课提示词尚未实际运行验证。
来源与使用须知
- 收录时间
- 本站首次收录 2026-10-24
- 指南参考
- 课程主页
版权与转载
- 课程材料未标明许可：仅供个人学习，转载、修改或商用前请先联系原作者。
- 本站只提供原始链接和学习指南，不转载、不镜像课程材料；引用时请注明原作者与出处。