课程深入
UC Berkeley EECS182/282A：深度神经网络（2025 秋）
加州大学伯克利分校 EECS 182/282A《Deep Neural Networks》2025 年秋季课程网站，课程时间为周二、周四 11:00–12:30，地点 Soda 306。课程简介称深度网络革新了计算机视觉、语言技术、机器人与控制等领域，但尚无完整的紧凑理论原则，课程试图在直觉、理论建模、实际实现、实证研究与科学分析之间展开；讲座由院系录制并发布到 YouTube 播放列表，需用 @berkeley.edu 账号登录访问，授课内容大量使用白板或手写平板而非幻灯片。
- 分级
- 值得看
- 所属主题
- 神经网络与注意力
- 收录时间
- 2026-10-29
- 难度
- 进阶
- 语言
- 英文
- 规模
- 15 周 · 约 26 讲
- 动手
- 14 次作业 · 含代码
学完你能
- 理解深度网络的直觉、理论建模与实践实现之间的关系
- 掌握 SGD、动量、Adam、muP、MuON 等优化方法与局部线性视角
- 理解卷积网络、ResNet、U-Net、图神经网络等架构设计
- 掌握 RNN、自监督、状态空间模型与 Transformer 的原理
- 了解上下文学习、提示与 LoRA 等参数高效微调方法及迁移学习、元学习
- 了解生成模型与后训练等前沿方向
适合你吗
适合
- 已具备机器学习与深度学习基础、希望系统梳理现代深度网络原理的本科生或研究生
- 希望从优化器、架构到前沿方法完整覆盖一遍的学习者
暂不适合
- 完全没有机器学习背景的初学者
- 只想学编程实现、不关心理论与推导的人
需要先会
需要较强的机器学习与数学基础（课程未列出具体先修课，但内容涉及优化器理论与矩阵范数、参数化等推导）。
课程特点
- 内容侧重
- 覆盖深度网络的基础原理、优化器理论、各类架构（CNN、GNN、RNN、状态空间模型、Transformer）与生成模型、后训练等前沿主题。
- 练习与项目
- 每周一次作业，含书面题（Written）与代码（Code）两部分；每周一次讨论课，涉及 SGD、反向传播、ResNet、注意力等主题。
- 投入时间
- 每周两次课，周二、周四 11:00–12:30，共 15 周；讲课内容大量写在白板或平板上，学生需课后及时手写笔记。
- 费用说明
- 课程页未说明费用；讲座录像由院系录制并发布在 YouTube 播放列表，需登录 @berkeley.edu 账号观看。
内容覆盖
- 第 0 周 课程介绍与行政事项
- 第 1 周 基本原理
- 第 1 周 优化：隐式正则化、SGD 与动量
- 第 2 周 优化：Adam、局部线性视角与特征的含义
- 第 2 周 优化器
- 第 3 周 优化器：从诱导矩阵范数获得的洞见
- 第 3 周 muP：最大更新参数化
- 第 4 周 优化器：MuON
- 第 4 周 卷积网络基础
- 第 5 周 池化/降采样、数据增强与归一化层
- 第 5 周 完成归一化、Dropout 与 ResNet 开始
- 第 6 周 完成 ResNet、全卷积网络与 U-Net
- 第 6 周 图神经网络
- 第 7 周 DiffPool、完成 GNN 与开始 RNN
- 第 7 周 RNN 与自监督
- 第 8 周 完成自监督与开始状态空间模型
- 第 8 周 完成状态空间模型
- 第 9 周 注意力与 Transformer
- 第 9 周 Transformer
- 第 10 周 完成 Transformer
- 第 10 周 上下文学习、提示与 PEFT：软提示与 LoRA
- 第 11 周 完成 PEFT 与开始迁移学习
- 第 12 周 元学习
- 第 12 周 生成模型
- 第 13 周 后训练
- 第 14 周 生成模型
- 第 14 周 生成模型
- 第 15 周 RRR 周