返回资源列表

Datawhale(datawhalechina) · erenup(多多笔记) · 张帆 · 张贤 · 李泺秋 · 蔡杰 · hlzhang · 台运鹏 · 张红旭

基于transformers的自然语言处理(NLP)入门

跟着中文图文教程理解 Transformer/BERT/GPT 原理,并用 PyTorch 与 Hugging Face Transformers 动手完成常见 NLP 任务的实现与训练。

打开官方课程
难度
入门
形式
实践教程
语言
zh
规模
21 个课节
内容费用
免费
动手
需要动手环境

使用限制

阅读教程只需浏览器;跑通代码需自备 Python/PyTorch 环境,并可能用到 GPU。

学习材料
可访问 GitHub 或 GitHub Pages 在线阅读教程
练习与作业
如需实际训练模型,训练任务可能依赖 GPU;网页未说明具体要求

第一次学这门课?先完成学前准备,把课程目录搭好。

每节课这样学

  1. 发提示词把下面的每课提示词发给 AI Agent,它会准备这一课的练习文件。
  2. 学官方课节打开对应课节学习,按提示从第一道练习做起;它不会替你写答案。
  3. 记进度学完让 AI Agent 在 progress.md 勾选,并把疑问整理到 questions.md。
每课提示词 · 每次学习前用
继续学习「基于transformers的自然语言处理(NLP)入门」。课程目录是 learn-nlp-with-transformers/(不知道完整路径就先问我)。
1. 读 progress.md,找到下一课;如果我指定了第几课,就准备那一课。
2. 打开这一课的官方页面和本地讲义,列出本课练习要用的工具、文件和样例数据。缺少的先告诉我,等我同意再安装或下载。
3. 在 lessons/ 对应的课节文件夹里准备好练习:exercises/ 里给每道题建一个文件,写上题号和题目原文链接,不写答案;已有文件保留,样例数据放到 data/。拿不到官方题目或起始代码时记录限制,不编造替代品。
4. 按 README 运行开课时生成的自检脚本或在线检查清单,并检查本课新增工具能否正常使用。
5. 告诉我:本课先读哪几节、从哪道练习开始、大约需要多久。我学完后,帮我在 progress.md 勾选并把问题整理到 questions.md。

边界:
- 需要管理员权限、会产生费用或需要填写密钥的操作,先告诉我原因,等我同意。密钥由我在本机配置,不发到聊天,不写进笔记或版本库;原项目需要 .env 时确认已被 Git 忽略。
- 不替我写练习或作业答案,也不替我提交。我卡住时只给提示;我明确要求时才给解答。
- 只下载许可允许个人保存的材料;其余只放链接。不把未运行的命令说成成功。

课节共 21 节 · 官方顺序

  1. 011.0-本地阅读和代码运行环境配置
  2. 021.1-Transformers在NLP中的兴起
  3. 032.1-图解attention
  4. 042.2-图解transformer
  5. 052.2.1-Pytorch编写Transformer
  6. 062.2.2-Pytorch编写Transformer-选读
  7. 072.3-图解BERT
  8. 082.4-图解GPT
  9. 092.5-篇章小测
  10. 103.1-如何实现一个BERT
  11. 113.2-如何应用一个BERT
  12. 123.3-篇章小测
展开其余 9 节
  1. 134.0-前言
  2. 144.1-文本分类
  3. 154.2-序列标注
  4. 164.3-问答任务-抽取式问答
  5. 174.4-问答任务-多选问答
  6. 184.5-生成任务-语言模型
  7. 194.6-生成任务-机器翻译
  8. 204.7-生成任务-摘要生成
  9. 214.8-篇章小测

来源与使用须知

收录时间
本站首次收录 2026-10-17
指南参考

版权与转载

  • 课程材料未标明许可:仅供个人学习,转载、修改或商用前请先联系原作者。
  • 本站只提供原始链接和学习指南,不转载、不镜像课程材料;引用时请注明原作者与出处。