PyTorch Tutorials(PyTorch 官方) · David Eriksson · Max Balandat · Adaptive Experimentation team at Meta
Multi-Objective NAS with Ax
Multi-Objective NAS with Ax是PyTorch Tutorials(PyTorch 官方)的免费实践教程(en)。前置条件:需要了解 PyTorch 模型与训练循环的基本写法,并大致知道超参数搜索的概念。
掌握用 Ax 在 MNIST 上对一个简单网络做多目标(验证准确率 vs 模型参数量)神经架构搜索的端到端流程。
- 难度
- 见前置条件
- 类型
- 教程 · 实践教程
- 语言
- en
- 规模
- 2 个课节
- 内容费用
- 免费
- 动手
- 需要动手环境
学完你能
- 说明多目标 NAS 中准确率与模型大小、延迟等目标之间的权衡
- 用 TorchX 把 PyTorch Lightning 训练任务封装成 AppDef 并配置 Runner
- 用 Ax 定义包含范围参数与有序选择参数(如 2 的幂批大小)的 SearchSpace
- 基于 TensorBoard 日志定义准确率与参数量两个 Metric 并设置优化方向
- 配置 MultiObjectiveOptimizationConfig 与目标阈值约束(准确率≥0.94、参数量≤80000)
- 创建 Experiment 并用 GenerationStrategy 与 Scheduler 运行异步、并发受控的搜索试验
适合你吗
适合
适合想上手多目标贝叶斯优化与自动架构搜索、并已会写基础 PyTorch 训练代码的学习者;教程按作者说明可在笔记本上 20 分钟内跑通。
暂不适合
不适合只想了解 NAS 理论或不需要动手配置 Ax/TorchX 工具链的读者;也不覆盖复杂模型与大数据集场景。
需要先会
需要了解 PyTorch 模型与训练循环的基本写法,并大致知道超参数搜索的概念。
课程特点
- 内容侧重
- 按内容目录判断
- 练习与项目
- 默认在本地以异步方式运行训练任务,参数量与训练轮数都较小,笔记本即可完成;若要改成 kubernetes 调度器则在集群上运行,可能产生云资源费用,建议先用小规模试验。
- 学习时长
- 2 个课节原站未给出统一学习时长;实际用时取决于已有基础。
- 内容费用
- 免费PyTorch 官方教程页面直接给出完整教程正文,未见付费墙或登录拦截。
内容覆盖
- Defining the TorchX App
- Setting up the Runner
- Setting up the SearchSpace
- Setting up Metrics
- Setting up the OptimizationConfig
- Creating the Ax Experiment
- Choosing the Generation Strategy
- Configuring the Scheduler
- Running the optimization(标题,正文未提供)
- Visualizing the results(标题,正文未提供,见 visualization tutorial 链接)
常见问题
免费吗?
免费:PyTorch 官方教程页面直接给出完整教程正文,未见付费墙或登录拦截。实践可能产生费用:教程默认在本地以异步方式运行训练任务,但提到可把调度器从 local_cwd 换成 kubernetes 在集群上运行,届时可能产生云资源费用。
需要什么基础?
需要了解 PyTorch 模型与训练循环的基本写法,并大致知道超参数搜索的概念。软件、账号与硬件:需能运行 Python 环境并安装 PyTorch、PyTorch Lightning、TorchX、Ax/BoTorch(具体安装方式网页未说明)。
有中文吗?
本站记录的语言是en;是否有中文字幕或译本本站未核实,请以原站为准。
怎么开始?
从原始资源入口开始:https://docs.pytorch.org/tutorials/intermediate/ax_multiobjective_nas_tutorial.html。本页“学前准备”列出环境与工具,“学习指南”给出开课提示词,可以在自己的电脑上按步骤开始。
来源与使用须知
- 收录时间
- 本站首次收录 2026-10-30
- 指南参考
- 课程主页
版权与转载
- 课程材料未标明许可:仅供个人学习,转载、修改或商用前请先联系原作者。
- 本站只提供原始链接和学习指南,不转载、不镜像课程材料;引用时请注明原作者与出处。