NVIDIA Developer（Technical Blog） · Joe Halabi · Lin Chai · Maximilien Breughe · Michael Ferry · Charlotte Mallo
Run AI Models for Edge Application Development with Just a Few Commands
Run AI Models for Edge Application Development with Just a Few Commands是NVIDIA Developer（Technical Blog）的免费实践教程（en）。前置条件：需要会用 Linux 终端、Python 虚拟环境和 pip，了解 LLM 推理、TensorRT 的基本概念更佳。
在 NVIDIA DGX Spark 上用 trtedge CLI 跑起 Nemotron-3.5 Lightning，终端对话、起本地 OpenAI 兼容 API 服务，并开启 DSpark 推测解码做加速。
- 难度
- 见前置条件
- 类型
- 教程 · 实践教程
- 语言
- en
- 规模
- 1 个课节
- 内容费用
- 免费
- 动手
- 需要动手环境
使用限制
正文无需账号即可阅读；跟着练习需要自备 DGX Spark 硬件及配套软件栈。
- 练习与作业
- NVIDIA DGX Spark 64GB 设备（文中标注“now available”，普通读者需自行购置或使用既有设备）
第一次学这门课？先完成学前准备，把课程目录搭好。
每节课这样学
- 发提示词把下面的每课提示词发给 AI Agent，它会准备这一课的练习文件。
- 学官方课节打开对应课节学习，按提示从第一道练习做起；它不会替你写答案。
- 记进度学完让 AI Agent 在 progress.md 勾选，并把疑问整理到 questions.md。
继续学习「Run AI Models for Edge Application Development with Just a Few Commands」。课程目录是 tensorrt-edge-llm-dgx-spark-quickstart/（不知道完整路径就先问我）。 1. 读 progress.md，找到下一课；如果我指定了第几课，就准备那一课。 2. 打开这一课的官方页面和本地讲义，列出本课练习要用的工具、文件和样例数据。缺少的先告诉我，等我同意再安装或下载。 3. 在 lessons/ 对应的课节文件夹里准备好练习：exercises/ 里给每道题建一个文件，写上题号和题目原文链接，不写答案；已有文件保留，样例数据放到 data/。拿不到官方题目或起始代码时记录限制，不编造替代品。 4. 按 README 运行开课时生成的自检脚本或在线检查清单，并检查本课新增工具能否正常使用。 5. 告诉我：本课先读哪几节、从哪道练习开始、大约需要多久。我学完后，帮我在 progress.md 勾选并把问题整理到 questions.md。 边界： - 需要管理员权限、会产生费用或需要填写密钥的操作，先告诉我原因，等我同意。密钥由我在本机配置，不发到聊天，不写进笔记或版本库；原项目需要 .env 时确认已被 Git 忽略。 - 不替我写练习或作业答案，也不替我提交。我卡住时只给提示；我明确要求时才给解答。 - 只下载许可允许个人保存的材料；其余只放链接。不把未运行的命令说成成功。
课节共 1 节 · 官方顺序
常见问题
免费吗？
免费：网页正文直接给出全部教程步骤与命令，未见付费墙或登录拦截。实践需要付费：练习必须在 NVIDIA DGX Spark 64GB 设备上完成，教程写明需要该硬件及 CUDA 13、TensorRT 环境。
需要什么基础？
需要会用 Linux 终端、Python 虚拟环境和 pip，了解 LLM 推理、TensorRT 的基本概念更佳。软件、账号与硬件：一台 NVIDIA DGX Spark（含受支持的 NVIDIA 软件栈），CUDA 13，TensorRT 10.16.1.11 或更高的 10.x 版本，Python 3.10–3.12；约 21GB 模型权重及引擎的磁盘空间。
有中文吗？
本站记录的语言是en；是否有中文字幕或译本本站未核实，请以原站为准。
怎么开始？
从原始资源入口开始：https://developer.nvidia.com/blog/run-ai-models-for-edge-application-development-with-just-a-few-commands/。本页“学前准备”列出环境与工具，“学习指南”给出开课提示词，可以在自己的电脑上按步骤开始。开课提示词尚未完整验证。练习与作业需要自备：NVIDIA DGX Spark 64GB 设备（文中标注“now available”，普通读者需自行购置或使用既有设备）。
来源与使用须知
- 收录时间
- 本站首次收录 2026-11-01原站首次发布 2026-10-31
- 指南参考
- 课程主页
版权与转载
- 课程材料未标明许可：仅供个人学习，转载、修改或商用前请先联系原作者。
- 本站只提供原始链接和学习指南，不转载、不镜像课程材料；引用时请注明原作者与出处。