搭建 GPU kernel 开发环境的实践笔记：CUDA 13 的显卡截止、异步计时陷阱、profiler 计数器权限 [P]
Practical notes on setting up a GPU kernel-dev environment: CUDA 13's GPU cutoff, async timing pitfalls, profiler counter permissions [P]
一篇 r/MachineLearning 社区帖子，作者在准备自己的 GPU kernel 工程系列第一节环境配置时，整理了若干耗时且不易集中查到的要点。内容包括用 compute_cap 判断显卡架构、CUDA 13 已不再支持 Maxwell/Pascal/Volta、GTX 16 系无张量核心、FP8 需 Ada 或 Hopper；还说明驱动、工具链与 PyTorch 自带 CUDA 运行时是三件不同的事，以及 WSL 2 中的安装方式，并提到 GPU 启动异步导致朴素计时测到的是排队时间。适合刚开始做 CUDA kernel 开发、正在配置环境的人阅读。
- 分级
- 值得看
- 收录时间
- 2026-10-29
原帖
GPU launches are asynchronous, so naive timing measures queueing
中文大意
发帖人正在做一套免费的 GPU kernel 工程系列教程，第一篇是环境搭建，他把准备过程中耗时较多、又很少集中出现的经验直接写成帖子分享。内容包括：用 nvidia-smi 查 compute capability 而不只看“有 N 卡”，据此判断能做什么（CUDA 13 已弃 Maxwell/Pascal/Volta，GTX 16 系无 tensor core，FP8 需 Ada/Hopper，Hopper 特性需 H100）；区分驱动、toolkit 和 PyTorch 自带 CUDA runtime，WSL 2 里只装 toolkit；给出用 CUDA event、预热、synchronize 的计时函数与 matmul 吞吐算法；说明 ncu 的 ERR_NVGPUCTRPERM 权限问题及 sudo 或管理员开权限的解法，租 GPU 前先测；建议先跑一个带错误检查的 add-…