NVIDIA Technical Blog · Andrew Hoyle
How to Read Data into GPU Memory in Python with NVIDIA GPUDirect Storage
How to Read Data into GPU Memory in Python with NVIDIA GPUDirect Storage是NVIDIA Technical Blog的免费实践教程（en）。前置条件：需要会 Python（含虚拟环境与 pip），了解 GPU 编程基本概念与 Linux 命令行；网页写明还需 GDS 相关平台知识。
学会在具备 GDS 的 Linux 系统上用 KvikIO Python API 将文件直接读入 GPU 显存，并确认是否走了加速路径。
- 难度
- 见前置条件
- 类型
- 教程 · 实践教程
- 语言
- en
- 规模
- 1 个课节
- 内容费用
- 免费
- 动手
- 需要动手环境
使用限制
阅读教程无需账号；动手复现必须自备 GDS 硬件环境。
- 练习与作业
- 带 NVIDIA GPU 的 Linux 主机（示例为 H100），并安装 GPUDirect Storage
学完你能
- 说明 GPUDirect Storage、cuFile 与 KvikIO 三层的关系及各自的路径选择点
- 在 Linux GPU 主机上创建 Python 环境并安装 kvikio-cu13（含 CuPy 依赖）
- 用 KvikIO defaults API 查看 compat_mode、gds_threshold 等运行时设置
- 用 gdscheck.py 检查系统 GDS 组件、支持文件系统与 GPU 拓扑
- 写 Python 程序把文件读入 CuPy 分配的 GPU 缓冲区
- 用 cuFile 统计信息判断操作走的是 nvidia-fs 加速路径还是 POSIX 兼容路径
适合你吗
适合
适合已在 GPU 服务器上做数据加载瓶颈优化的 AI/数据工程学习者，想了解 GDS 与 KvikIO 的实际用法。
暂不适合
没有 GDS 支持的存储与 Linux GPU 主机的学习者无法复现；只想要通用 Python 文件 I/O 入门的人也不适合。
需要先会
需要会 Python（含虚拟环境与 pip），了解 GPU 编程基本概念与 Linux 命令行；网页写明还需 GDS 相关平台知识。
课程特点
- 内容侧重
- 按内容目录判断
- 练习与项目
- 需在真实 GDS 硬件上运行，练习时按原文用 CUFILE_STATS_LEVEL=3 配合 gds_stats 查看 nvfs 与 posix 计数，判断读取是否走了加速路径。
- 学习时长
- 1 个课节原站未给出统一学习时长；实际用时取决于已有基础。
- 内容费用
- 免费教程正文、配置步骤与代码在页面上可直接阅读，未见付费墙或登录拦截。
内容覆盖
- 前言：数据规模增长与 GDS 的动机
- How does NVIDIA KvikIO leverage GDS?（框架说明）
- Prerequisites（前置条件）
- Tutorial system（教程测试环境）
- Step 1: Set up NVIDIA KvikIO
- Step 2: Inspect the configuration
- Step 3: Read a file into GPU memory（节选至此截断）
常见问题
免费吗？
免费：教程正文、配置步骤与代码在页面上可直接阅读，未见付费墙或登录拦截。实践需要付费：网页写明需要带 NVIDIA GPU、GDS 支持的存储和文件系统的 Linux 系统（示例用 H100 与本地 NVMe），此类硬件环境需自备。
需要什么基础？
需要会 Python（含虚拟环境与 pip），了解 GPU 编程基本概念与 Linux 命令行；网页写明还需 GDS 相关平台知识。软件、账号与硬件：一台装有 NVIDIA GPU 与 GPUDirect Storage 的 Linux 系统，GDS 支持的存储与文件系统配置，以及 gdscheck、gds_stats 等工具的使用权限。
有中文吗？
本站记录的语言是en；是否有中文字幕或译本本站未核实，请以原站为准。
怎么开始？
从原始资源入口开始：https://developer.nvidia.com/blog/how-to-read-data-into-gpu-memory-in-python-with-nvidia-gpudirect-storage/。本页“学前准备”列出环境与工具，“学习指南”给出开课提示词，可以在自己的电脑上按步骤开始。开课提示词尚未完整验证。练习与作业需要自备：带 NVIDIA GPU 的 Linux 主机（示例为 H100），并安装 GPUDirect Storage。
来源与使用须知
- 收录时间
- 本站首次收录 2026-10-27原站首次发布 2026-10-23
- 指南参考
- 课程主页
版权与转载
- 课程材料未标明许可：仅供个人学习，转载、修改或商用前请先联系原作者。
- 本站只提供原始链接和学习指南，不转载、不镜像课程材料；引用时请注明原作者与出处。