# GPU 利用率从 15% 到 90%：修数据管线，而不是修模型

- 原标题：From 15% to 90% GPU Utilization: Fix the Data Pipeline, Not the Model
- 类型：讲座
- 来源：YouTube
- 发布时间：2026-10-10
- 首次精选：2026-11-02 01:09
- 分级：值得看
- 学习层级：深入
- 主题：[pretraining-data](<https://oplearnx.com/md/topics/pretraining-data.md>)（第 9 位）、[model-serving-compute](<https://oplearnx.com/md/topics/model-serving-compute.md>)（第 48 位）
- 原文链接：[https://youtube.com/watch?v=tNAV259UhCM](<https://youtube.com/watch?v=tNAV259UhCM>)
- 本站页面：[https://oplearnx.com/resources/pk\_f1341503620c](<https://oplearnx.com/resources/pk_f1341503620c>)

## 摘要

这是 Amazon AGI 的 Tarun Sunkaraneni 的演讲，说明多模态训练中最难的部分常不是 GPU，而是持续喂数据。在 S3 中存储图像训练 Qwen3-VL 类模型的基线管线里，约 85% 时间花在等数据上，主要是逐张加载、解码和缩放图像。他逐一处理瓶颈：用 asyncio 和 Ray actor 做并发、预取让数据在训练器请求前就绪、用 Ray 对象存储避免在进程间复制大图像张量；到了生产规模，单机网卡成为新瓶颈，通过把 worker 分散到多节点并使用零拷贝读取，又获得约 50% 吞吐提升。还讨论了 GIL 下 asyncio、线程与进程的取舍，以及某些配置只在规模化时才有收益。适合做多模态数据管线与 Ray 训练的工程师观看。

---
来源：LearnMap · 学径（https://oplearnx.com）