模型服务与算力

学习模型服务框架、并行计算与底层优化,适合维护训练和推理基础设施的人员。

44 条精选 · 入门 2 · 按推荐学习顺序:越基础、直观越靠前,越系统、深入越靠后

在 3D 图中查看
  1. 32深入
    书籍发布 10-15
    Manning

    面向 LLM 的 CUDA

    CUDA for LLMs

    这是 Manning Publications 出版的书,作者 Elliot Arledge,出版日期 2026-10-15,408 页,ISBN 9781633434899,主题词为数据科学与深度学习。简介称其讲解在 CUDA 生态中从编写第一个 kernel 到实现 Flash Attention 等高级 LLM 特性,包括用 Nsight Compute 做性能剖析与瓶颈定位,并针对最新 NVIDIA 硬件讲解 CUDA 基础。适合想从 GPU 编程层面优化大模型、需要实操 kernel 开发的 AI 工程师阅读。

部署与推理优化的其他细分主题