硬件与显存规划

学习选择推理硬件、估算显存和配置卸载,适合本地装机与性能调优者。

26 条精选 · 入门 3 · 按推荐学习顺序:越基础、直观越靠前,越系统、深入越靠后

在 3D 图中查看
  1. 18深入
    书籍发布 10-27
    doi.org

    自主边缘——嵌入工业应用中的智能

    The Autonomous Edge – Intelligence Embedded in Industrial Applications

    这是一本由 Taylor & Francis 出版的开放获取图书,作者为 Vermesan, Ovidiu 与 Pijlman, Fetze,出版信息只给到 2026 年。书中汇集多学科研究者与实践者的文章,讨论人工智能、边缘计算、自主系统与工业应用交汇处的技术变化,包括智能从云端向车辆、机器人、制造系统、智慧城市与嵌入式设备迁移,以及在延迟、能耗、隐私、安全与实时性约束下的边缘 AI 设计,主题词涉及软件定义汽车与联邦学习。

  2. 19深入
    书籍发布 10-15
    Manning

    面向 LLM 的 CUDA

    CUDA for LLMs

    这是 Manning Publications 出版的书,作者 Elliot Arledge,出版日期 2026-10-15,408 页,ISBN 9781633434899,主题词为数据科学与深度学习。简介称其讲解在 CUDA 生态中从编写第一个 kernel 到实现 Flash Attention 等高级 LLM 特性,包括用 Nsight Compute 做性能剖析与瓶颈定位,并针对最新 NVIDIA 硬件讲解 CUDA 基础。适合想从 GPU 编程层面优化大模型、需要实操 kernel 开发的 AI 工程师阅读。

部署与推理优化的其他细分主题