借助 NVIDIA CUDA 13.4 在 Kubernetes 中实现按显存强制的 GPU 共享
Memory-Enforced GPU Sharing in Kubernetes with NVIDIA CUDA 13.4
NVIDIA 技术博客,作者 Ekin Karabulut、David Lifshitz、Hagay Sharon,2026 年 10 月 27 日发布。文章介绍挂在 KAI Scheduler 组织下的开源 GPU Fractioning Operator,它与 NVIDIA GPU Operator 配合在每台 GPU 节点上配置并监管 MPS,按工作负载施加显存上限与计算模式,并按 GPU 切片而非整卡计量使用量;CUDA 13.4 引入对应用透明的显存边界强制,支持精确显存额、保证下限加可突发上限、时间切片与 SM 共享两种计算模式,KAI Scheduler v0.18.0 通过 NvFractions 模式写入 Pod 注解来落实这些设置。