vllm-project/vllm

这是 vLLM 项目的 GitHub 仓库，一个面向大语言模型的高吞吐、高内存效率推理与服务引擎，标语为“Easy, fast, and cheap LLM serving for everyone”。仓库话题标签涵盖 CUDA、AMD、TPU、MoE、PyTorch、OpenAI 以及 Llama、Qwen、DeepSeek 等模型，README 提供文档、博客、论文、Twitter/X、用户论坛和开发者 Slack 入口及官方网站 vllm.ai。