# DeepInfer：DeepSeek 模型的高性能推理框架

- 原标题：DeepInfer: High-performance inference framework for DeepSeek models
- 类型：项目
- 来源：GitHub
- 发布时间：2026-10-16
- 首次精选：2026-10-26 15:43
- 分级：必读
- 学习层级：深入
- 主题：[decoding-acceleration](<https://oplearnx.com/md/topics/decoding-acceleration.md>)（第 10 位）、[moe-model-architecture](<https://oplearnx.com/md/topics/moe-model-architecture.md>)（第 22 位）、[model-serving-compute](<https://oplearnx.com/md/topics/model-serving-compute.md>)（第 27 位）
- 原文链接：[https://github.com/deepseek-ai/DeepInfer](<https://github.com/deepseek-ai/DeepInfer>)
- 本站页面：[https://oplearnx.com/resources/pk\_5ccb15134a75](<https://oplearnx.com/resources/pk_5ccb15134a75>)

## 摘要

DeepSeek 在 GitHub 上开源的推理框架仓库，称其为支撑 DeepSeek 大规模生产服务的高性能框架，此次开源版本提供面向规模化服务的离线推理能力。README 列出支持的模型为 DeepSeek-V4.1-Flash，并列出了优化内核、注意力 DP/CP 与 MoE EP\+EPLB 并行、异步调度、批不变量推理、确定性采样、结构化输出等功能及配置细节。材料中还包含一条 Reddit 用户评论。

## 热度

- 档位：热度强
- 7 天新增 star：暂无数据
- 30 天新增 star：暂无数据
- Hacker News：[2351 分 · 892 条评论](<https://news.ycombinator.com/item?id=50163277>)
- 社区讨论：2 帖

## 项目信息

- 语言：Python
- 许可：Apache-2.0
- 最近提交：2026-10-26
- Star：24634
- Fork：2978

## 上手方式

```bash
python examples/offline_inference.py
```

摘自 [README](<https://github.com/deepseek-ai/DeepInfer/blob/main/README.md>)

## 原文涉及

- [GitHub - deepseek-ai/FlashMLA: FlashMLA: Efficient Multi-head Latent Attention Kernels](<https://github.com/deepseek-ai/FlashMLA>)
- [GitHub - deepseek-ai/DeepGEMM: DeepGEMM: clean and efficient BLAS kernel library on GPU](<https://github.com/deepseek-ai/DeepGEMM>)
- [GitHub - deepseek-ai/DeepEP: DeepEP: an efficient expert-parallel communication library](<https://github.com/deepseek-ai/DeepEP>)

---
来源：LearnMap · 学径（https://oplearnx.com）