全部资源

各类型里多数人会感兴趣、对大部分人有帮助、相对完整系统的 AI 资源。

6 条精选
项目必读发布 2023-02-09
github.com

vllm-project/vllm

这是 vLLM 项目的 GitHub 仓库,一个面向大语言模型的高吞吐、高内存效率推理与服务引擎,标语为“Easy, fast, and cheap LLM serving for everyone”。仓库话题标签涵盖 CUDA、AMD、TPU、MoE、PyTorch、OpenAI 以及 Llama、Qwen、DeepSeek 等模型,README 提供文档、博客、论文、Twitter/X、用户论坛和开发者 Slack 入口及官方网站 vllm.ai。

项目必读发布 2023-01-17
github.com

Comfy-Org/ComfyUI

这是 ComfyUI 的 GitHub 仓库,定位为带有图/节点界面的模块化扩散模型 GUI、API 与后端,README 称其为面向内容创作的最强模块化 AI 引擎和本地推理引擎。仓库话题标签包括 ai、comfy、python、pytorch、stable-diffusion,并提供官网 comfy.org、Discord、Twitter、Matrix 及发布版本、下载量等徽章链接。

项目必读发布 09-14
GitHub

QwenLM/Qwen-Image-2.1

这是 Qwen 团队在 GitHub 上开源的图像生成与编辑模型 Qwen-Image-2.1 的代码仓库。据 README,它是统一的文生图与图像编辑模型,视觉生成部分为 7B 参数、32 层单流 DiT,主打紧凑高效、原生透明(RGBA)图像的生成与编辑等功能。仓库页面提供 ModelScope、HuggingFace、博客和在线演示等入口链接。

项目必读发布 10-17
Hugging Face

DeepSeek-v4.1-Flash-1017

DeepSeek 的 DeepSeek-V4.1-Flash-1017 在 Hugging Face 上的模型页面。材料显示页面含模型配置与分词器特殊 token 定义、创建时间 2026 年 10 月 17 日、下载量约 8.5 万,并列出 Together、Novita 等推理提供方,部分提供方支持工具调用。链接还指向 DeepSeek API 文档新闻和 OpenRouter 页面。

项目必读发布 09-24
GitHub

OpenTPU——由 AI 开发的开源 AI 加速器

OpenTPU – An open-source AI accelerator, developed by AI

一个开源 AI 加速器项目,仓库内同时包含 RTL 硬件设计(SystemVerilog)、指令集、位精确模拟器、内核语言及其编译器、以及驱动真实 PCIe 卡的宿主软件。据 README,它可在 Inspur YPCB-00338 卡(Xilinx Kintex-7 xc7k480t,两路 DDR3)上以真实权重运行 LFM2.5-230M、Qwen3、Qwen3.5 等十个模型,卡上输出与模拟器逐位一致,并附有各模型的解码速度等数据表格。项目定位为可端到端阅读的学习型项目,并延续了 auto-arch-tournament 关于 AI 智能体能推进硬件设计到何种程度的探索。

项目必读发布 10-16
GitHub

DeepInfer:DeepSeek 模型的高性能推理框架

DeepInfer: High-performance inference framework for DeepSeek models

DeepSeek 在 GitHub 上开源的推理框架仓库,称其为支撑 DeepSeek 大规模生产服务的高性能框架,此次开源版本提供面向规模化服务的离线推理能力。README 列出支持的模型为 DeepSeek-V4.1-Flash,并列出了优化内核、注意力 DP/CP 与 MoE EP+EPLB 并行、异步调度、批不变量推理、确定性采样、结构化输出等功能及配置细节。材料中还包含一条 Reddit 用户评论。