# Transformers 现在可以运行 llama.cpp 的量化模型

- 原标题：Transformers now runs llama.cpp quants
- 类型：博客
- 来源：Hugging Face
- 发布时间：2026-09-22
- 首次精选：2026-10-28 09:57
- 分级：值得看
- 学习层级：入门
- 主题：[model-quantization](<https://oplearnx.com/md/topics/model-quantization.md>)（第 1 位）、[local-model-deployment](<https://oplearnx.com/md/topics/local-model-deployment.md>)（第 3 位）
- 原文链接：[https://huggingface.co/blog/transformers-llama-cpp-quants](<https://huggingface.co/blog/transformers-llama-cpp-quants>)
- 本站页面：[https://oplearnx.com/resources/pk\_95be9a7f408f](<https://oplearnx.com/resources/pk_95be9a7f408f>)

## 摘要

Hugging Face 博客文章（2026 年 9 月 22 日），宣布 transformers 增加对 GGUF 模型的高效支持，用户可从 Hub 选择 GGUF 检查点并用 from\_pretrained 加载，在本机生成。文中介绍 GGUF 是 llama.cpp 团队开发的本地推理常用格式，llama.cpp 也驱动 Ollama、LM Studio、Jan 等本地工具，并提到 ggml-org、Unsloth、LM Studio Community、bartowski 等提供现成 GGUF 检查点。适合想在本地设备运行模型的读者。

---
来源：LearnMap · 学径（https://oplearnx.com）