全部资源

全部 AI 精选,可按分级、类型筛选,按关键词搜索。

793 条精选
博客发布 08-10
Hugging Face

让知识蒸馏的成本低到可以规模化运行

Making Knowledge Distillation Cheap Enough to Run at Scale

MultiverseComputingCAI 团队(Antonio Tiene、Iker García-Ferrero、Ali Hashemi、Bakbergen Ryskulov)2026 年 8 月 10 日发布的文章,讨论用知识蒸馏训练较小的学生模型以匹配大型教师模型。文中指出部署超大型模型成本高昂(如 Kimi-K3 有 2.8 万亿参数、加载约需 3TB 显存),压缩后通过蒸馏恢复能力已成为常见做法,如 Nvidia 的 Nemotron 3 Puzzle 75B 和 Multiverse Computing 的 Hypernova 60B;蒸馏步骤决定最终质量,也是流程中最昂贵的环节,因为需同时加载教师与学生模型并为每个 token 生成全词表概率分布。

博客发布 08-10
Hugging Face

Meta 携 Muse Glimmer 回归:本地运行、智能体化、多模态、开源

Meta is back with Muse Glimmer: local, agentic, multimodal, and open source

Hugging Face 博客文章介绍 Meta 发布的多模态模型 Muse Glimmer。该模型从 Muse 蒸馏至 30B 参数,采用 Apache 2.0 许可,面向本地智能体场景,如编码、文档分析、个人助理等。文中称 transformers、llama.cpp、vLLM 等库提供首日支持,并给出与 Gemma4-31B、Qwen3.6-27B 等模型在 MCP Atlas、DeepSearch QA、τ³-Banking 等基准上的对比分数。

博客发布 08-28
Hugging Face

开放 ASR 排行榜迎来首个全球南方语言

The Open ASR Leaderboard Adds Its First Global South Language

文章介绍 Voice Arena 与 Hugging Face 合作,为印地语和印度英语推出开放的语音识别评测。文中回顾了排行榜近期在提升评测可信度方面的工作,包括使用留出的私有数据划分、量化模型是否在复述参考转写的基准拟合分析、以及完善文本规范化器以避免正确的预测或变体被错误扣分,并指出单一 WER 数字之外,识别错误率在不同人群之间分布并不均匀。适合关注语音识别评测与多语言公平性的读者。

博客发布 08-25
Hugging Face

量化感知修复:一个压缩后的 4 位模型胜过其全精度原版

Quantization-Aware Healing: a compressed, 4-bit model that outperforms its full-precision original

文章讨论大模型部署中先压缩架构再量化到 4 位的常见做法会系统性削弱推理、数学和代码生成能力,因此生产流程通常会加入名为“healing”的恢复步骤,并提到 gpt-oss、Nemotron 系列和 Hypernova 60B 等开放权重发布采用了这类方法。文中介绍了团队论文《Quantization-Aware Healing: A Practical Recipe for Recovering Compressed, 4-Bit LLMs》,聚焦模型在已被压缩和量化之后该如何处理这一问题。适合关注模型压缩与量化部署的读者。

博客发布 08-25
Hugging Face

接好、跑起来、部署:Gradio 中的 AI 工作流

Wire It, Run It, Deploy It: AI Workflows in Gradio

本文介绍内置于 Gradio 的 gr.Workflow,它把 AI 流水线做成由带类型节点组成的图,并生成可拖拽的画布界面,每个节点可单独运行、中间结果可见;同一张图同时对外提供 REST API,并支持一条命令部署到 Hugging Face Spaces。文中以多个可打开、可运行、可复制的 Hugging Face Space 作为示例,包括用单个节点调用 Qwen-Image-Edit 完成图像编辑的应用,以及把多个真实模型串成一条完整媒体的单图三流水线示例。适合用 Python 搭建多步骤 AI 应用的开发者阅读。

博客发布 08-21
Hugging Face

衡量语音识别中的基准测试优化问题

Measuring benchmark optimization in speech recognition

这是一篇来自 HumeAI 等作者的文章,讨论公开语音 AI 基准分数与真实使用表现不符的现象,即模型可能因学习到基准特有的模式而提高分数,而非真正提升任务能力,这种现象常被称为 benchmark optimization 或“benchmaxxing”。文章提到作者此前在 Real World VoiceEQ、Open-ASR Leaderboard 和 Far-field ASR Leaderboard 中引入留存集(held-out sets),并指出仅扩大测量范围并不能解决该问题,且该现象在语音识别中一直难以度量。

博客发布 08-21
Hugging Face

Hugging Face 的 Inference Endpoints、Jobs 和 Buckets 如何支撑 Papers with Code 的搜索

How Hugging Face Inference Endpoints, Jobs, and Buckets Power Search on Papers with Code

文章讲述作者三个月前启动的 Papers with Code 复兴项目,其目标是让开放 AI 研究易于获取和理解,方便查找论文相关产物、各领域的 SOTA 并在此基础上继续研究。文中说明搜索研究论文不同于普通文本检索,需要支持精确标题或 arXiv 编号、语义化查询、导航式请求、拼写容错并保持响应速度,并介绍了网站与供智能体使用的 pwc search CLI 命令。

博客发布 08-21
Hugging Face

LFM2.5-DSpark 带来最高 3.2 倍推理加速

Up to 3.2x Faster Inference with LFM2.5-DSpark

LiquidAI 发布 LFM2.5 系列三个模型(LFM2.5-1.2B-Instruct、LFM2.5-2.6B、LFM2.5-8B-A1B)的 DSpark 草稿模型检查点,通过投机解码以小幅显存增加换取解码加速,且不改变输出质量。文中称 GPU 上吞吐最高提升 3.18 倍、端侧最高 2.87 倍,LFM2.5-2.6B 的函数调用延迟平均降低 57%,并支持 llama.cpp 和 SGLang;文章还解释了投机解码的原理,说明解码阶段受显存带宽限制。

博客发布 08-19
Hugging Face

你的智能体究竟需要多少记忆?

How Much Memory Does Your Agent Actually Need?

这是 IBM Research 关于 ALTK-Evolve 的系列文章之一,承接上一篇关于“如何投递智能体自蒸馏准则”的对比,转而讨论“该给多少”的问题。文中称将评估扩展到八个模型(从 30B 稠密模型到前沿闭源系统),主要发现是智能体记忆并非一个可开关的功能,而是需要按模型校准的“剂量”;摘要中提及 ALTK-Evolve 让智能体从自身过往轨迹中提炼可复用的准则。

教程发布 08-18
Hugging Face

使用 Sentence Transformers 实现多向量(后期交互)嵌入模型

Multi-Vector (Late Interaction) Embedding Models with Sentence Transformers

文章介绍 Sentence Transformers(用于使用和训练嵌入与重排序模型、面向 RAG 和语义搜索等应用的 Python 库)在 v6.0 更新中新增的第四种模型类型 MultiVectorEncoder,用于 ColBERT 式后期交互检索。文中说明 PyLate 和 Stanford-NLP ColBERT 检查点可直接加载,colpali-engine 的视觉文档检索模型也可通过同一 API 使用;多向量模型为每个 token 保留一个向量并用 MaxSim 打分,代价是索引更大,并给出了加载不同检查点的示例。

博客发布 08-13
Hugging Face

复现 2,200 篇 ICML 论文的经验总结

What We Learned by Reproducing 2,200 papers from ICML

文章回顾了一次众包复现活动:1,200 多名社区成员携带各自的编程智能体,按论点逐条复现 ICML 2026 的论文,19 天内发布了 6,816 份 Trackio 日志,覆盖 2,226 篇论文。文中提到 ICML 2026 收到 23,918 份投稿、接收 6,352 篇,约为上一年的两倍,而审稿能力并未同步增长,并讨论了在智能体承担研究实验时人类的角色。

博客发布 08-13
Hugging Face

OlmoEarth 嵌入向量发布:从 OlmoEarth Studio 导出定制嵌入用于下游分析

Introducing OlmoEarth embeddings: Custom embedding exports from OlmoEarth Studio for downstream analysis

这是 Ai2 发布的一篇企业技术文章,介绍 OlmoEarth Studio 平台新增的功能:可计算并导出由开源 OlmoEarth 基础模型生成的嵌入向量(地球观测数据的紧凑数值表示)。文中称导出格式为 Cloud-Optimized GeoTIFF(COG),用户可选择感兴趣区域、时间范围、编码器变体与分辨率,嵌入可用于相似度搜索、分割和无监督探索等下游任务;文中还给出了技术报告、文档和项目主页链接。