全部资源

博客精选。

442 条精选
博客发布 08-21
Hugging Face

LFM2.5-DSpark 带来最高 3.2 倍推理加速

Up to 3.2x Faster Inference with LFM2.5-DSpark

LiquidAI 发布 LFM2.5 系列三个模型(LFM2.5-1.2B-Instruct、LFM2.5-2.6B、LFM2.5-8B-A1B)的 DSpark 草稿模型检查点,通过投机解码以小幅显存增加换取解码加速,且不改变输出质量。文中称 GPU 上吞吐最高提升 3.18 倍、端侧最高 2.87 倍,LFM2.5-2.6B 的函数调用延迟平均降低 57%,并支持 llama.cpp 和 SGLang;文章还解释了投机解码的原理,说明解码阶段受显存带宽限制。

博客发布 08-19
Hugging Face

你的智能体究竟需要多少记忆?

How Much Memory Does Your Agent Actually Need?

这是 IBM Research 关于 ALTK-Evolve 的系列文章之一,承接上一篇关于“如何投递智能体自蒸馏准则”的对比,转而讨论“该给多少”的问题。文中称将评估扩展到八个模型(从 30B 稠密模型到前沿闭源系统),主要发现是智能体记忆并非一个可开关的功能,而是需要按模型校准的“剂量”;摘要中提及 ALTK-Evolve 让智能体从自身过往轨迹中提炼可复用的准则。

博客发布 08-13
Hugging Face

复现 2,200 篇 ICML 论文的经验总结

What We Learned by Reproducing 2,200 papers from ICML

文章回顾了一次众包复现活动:1,200 多名社区成员携带各自的编程智能体,按论点逐条复现 ICML 2026 的论文,19 天内发布了 6,816 份 Trackio 日志,覆盖 2,226 篇论文。文中提到 ICML 2026 收到 23,918 份投稿、接收 6,352 篇,约为上一年的两倍,而审稿能力并未同步增长,并讨论了在智能体承担研究实验时人类的角色。

博客发布 08-13
Hugging Face

OlmoEarth 嵌入向量发布:从 OlmoEarth Studio 导出定制嵌入用于下游分析

Introducing OlmoEarth embeddings: Custom embedding exports from OlmoEarth Studio for downstream analysis

这是 Ai2 发布的一篇企业技术文章,介绍 OlmoEarth Studio 平台新增的功能:可计算并导出由开源 OlmoEarth 基础模型生成的嵌入向量(地球观测数据的紧凑数值表示)。文中称导出格式为 Cloud-Optimized GeoTIFF(COG),用户可选择感兴趣区域、时间范围、编码器变体与分辨率,嵌入可用于相似度搜索、分割和无监督探索等下游任务;文中还给出了技术报告、文档和项目主页链接。

博客发布 09-21
Hugging Face

tokenizers v1:编码、解码与扩展性,实测

tokenizers v1: encode, decode and scaling, measured

Hugging Face 博客文章(2026 年 9 月 21 日),介绍 tokenizers 库即将发布的 v1 版本。文章指出分词在数据量大、并发请求多或长输入反复处理时可能成为瓶颈,让 GPU 等待 CPU,因此 v1 重点放在性能上,并说明文中将对比 v1 与 v0.23 的速度。文中还提到 gigatoken、tiktoken、kitoken、tokie、fastokens、wordchipper、ai-tokenizer 等开源分词库的工作。

博客发布 09-16
Hugging Face

你的智能体这次通过了任务,下次还会吗?

Your Agent Aced the Task. Will It Do It Again?

IBM Research 在 Hugging Face 发布的企业文章(2026 年 9 月 15 日),讨论 AI 智能体在不同次运行间表现不一致的可靠性问题,指出多数基准只报平均值而掩盖了这种波动。文中举例说,在 AppWorld 上使用 GPT-4.1 的 ReAct 智能体五次重复中 77.4% 的运行成功,但只有 53.0% 的任务五次全部成功,并称作者为此构建了衡量一致性的方法。适合关注智能体评测与可靠性的读者。

博客发布 09-10
Hugging Face

跨 HF Jobs 的 LoRA 异步 GRPO:一个存储桶、一个代理,不用 NCCL

Async GRPO with LoRA across HF Jobs: a bucket, a proxy, and no NCCL

Hugging Face 博客文章(2026 年 9 月 10 日),讲在 HF Jobs 上以 LoRA 方式做异步 GRPO 训练,标题点出方案依赖一个存储桶和一个代理、不使用 NCCL。材料显示文章按多次实验(Run 1 到 Run 5)组织,依次讨论训练器跟不上、打包 micro batch、停止重算前向、三副本以及提高在途请求上限等调整。材料中未给出更多结论细节。

博客发布 09-02
Hugging Face

BenchMIRT:LLM 基准测试究竟在测量什么?

BenchMIRT: What are LLM benchmarks actually measuring?

文章介绍 AI2 提出的 BenchMIRT,一种在单条提示(即具体的题目和任务)层面审视 LLM 基准的方法。文中以 BBQ 中涉及祖孙打车的问题为例,说明单个题目可能同时依赖年龄偏见之外的身份追踪和证据推理能力,也以 WildJailbreak 为例说明同一基准中有害提示与良性提示分别更贴近安全性和通用推理,将其简单平均会掩盖差异。文中附有技术报告、数据集合和代码链接。适合评测研究与模型评估方向的人员阅读。

博客发布 09-01
Hugging Face

推出 @huggingface/kernels:面向本地 AI 的 200+ 个 WebGPU 内核

Introducing @huggingface/kernels: 200+ WebGPU Kernels for Local AI

文章介绍 Hugging Face WebAI 团队发布的 @huggingface/kernels,这是一个用于从 Hugging Face Hub 加载和运行优化 WebGPU 内核的轻量库,同时上线了 207 个内核的初始集合,覆盖多种机器学习架构与负载所使用的算子。每个内核以完整版本化包的形式发布,接口、着色器模板、正确性用例、基准用例和使用说明集中放在 Hub 上。文中还提到同时推出 Fleet,这是一个在浏览器内对内核进行基准测试与打分、并可在自己硬件上运行的测试套件。适合做浏览器端推理的开发者阅读。

博客发布 09-22
Hugging Face

英国 AISI 与 EvalEval 如何让基准结果可复现

How UK AISI and EvalEval Are Making Benchmark Results Reproducible

Hugging Face 博客文章(2026 年 9 月 22 日),介绍英国 AI 安全研究所(AISI)使用 EvalEval 联盟的基础设施公开分享评测结果,以支持更可复现、可验证的评测研究。文中提到双方此前在 NeurIPS 2025 期间的联合工作坊上开展合作,AISI 的反馈参与塑造了 Every Eval Ever(EEE)schema,此次合作是把该基础设施投入实际使用。文章还说明了可复现评测报告的重要性,指出重复运行评测本身可能成本高昂。适合关注 AI 评测方法与基准复现的读者。

博客发布 09-22
Hugging Face

Transformers 现在可以运行 llama.cpp 的量化模型

Transformers now runs llama.cpp quants

Hugging Face 博客文章(2026 年 9 月 22 日),宣布 transformers 增加对 GGUF 模型的高效支持,用户可从 Hub 选择 GGUF 检查点并用 from_pretrained 加载,在本机生成。文中介绍 GGUF 是 llama.cpp 团队开发的本地推理常用格式,llama.cpp 也驱动 Ollama、LM Studio、Jan 等本地工具,并提到 ggml-org、Unsloth、LM Studio Community、bartowski 等提供现成 GGUF 检查点。适合想在本地设备运行模型的读者。

博客发布 2025-08-01
goo.gle

Genie 4:新一代世界模拟——Google DeepMind

Google DeepMind 官方页面(2026 年 10 月 27 日),宣布新世界模型 Genie 4,称其为原生多模态,可在生成世界的同时生成类似音乐的音频、环境声和交互对话,并借鉴 Gemini 系列的能力:Gemini Omni 用于锚定模拟的真实外观与行为,其他 Gemini 模型提供维持模拟连贯性所需的推理。文中称 Genie 4 已作为研究预览向受信任测试者开放,并设有候补名单;作者署名为 Raia Hadsell、Diego Rivas 和 Hang Qi。