全部资源

博客精选。

442 条精选
博客发布 06-01
Hugging Face

JetBrains 推出 Mellum2:一个 12B 参数的混合专家模型

Introducing Mellum2: A 12B Mixture-of-Experts Model by JetBrains

这是 JetBrains 发布 Mellum2 的公告。该模型为 12B 参数的混合专家(MoE)模型,从零训练于自然语言与代码数据,每个 token 仅激活 2.5B 参数,采用 Apache 2.0 许可证发布,文中提到其可用于路由、RAG、摘要、子代理、高吞吐编码功能和私有部署。文内附有模型合集与技术报告链接,称其推理速度超过同类规模模型两倍以上。

博客发布 06-05
Hugging Face

Nemotron 3.5 内容安全:面向全球企业 AI 的可定制多模态安全

Nemotron 3.5 Content Safety: Customizable Multimodal Safety for Global Enterprise AI

NVIDIA 发布的博客文章,介绍 Nemotron 3.5 Content Safety 模型。文章指出该模型将多模态输入、多语言覆盖、企业自定义策略执行和可审计推理统一在一次推理调用中,并说明相比 3.5 之前版本(2026 年 3 月发布的 4B 参数 Nemotron 3)的改动、各项新能力的设计取舍,以及如何将模型接入生产安全流程。适合关注企业内容安全模型部署的读者。

博客发布 06-04
Hugging Face

将 hf CLI 设计为面向智能体优化的 Hub 使用方式

Designing the hf CLI as an agent-optimized way to work with the Hub

这篇文章介绍 Hugging Face 官方命令行工具 hf 的重新设计,使其同时服务人类用户和编码智能体(如 Claude Code、Codex、Cursor)。文中说明 hf 可完成模型、数据集、Spaces 的下载上传以及仓库、分支、Jobs、Buckets、Collections 等管理,并通过智能体设置的环境变量识别其调用;作者称在复杂的多步任务中,手工用 curl 或 Python SDK 的智能体消耗的 token 最多可达使用 hf CLI 的 6 倍。

博客发布 06-03
Hugging Face

超越聊天机器人的直接偏好优化

Direct Preference Optimization Beyond Chatbots

这篇文章来自 DharmaOCR 团队,讨论在聊天机器人之外的场景中使用直接偏好优化(DPO)。文中回顾其结构化 OCR 模型 DharmaOCR 的基准结果:在巴西葡萄牙语结构化文档抽取任务中,开源模型家族出现文本退化(重复循环而非转录)的比例从不到 1% 到超过 33% 不等,监督微调虽能降低这一比例但难以达到生产可接受水平,因此提出利用模型自身失败案例构造拒绝对,在 SFT 之后增加第二阶段训练。

博客发布 06-11
Hugging Face

PyTorch 性能分析(第二部分):从 nn.Linear 到融合 MLP

Profiling in PyTorch (Part 2): From nn.Linear to a Fused MLP

PyTorch 性能分析系列的第二篇文章,探讨从矩阵乘法加加法到 nn.Linear 的实现,涉及为何没有独立的 mul 与 add 内核、--compile 对单个 Linear 的作用、转置在核布局与 pre-ops 中的去向、堆叠三个 Linear 构成 MLP、两类 GEMM 内核的原因、torch.compile 的作用,以及融合 Triton 内核等内容。属于偏底层的 PyTorch 性能与内核分析材料。

博客发布 06-22
Hugging Face

我们让本地模型免费分诊 OpenClaw 仓库了!*

We got local models to triage the OpenClaw repo for FREE!*

文章(星号注释说明“免费”不含电费且前提是已拥有硬件)讲述使用 Gemma、Qwen 等本地模型配合 Pi 之类的智能体框架和结构化输出,完成分类任务。作者以开源仓库 OpenClaw 的 issue 和 PR 分诊、优先级排序与分发为起点,说明选择该方案的原因是已有本地模型和框架可用。

博客发布 06-19
Hugging Face

MosaicLeaks:你的研究智能体能保守秘密吗?

MosaicLeaks: Can your research agent keep a secret?

ServiceNow 的企业文章,指出深度研究智能体把本地私有文档与网页检索等外部工具结合时,外部查询可能泄露敏感信息。文章提出含公私信息交替的多跳问题任务 MosaicLeaks,称所测模型经常发生泄露,且仅针对任务表现训练会加剧泄露;同时提出隐私感知训练方法 PA-DR,称其将严格链成功率从 48.7% 提升到 58.7%,并将答案/完整信息泄露从 34.0% 降至 9.9%。

博客发布 06-18
Hugging Face

智能体性够强吗?用你自己的工具链评测开放模型

Is it agentic enough? Benchmarking open models on your own tooling

文章讨论编码智能体使用软件库的方式,提出库除了正确和快速,还应便于智能体驱动。作者以 transformers 为案例,构建了一个关注“答案如何得出”而不只是最终答案的工具专用评测框架,测量不同模型、库版本和任务下找到答案所需的工作量,并给出完全基于开放模型和 pi 编码智能体的简单实现。

博客发布 06-18
Hugging Face

超越 LoRA:你能击败最流行的微调技术吗?

Beyond LoRA: Can you beat the most popular fine-tuning technique?

文章介绍参数高效微调(PEFT)这一降低微调显存需求的技术类别,指出尽管存在数十种方案,多数人只选 LoRA。文章探讨 LoRA 是否真是最佳选择、有哪些工具可辅助判断,以及如何通过拓展 LoRA 之外的选择获益。适合准备在自有数据上微调开放模型、关注 PEFT 方法的读者。

博客发布 06-25
Hugging Face

用 NVIDIA NeMo AutoModel 加速 Transformers 微调

Accelerating Transformers Fine-Tuning with NVIDIA NeMo AutoModel

介绍 NVIDIA NeMo 框架中的开源库 NeMo AutoModel,它构建于 Transformers v5 之上,新增 Expert Parallelism、DeepEP 融合 all-to-all 分发和 TransformerEngine 内核,并借助 v5 的动态权重加载支持更多模型系列。文中称在微调 MoE 模型时相比原生 Transformers v5 训练吞吐提升 3.4–3.7 倍、GPU 显存减少 29–32%,且沿用相同的 from_pretrained() 接口,只需增加一行 import。

博客发布 06-24
Hugging Face

FFASR 排行榜上线:在真实环境中评测 ASR

Introducing the FFASR Leaderboard: Benchmarking ASR in the Real World

介绍首个开放的远场 ASR 基准 FFASR 排行榜,基于 14 个模拟房间进行社区驱动的评测,并与真实测量结果对照验证。文中指出所有提交模型在低信噪比下的远场 WER 明显高于同等语音内容的近场 WER,并说明其方法包括混合波模拟、仿真到真实验证、测试中的移动声源切分、留出音频和统一评测硬件,还提供平均 WER 与 RTFx 的帕累托前沿图。后续计划加入多人对话、麦克风阵列和回声消除。

博客发布 06-23
Hugging Face

借助 AI、开放工具与人工把关每周发布 huggingface_hub

Shipping huggingface_hub every week with AI, open tools, and a human in the loop

介绍 Hugging Face 生态基础 Python 客户端 huggingface_hub 的发布流程改造:从每 4 至 6 周发布一次改为通过单个 GitHub Actions 工作流每周发布,构建时使用开源工具与开放权重模型,并在需要判断的环节保留人工介入。文中回顾了原先部分自动化、多为手工的发布步骤,并称读完可据以搭建自己的流程。适合开源项目维护者阅读。