更多博客

Hugging Face2 个月前

博客

OlmoEarth 嵌入向量发布：从 OlmoEarth Studio 导出定制嵌入用于下游分析

Introducing OlmoEarth embeddings: Custom embedding exports from OlmoEarth Studio for downstream analysis

AI 导读

这是 Ai2 发布的一篇企业技术文章，介绍 OlmoEarth Studio 平台新增的功能：可计算并导出由开源 OlmoEarth 基础模型生成的嵌入向量（地球观测数据的紧凑数值表示）。文中称导出格式为 Cloud-Optimized GeoTIFF（COG），用户可选择感兴趣区域、时间范围、编码器变体与分辨率，嵌入可用于相似度搜索、分割和无监督探索等下游任务；文中还给出了技术报告、文档和项目主页链接。

打开原文
分级
值得看
所属主题
整理中
收录时间
2026-10-28
博客发布 06-03
Hugging Face

超越聊天机器人的直接偏好优化

Direct Preference Optimization Beyond Chatbots

这篇文章来自 DharmaOCR 团队，讨论在聊天机器人之外的场景中使用直接偏好优化（DPO）。文中回顾其结构化 OCR 模型 DharmaOCR 的基准结果：在巴西葡萄牙语结构化文档抽取任务中，开源模型家族出现文本退化（重复循环而非转录）的比例从不到 1% 到超过 33% 不等，监督微调虽能降低这一比例但难以达到生产可接受水平，因此提出利用模型自身失败案例构造拒绝对，在 SFT 之后增加第二阶段训练。

查看详情 →
博客发布 09-28
Hugging Face

Holo4：驱动通用计算机使用智能体

Holo4: powering generalist computer-use agents

这篇博客介绍 Hcompany 的新一代智能体模型系列 Holo4，包含 27B 稠密版和 35B-A3B 混合专家版两种规模，均已在 H Models API 上提供，同时发布 Holotron 3 的更新版本 Holotron4 Nano。Holo4 可通过图形界面、代码、MCP 和 API 等方式与软件交互，经监督学习和强化学习在大量环境与任务上训练，其中部分任务由其 Agentic Task Factory 生成。

查看详情 →
博客发布 06-17
Sebastian Raschka

VibeThinker-3B 与后训练的力量

VibeThinker-3B and the Strength of Post-Training

Sebastian Raschka 博客文章，详细分析基于 Qwen2.5-Coder-3B 的 VibeThinker-3B 模型，指出其所报告的推理能力提升来自一套细致的后训练流程。文中列出报告基准成绩（AIME 2026 为 94.3、LiveCodeBench v6 为 80.2、IMO-AnswerBench 为 76.4），介绍其沿用标准 Qwen2 解码器结构及配置参数，并概述后训练配方，包括数据合成、两个监督微调阶段、多个强化学习阶段、离线自蒸馏和最后的指令微调。适合关注模型架构与后训练技术的读者。

深入微调与模型适配蒸馏与知识迁移
查看详情 →
课程发布 10-16
YouTube

斯坦福 CME295 Transformer 与大语言模型 | 2026 年秋季 | 第 3 讲 — LLM 训练

Stanford CME295 Transformers & LLMs | Autumn 2026 | Lecture 3 - LLM training

这是斯坦福课程 CME295 2026 年秋季学期的第三讲录像，由 Afshine Amidi 与 Shervine Amidi 讲授。内容涵盖预训练与交叉熵损失、数据配比、中期训练、长上下文训练、监督微调（SFT）、LoRA、偏好调优、Bradley-Terry 模型、RLHF、DPO、推理能力、GRPO、在线策略蒸馏（OPD）及一个端到端示例。

深入微调与模型适配预训练与数据
查看详情 →