全部资源

全部 AI 精选,可按分级、类型、是否付费、收录时间筛选,按关键词搜索。

排序:最新收录 · 推荐900 条精选
博客发布 10-20
Hugging Face

PyTorch 2.15 中的 MPS

MPS in PyTorch 2.15

Hugging Face PyTorch 团队撰写的博客文章,介绍 PyTorch 2.15 中 Apple MPS 后端的更新,包括 MPS 支持 FP8、语言模型解码在线性层与 softmax 上获得更快路径、以及针对音频、视频和训练工作负载中新 Metal 内核。文中说明该团队以 Hugging Face Hub 上的真实模型排查 MPS 不足并向上游修复,并提到 MoE 模型解码速度较 2.14 提升 5–6.5 倍。适合在 Mac 上运行或训练 PyTorch 模型的读者。

博客发布 10-23
Hugging Face

你的模型能在 AWS Trainium 上运行吗?查一查就知道

Does Your Model Run on AWS Trainium? Look It Up

文章介绍一个 torch-neuronx 模型支持情况 Space,用于查询 Hub 上热门模型能否在 AWS Trainium 上运行。该 Space 的 Selected 视图展示按下载量和趋势分挑选的模型,每行给出结果、模型分片占用的 Trainium 核心数、运行实际耗时(含编译)和峰值设备内存;Trending 和 Downloads 视图按 Hub 自身排名逐任务列出结果,并对故意未测试的模型说明原因,还可选择 neuronx-cc 和 Transformers 的版本。这是继此前介绍 TorchNeuron 的文章之后的更新。

博客发布 10-23
Hugging Face

把数据库评分转化为强化学习奖励:用 ThinkingBox 对智能体进行后训练

Turning Database Grading into RL Rewards: Post-Training Agents with ThinkingBox

这是此前博客的后续,介绍已在 GitHub 上发布的 ThinkingBox-Training。作者用比较最终数据库状态与预期结果的方式评估智能体工作,并把同类的可执行信号用作 ThinkingBox-Bench 之外训练任务的奖励。文中报告对 Qwen3.8-27B 经 50 步 GRPO 后平均成功率从 51.70% 升至 60.78%,二十次尝试全部正确的任务数从 38 增至 107;ThinkingBox-Bench 包含 507 项任务。

博客发布 10-22
Hugging Face

使用 IBM Granite 时间序列模型进行集成预测

Ensemble forecasting with IBM Granite time-series models

文章介绍 Granite Timeseries Ensemble:用一个可扩展的预测接口组合四个开放的 Granite 模型,返回中位数和分位数预测,无需重新训练,也不需要拟合集成权重。文中建议先用概率集成(均匀概率池化),再比较自适应四分位距(IQR)集成,并可用兼容的预测模型扩展同一接口。内容针对预训练时间序列模型需要选择模型的问题:不同模型分别擅长平滑工业信号、噪声较大的零售需求或长季节周期。

博客发布 10-22
Hugging Face

NVIDIA Kumo Relational 在关系型数据上优于监督机器学习,且无需训练

NVIDIA Kumo Relational Outperforms Supervised Machine Learning on Relational Data, No Training Required

文章介绍 NVIDIA Kumo Relational,一个直接在企业数据库上做预测的预训练关系型基础模型。给定预测查询,它从历史数据中收集上下文示例,通过一次前向计算预测流失、需求或欺诈等结果,无需任务特定训练、特征工程或把表展平。文中称其在 15 个数据库的 41 项任务上超过监督式关系深度学习模型和专家设计的梯度提升树流程,在 SAP SALT 企业基准上平均倒数排名比 AutoGluon 集成高 8%,并支持 5000 亿行以上的数据库。

博客发布 10-22
Hugging Face

为小语言模型专门化词表如何在实际应用中将推理成本降低 77%

How Specializing the Vocabulary of SLMs Can Cut Inference Cost by 77% in Real Applications

文章介绍 Dharma-AI 基于 VocabX 论文的成果:围绕每个 token 的成本而非频率来专门化词表,在不更换基座模型的情况下把实测推理成本降低 77%。文中以生产环境中基于 Qwen3-4B 的葡萄牙语作文自动评分器为例,说明通用词表如何将模型最常写出的文本切分成过多 token,并指出分词器通常被视为基座模型的固定属性而未被改动。

教程发布 10-22
Hugging Face

剖析 TorchNeuron(第一部分):在 AWS Trainium 上进行系统级性能剖析

Profiling TorchNeuron (Part 1): System-level profiling on AWS Trainium.

这是关于 AWS Trainium 的系列文章第一篇,介绍如何系统地分析推理性能并找出时间开销所在。文章使用 Trainium 专用的开源 PyTorch 后端 TorchNeuron,讲解如何配置 torch.profiler 并抓取干净的 trace、阅读 key_averages() 表格以识别消耗 Neuron 设备时间的算子、以及通过 Neuron Explorer 追踪单个算子从框架调度到 NeuronCore 硬件执行的过程。文中说明从零讲起,假定读者没有性能剖析经验。

博客发布 10-21
Hugging Face

Granite Speech 5.0:更准确、更快速地转写、翻译与说话人归属

Granite Speech 5.0: Transcribe, Translate, and Attribute more Accurately and Faster

IBM 的企业类博客文章,介绍 Granite Speech 系列的三个更新:新模型 granite-speech-5.0-2b,以及 granite-speech-5.0-470m-turboctc 和 granite-speech-4.1-2b-plus 的修订版。文中称三者分别面向高准确率的转写与翻译、边缘端极快转写、以及需要区分说话人与时间信息的录音等企业语音场景;新材料显示新模型在 ASR 准确性和抗噪抗混响方面更强,并支持语言 ID 提示。面向企业语音相关应用者。

博客发布 10-20
Hugging Face

Hugging Face ❤️ TorchTPU:原生支持 TPU

Hugging Face ❤️ TorchTPU: TPUs, Natively

博客文章,介绍 TorchTPU 这一原生 PyTorch 后端,使 TPU 成为 PyTorch 中的普通设备;文中称 Transformers、Diffusers 和 Kernels 可在 TPU 上原生运行,从 Hub 选择模型后发送到 "tpu" 即可。文章还简介了 TPU 作为 Google 自研 AI 加速器的情况与可用规模,并对比了此前需经 torch_xla 的旧方式及其限制。面向希望在 TPU 上运行 PyTorch 模型的用户。

博客发布 10-20
Hugging Face

AnyLanguageModel 1.0:Apple 平台上本地模型的一年

AnyLanguageModel 1.0: One Year of Local Models on Apple Platforms

博客文章,回顾 AnyLanguageModel 发布一年后的 1.0 版本。它是 Apple Foundation Models 框架的兼容替代品,只需把 import FoundationModels 改为 import AnyLanguageModel,同一套会话代码即可用于系统模型、经 llama.cpp、MLX 和 Core ML 运行的开源权重模型,以及文中列出的托管服务商。文中还提到一年内新增的工具调用等功能,并同时发布 swift-huggingface 1.0 和 swift-xet 1.0。面向在 Apple 平台上开发应用的开发者。

博客发布 10-24
Hugging Face

LitPivot:在文献图景中通过动态语境化发展研究想法

LitPivot: Developing research ideas through dynamic contextualization within the literature landscape

文章介绍 AllenAI 与宾夕法尼亚大学合作开发的 LitPivot 系统,帮助研究者应对因读到已有工作而改变研究方向的“文献引发的转向”。系统使用通过 Asta Paper Finder 检索到的论文,围绕提案中正在编辑的部分组织文献,给出有选中研究摘录支持的批评,并提出研究者可接受、修改或拒绝的修订建议。文中说明该系统面向早期研究构思,在一项 17 名研究者的研究中领域专家对研究进行了评分。