全部资源

全部 AI 精选,可按分级、类型、是否付费、收录时间筛选,按关键词搜索。

排序:最新收录 · 推荐857 条精选
博客发布 10-24
OpenAI

为服务逾 10 亿 ChatGPT 用户而快速扩展在线存储(第二部分)

Rapidly scaling online storage to serve over 1 billion ChatGPT users (Part II)

OpenAI 工程博客系列第二部分,作者为 Jon Lee、Hrachya Hakobyan 和 Chaomin Yu,讲述其应用存储平台 Habitat 如何针对 Azure Cosmos DB 做优化以应对用户规模的快速增长,并实现 ChatGPT 读取速度提升 12 倍。内容包括可靠的多租户机制与全局缓存等主题。工程与基础设施方向的读者可参考。

博客发布 10-24
Simon Willison 博客

介绍 Kimi K3.1 Pro

Introducing Kimi K3.1 Pro

Simon Willison 记录 Kimi K3.1 Pro 上线 Kimi API 的情况:权重尚未开放,Moonshot 承诺 2026 年 11 月 4 日前发布完整权重;另有价格翻倍、速度 2–3 倍的 Highspeed 版本(输入缓存命中价格相同)。文中列出定价(输入 2 美元/百万 token、输出 10 美元/百万 token)与 Moonshot 及 Artificial Analysis 的基准对比,并附上他用 LLM 0.32 的 openai endpoint 命令在三个推理级别下生成骑自行车鹈鹕 SVG 的测试过程。

博客发布 10-23
Simon Willison 博客

将 Agent Skills 捐赠给 Agentic AI Foundation

Donating Agent Skills to the Agentic AI Foundation

Simon Willison 的短博客,转述 Anthropic 宣布将 Agent Skills 标准捐给 Linux 基金会下的 Agentic AI Foundation(AAIF),该基金会由 Anthropic 与 Block、OpenAI 于去年共同创立,此前的 Model Context Protocol 也已捐入。作者提到自己去年 12 月曾预测此事,并说明他是通过 datasette-mcp 插件用提示让 Claude 在自己博客中检索到相关旧文。

课程发布 10-24
Sebastian Raschka

从零构建推理模型:完整视频课程

Building Reasoning Models from the Ground Up: A Full Video Course

这是 Ahead of AI 作者发布的配套视频课程介绍,包含 8 个从零构建推理模型的编程视频,共约 11 小时,用 Python 和 PyTorch 实现推理扩展、强化学习、蒸馏等方法。课程从一个预训练 LLM 出发,实现评估与改进该模型的方法,是其此前《从零编程 LLM》课程的续篇,但不需要先修该课程。适合希望动手理解推理模型内部机制的人。

博客发布 10-20
Hugging Face

PyTorch 2.15 中的 MPS

MPS in PyTorch 2.15

Hugging Face PyTorch 团队撰写的博客文章,介绍 PyTorch 2.15 中 Apple MPS 后端的更新,包括 MPS 支持 FP8、语言模型解码在线性层与 softmax 上获得更快路径、以及针对音频、视频和训练工作负载中新 Metal 内核。文中说明该团队以 Hugging Face Hub 上的真实模型排查 MPS 不足并向上游修复,并提到 MoE 模型解码速度较 2.14 提升 5–6.5 倍。适合在 Mac 上运行或训练 PyTorch 模型的读者。

博客发布 10-23
Hugging Face

你的模型能在 AWS Trainium 上运行吗?查一查就知道

Does Your Model Run on AWS Trainium? Look It Up

文章介绍一个 torch-neuronx 模型支持情况 Space,用于查询 Hub 上热门模型能否在 AWS Trainium 上运行。该 Space 的 Selected 视图展示按下载量和趋势分挑选的模型,每行给出结果、模型分片占用的 Trainium 核心数、运行实际耗时(含编译)和峰值设备内存;Trending 和 Downloads 视图按 Hub 自身排名逐任务列出结果,并对故意未测试的模型说明原因,还可选择 neuronx-cc 和 Transformers 的版本。这是继此前介绍 TorchNeuron 的文章之后的更新。

博客发布 10-23
Hugging Face

把数据库评分转化为强化学习奖励:用 ThinkingBox 对智能体进行后训练

Turning Database Grading into RL Rewards: Post-Training Agents with ThinkingBox

这是此前博客的后续,介绍已在 GitHub 上发布的 ThinkingBox-Training。作者用比较最终数据库状态与预期结果的方式评估智能体工作,并把同类的可执行信号用作 ThinkingBox-Bench 之外训练任务的奖励。文中报告对 Qwen3.8-27B 经 50 步 GRPO 后平均成功率从 51.70% 升至 60.78%,二十次尝试全部正确的任务数从 38 增至 107;ThinkingBox-Bench 包含 507 项任务。

博客发布 10-22
Hugging Face

使用 IBM Granite 时间序列模型进行集成预测

Ensemble forecasting with IBM Granite time-series models

文章介绍 Granite Timeseries Ensemble:用一个可扩展的预测接口组合四个开放的 Granite 模型,返回中位数和分位数预测,无需重新训练,也不需要拟合集成权重。文中建议先用概率集成(均匀概率池化),再比较自适应四分位距(IQR)集成,并可用兼容的预测模型扩展同一接口。内容针对预训练时间序列模型需要选择模型的问题:不同模型分别擅长平滑工业信号、噪声较大的零售需求或长季节周期。

博客发布 10-22
Hugging Face

NVIDIA Kumo Relational 在关系型数据上优于监督机器学习,且无需训练

NVIDIA Kumo Relational Outperforms Supervised Machine Learning on Relational Data, No Training Required

文章介绍 NVIDIA Kumo Relational,一个直接在企业数据库上做预测的预训练关系型基础模型。给定预测查询,它从历史数据中收集上下文示例,通过一次前向计算预测流失、需求或欺诈等结果,无需任务特定训练、特征工程或把表展平。文中称其在 15 个数据库的 41 项任务上超过监督式关系深度学习模型和专家设计的梯度提升树流程,在 SAP SALT 企业基准上平均倒数排名比 AutoGluon 集成高 8%,并支持 5000 亿行以上的数据库。

博客发布 10-22
Hugging Face

为小语言模型专门化词表如何在实际应用中将推理成本降低 77%

How Specializing the Vocabulary of SLMs Can Cut Inference Cost by 77% in Real Applications

文章介绍 Dharma-AI 基于 VocabX 论文的成果:围绕每个 token 的成本而非频率来专门化词表,在不更换基座模型的情况下把实测推理成本降低 77%。文中以生产环境中基于 Qwen3-4B 的葡萄牙语作文自动评分器为例,说明通用词表如何将模型最常写出的文本切分成过多 token,并指出分词器通常被视为基座模型的固定属性而未被改动。

教程发布 10-22
Hugging Face

剖析 TorchNeuron(第一部分):在 AWS Trainium 上进行系统级性能剖析

Profiling TorchNeuron (Part 1): System-level profiling on AWS Trainium.

这是关于 AWS Trainium 的系列文章第一篇,介绍如何系统地分析推理性能并找出时间开销所在。文章使用 Trainium 专用的开源 PyTorch 后端 TorchNeuron,讲解如何配置 torch.profiler 并抓取干净的 trace、阅读 key_averages() 表格以识别消耗 Neuron 设备时间的算子、以及通过 Neuron Explorer 追踪单个算子从框架调度到 NeuronCore 硬件执行的过程。文中说明从零讲起,假定读者没有性能剖析经验。

博客发布 10-21
Hugging Face

Granite Speech 5.0:更准确、更快速地转写、翻译与说话人归属

Granite Speech 5.0: Transcribe, Translate, and Attribute more Accurately and Faster

IBM 的企业类博客文章,介绍 Granite Speech 系列的三个更新:新模型 granite-speech-5.0-2b,以及 granite-speech-5.0-470m-turboctc 和 granite-speech-4.1-2b-plus 的修订版。文中称三者分别面向高准确率的转写与翻译、边缘端极快转写、以及需要区分说话人与时间信息的录音等企业语音场景;新材料显示新模型在 ASR 准确性和抗噪抗混响方面更强,并支持语言 ID 提示。面向企业语音相关应用者。