全部资源

全部 AI 精选,可按分级、类型、是否付费、收录时间筛选,按关键词搜索。

排序:最新收录 · 推荐799 条精选
教程发布 10-23
developer.nvidia.com

如何用 NVIDIA GPUDirect Storage 在 Python 中把数据读入 GPU 显存

How to Read Data into GPU Memory in Python with NVIDIA GPUDirect Storage

NVIDIA 技术博客,作者 Andrew Hoyle,2026 年 10 月 22 日发布。文章介绍 KvikIO 库如何以 Python 和 C++ 高层接口封装 cuFile C API,实现加速的文件 I/O 直读 GPU 显存;说明了 KvikIO 与 cuFile 各自的路径选择、KVIKIO_COMPAT_MODE、KVIKIO_GDS_THRESHOLD、cufile.json 中的 parallel_io 与 min_io_threshold_size_kb 等设置,以及用 CUFILE_STATS_LEVEL=3 与 gds_stats 判断走加速路径还是兼容路径,并提到 KvikIO 在 cuDF、cuCIM、cuPhoton 和 GPU 加速 Presto 中的应用。

教程发布 10-27
realpython.com

MCP 与 API 调用:Python LLM 应用该选哪个?

MCP vs API Calls: Which Should You Use for Python LLM Apps?

Real Python 的教程,作者 Valerio Maggio,阅读时长约 28 分钟,难度标注为中级。文章从指标对比入手,分三组特性比较直接 API 调用与 MCP 服务器:集成成本与可复用性、标准化与互操作性、开销控制与成熟度,最后给出选择决策表,并注明 Anthropic 已开源 Model Context Protocol。适合在 Python LLM 应用中选择集成方式的开发者阅读。

博客发布 10-28
developer.nvidia.com

借助 NVIDIA CUDA 13.4 在 Kubernetes 中实现按显存强制的 GPU 共享

Memory-Enforced GPU Sharing in Kubernetes with NVIDIA CUDA 13.4

NVIDIA 技术博客,作者 Ekin Karabulut、David Lifshitz、Hagay Sharon,2026 年 10 月 27 日发布。文章介绍挂在 KAI Scheduler 组织下的开源 GPU Fractioning Operator,它与 NVIDIA GPU Operator 配合在每台 GPU 节点上配置并监管 MPS,按工作负载施加显存上限与计算模式,并按 GPU 切片而非整卡计量使用量;CUDA 13.4 引入对应用透明的显存边界强制,支持精确显存额、保证下限加可突发上限、时间切片与 SM 共享两种计算模式,KAI Scheduler v0.18.0 通过 NvFractions 模式写入 Pod 注解来落实这些设置。

教程发布 10-28
LangChain 文档

通过 MCP 实现人机协同(Human-in-the-loop)

Human-in-the-loop over MCP - Docs by LangChain

LangChain 官方文档的一页,说明当通过 MCP 端点暴露的 agent 调用 interrupt 时,Agent Server 如何用 elicitation 向 MCP 客户端索取答案并在收到回答后恢复 agent。文档描述了工具调用暂停与恢复的往返流程(resultType 为 input_required、elicit/create 请求、requestState、inputResponses 等),并注明需要 langgraph-api>=0.18.0 及支持协议修订版 2026-07-28、声明 elicitation 能力的 MCP 客户端。适合用 LangSmith/LangGraph 部署 agent 并接入 MCP 的开发者查阅。

教程发布 2023-01-01
docs.pytorch.org

对抗样本生成

Adversarial Example Generation

PyTorch 官方教程文档(对应 2.15.0+cu132 版本),作者为 Nathan Inkawhich,创建于 2018 年 8 月 14 日,最后更新于 2025 年 1 月 27 日。教程以图像分类器为例,介绍机器学习模型的安全与鲁棒性问题,使用快速梯度符号法(FGSM)攻击来欺骗 MNIST 分类器,演示对图像加入人眼难以察觉的扰动即可显著改变模型表现,并讨论了对抗攻击的不同类别与威胁模型。页面提供在 Google Colab 中运行和下载 Notebook 的入口。

进阶攻击与安全防护仅限授权使用
教程发布 2023-01-01
docs.pytorch.org

PyTorch 分布式概览

PyTorch Distributed Overview

PyTorch 官方教程中的 torch.distributed 包总览页,将相关文档按主题分类并作简要说明。正文介绍分布式库包含并行模块、通信层以及启动和调试大型训练任务的基础设施,并列出并行 API(DDP、FSDP2、张量并行、流水线并行)和 DTensor、DeviceMesh 等分片原语。页面注明首次构建 PyTorch 分布式训练应用的人可从该文档入手寻找适用的技术。

教程发布 2023-01-01
docs.pytorch.org

完全分片数据并行(FSDP2)入门

Getting Started with Fully Sharded Data Parallel (FSDP2)

PyTorch 官方中级教程,介绍 FSDP2 的工作方式,示例代码来自 pytorch/examples。正文对比 DDP,说明 FSDP 通过分片模型参数、梯度和优化器状态来降低 GPU 显存占用,使单卡放不下的模型也能训练;并描述前向与反向计算之外参数处于完全分片状态、计算前对分片参数做 all-gather、反向中对未分片梯度做 reduce-scatter 等流程。页面说明 FSDP1 已弃用,其教程已归档。

教程发布 2023-01-01
docs.pytorch.org

PyTorch 中的 Channels Last 内存格式

Channels Last Memory Format in PyTorch

PyTorch 官方中级教程,介绍 channels last 内存格式是什么,以及如何用它提升某些算子的性能。正文说明该格式在保留 NCHW 维度顺序的前提下改变内存排列,使通道成为最密集的维度,并利用现有 strides 结构实现,例如 10x3x16x16 批次在该格式下 strides 为 (768, 1, 48, 3);该格式仅针对 4D NCHW 张量实现,页面还给出连续格式与 channels last 格式之间的张量转换 API。前置条件为 PyTorch v1.5.0 和支持 CUDA 的 GPU。

帖子发布 10-29
X

讲 H-Nets 从原始字节学习,规模化可省约十倍数据与算力

Albert Gu 在 X 上谈从原始字节做语言建模这一方向,认为智能应来自简单的通用构件、直接从原始数据学习抽象(即“苦涩的教训”)。他提到去年提出的分层网络(H-Nets)是新一步,新版本在受控的 scaling law 实验中取得最高 3–5 倍效率提升,在更大规模下用约十分之一的数据与算力达到与在 11T token 上训练的开源模型相当的水平,并称后续帖子会讲解发现与原理。适合做模型架构与 scaling law 研究的人阅读。

博客发布 10-28
interconnects.ai

评 AA v5:开源未死但旧指数偏袒,主张按任务细分智力指数

Nathan Lambert 于 2026 年 10 月 28 日发布的文章,是对 Artificial Analysis v5 及基准测试行业的评述。文中讨论了基准测试机构独立评估语言模型的难度、把多个分数聚合成单一数字时的取舍,以及当下缺乏真正前沿且有意义的基准这一问题。适合关注模型评测方法与基准设计的人阅读。

帖子发布 10-28
X

讲 OCR 双模型:小解析器出结果,Jev 打分后对低分再纠错

elvis(@omarsar0)在 X 上的帖子,介绍 OpenBMB 与 ModelBest 的 MiniCPM-OCR:一个 1.3B 参数的小型开源文档解析器,支持中英文扫描件、照片、弯曲与倾斜页面及关键信息抽取;第二个模型 MiniCPM-OCR Jev 对提取出的文本、公式和表格给出可靠性评分,也可用于其他 OCR 模型的输出。帖子给出流程示例:解析文档、用 Jev 打分、将低分结果交给人工或纠错步骤,并提到权重开放、支持 llama.cpp、vLLM、SGLang、Ollama 推理及 Agent Skills 集成。适合构建文档处理智能体或 OCR 流水线的人关注或阅读。

帖子发布 10-29
X

复盘 Claude Code 耗额:留意 effort,子代理会继承且叠加

Boris Cherny 在 X 上回应分享 session ID 的用户:团队逐一查看了这些会话,发现若干使部分会话消耗 token 偏快的小问题并正在推出修复,未发现单一根因或 Claude Code 的回归。多数反映额度消耗过快的用户被追溯到一两个重负载会话(xhigh effort、/goal、Workflows、Agent Teams、长时间 SDK 任务)。他提醒注意当前的 effort 级别,子代理默认继承该级别且会迅速叠加,/usage 可查看会话 token 去向,并鼓励继续用 /feedback 反馈,团队也会直接联系提供 ID 的人。适合正在用 Claude Code 做开发、关心额度消耗的人阅读。