全部资源

全部 AI 精选,可按分级、类型筛选,按关键词搜索。

810 条精选
博客发布 2025-12-03
Sebastian Raschka

DeepSeek 模型技术巡览:从 V3 到 V3.2

A Technical Tour of the DeepSeek Models from V3 to V3.2

Sebastian Raschka 于 2025 年 12 月 3 日发布的文章(末次更新 2026 年 1 月 1 日),围绕 DeepSeek 旗舰开权重模型从 V3 到 V3.2 的演进,讨论架构、稀疏注意力与强化学习方面的更新。文中给出 DeepSeek V3.2 与专有旗舰模型的基准对比图(取自 DeepSeek V3.2 报告),并从 DeepSeek 发布时间线讲起。作者提到原本打算在《The Big LLM Architecture Comparison》中追加一节,后因内容过多改为独立长文。

博客发布 2025-08-09
Sebastian Raschka

从 GPT-2 到 gpt-oss:架构进展分析

From GPT-2 to gpt-oss: Analyzing the Architectural Advances

Sebastian Raschka 于 2025 年 8 月 9 日发布的文章,围绕 OpenAI 新发布的开权重模型 gpt-oss-120b 与 gpt-oss-20b,基于代码与技术报告总结架构细节。内容包括与 GPT-2 的架构对比、用于把模型放进单张 GPU 的 MXFP4 优化、宽度与深度的取舍(与 Qwen3 对比)、注意力偏置与 attention sinks、基准比较,文末简要讨论 GPT-5。

博客发布 2023-01-29
Sebastian Raschka

比较 PyTorch 中的不同自动图像增强方法

Comparing Different Automatic Image Augmentation Methods in PyTorch

Sebastian Raschka 的博客文章,介绍数据增强作为减少过拟合的手段的作用,并比较 PyTorch/torchvision 库中实现的四种自动图像增强技术:AutoAugment、RandAugment、AugMix 和 TrivialAugment,说明它们的原理与用法。适合使用 PyTorch 做图像模型训练的人阅读。

博客发布 03-22
Sebastian Raschka

现代大语言模型中注意力变体的可视化指南

A Visual Guide to Attention Variants in Modern LLMs

文章以图解方式梳理现代 LLM 中的注意力变体,涵盖 MHA、GQA、MLA、稀疏注意力和混合架构等。作者说明原计划写 DeepSeek V4,因该模型尚未发布而转向整理过去几年介绍过的 LLM 架构,形成含 45 个条目的 LLM 架构画廊并配有视觉模型卡,另提供海报版本。适合想系统了解各类注意力结构的读者。

教程发布 2025-01-17
Sebastian Raschka

从零实现字节对编码(BPE)分词器

Implementing A Byte Pair Encoding (BPE) Tokenizer From Scratch

一份用于教学目的的独立 notebook,从零实现 GPT-2 至 GPT-4、Llama 3 等模型使用的字节对编码(BPE)分词算法,并附带训练分词器的函数,还可加载 OpenAI 原始分词器词表与合并规则;文中提及 minBPE、tiktoken 等实现,以及 BPE 算法最早出自 1994 年 Philip Gage 的论文。适合想搞懂 BPE 分词原理的学习者。

教程发布 2024-02-18
Sebastian Raschka

改进 LoRA:从零实现权重分解低秩适应(DoRA)

Improving LoRA: Implementing Weight-Decomposed Low-Rank Adaptation (DoRA) from Scratch

Sebastian Raschka 的文章,先回顾 LoRA 的工作原理,再介绍新提出的 DoRA(权重分解低秩适应)方法,并在 PyTorch 中从零实现 LoRA 与 DoRA 两种方法。适合想理解这两种微调技术实现细节的读者。

博客发布 2023-04-26
Sebastian Raschka

使用低秩适应(LoRA)进行参数高效的大语言模型微调

Parameter-Efficient LLM Finetuning With Low-Rank Adaptation (LoRA)

Sebastian Raschka 的博客文章,介绍低秩适应(LoRA)这一参数高效微调技术。文章先说明为何要微调预训练大模型、全参数微调的计算成本问题,再引出 LoRA 的核心思路,并将其与 prefix tuning、adapter 等其他参数高效方法做比较。适合对大模型微调原理和参数高效方法感兴趣的读者。

教程发布 10-26
realpython.com

ChromaDB:Python 中的嵌入与向量数据库

ChromaDB: Embeddings and Vector Databases in Python

Real Python 的教程,作者 Harrison Hoffman,阅读时长约 1 小时 7 分钟,难度标注为高级,配套有 17 课时的相关课程。内容涵盖向量基础与相似度、词嵌入与文本嵌入、ChromaDB 这一开源向量数据库的入门、向集合添加文档、查询与过滤更新删除,最后以一个给大语言模型提供上下文的实例串联全流程。适合想用 Python 搭建向量检索与 LLM 上下文应用的开发者阅读。

教程发布 10-23
developer.nvidia.com

如何用 NVIDIA GPUDirect Storage 在 Python 中把数据读入 GPU 显存

How to Read Data into GPU Memory in Python with NVIDIA GPUDirect Storage

NVIDIA 技术博客,作者 Andrew Hoyle,2026 年 10 月 22 日发布。文章介绍 KvikIO 库如何以 Python 和 C++ 高层接口封装 cuFile C API,实现加速的文件 I/O 直读 GPU 显存;说明了 KvikIO 与 cuFile 各自的路径选择、KVIKIO_COMPAT_MODE、KVIKIO_GDS_THRESHOLD、cufile.json 中的 parallel_io 与 min_io_threshold_size_kb 等设置,以及用 CUFILE_STATS_LEVEL=3 与 gds_stats 判断走加速路径还是兼容路径,并提到 KvikIO 在 cuDF、cuCIM、cuPhoton 和 GPU 加速 Presto 中的应用。

教程发布 10-27
realpython.com

MCP 与 API 调用:Python LLM 应用该选哪个?

MCP vs API Calls: Which Should You Use for Python LLM Apps?

Real Python 的教程,作者 Valerio Maggio,阅读时长约 28 分钟,难度标注为中级。文章从指标对比入手,分三组特性比较直接 API 调用与 MCP 服务器:集成成本与可复用性、标准化与互操作性、开销控制与成熟度,最后给出选择决策表,并注明 Anthropic 已开源 Model Context Protocol。适合在 Python LLM 应用中选择集成方式的开发者阅读。

博客发布 10-28
developer.nvidia.com

借助 NVIDIA CUDA 13.4 在 Kubernetes 中实现按显存强制的 GPU 共享

Memory-Enforced GPU Sharing in Kubernetes with NVIDIA CUDA 13.4

NVIDIA 技术博客,作者 Ekin Karabulut、David Lifshitz、Hagay Sharon,2026 年 10 月 27 日发布。文章介绍挂在 KAI Scheduler 组织下的开源 GPU Fractioning Operator,它与 NVIDIA GPU Operator 配合在每台 GPU 节点上配置并监管 MPS,按工作负载施加显存上限与计算模式,并按 GPU 切片而非整卡计量使用量;CUDA 13.4 引入对应用透明的显存边界强制,支持精确显存额、保证下限加可突发上限、时间切片与 SM 共享两种计算模式,KAI Scheduler v0.18.0 通过 NvFractions 模式写入 Pod 注解来落实这些设置。

教程发布 10-28
LangChain 文档

通过 MCP 实现人机协同(Human-in-the-loop)

Human-in-the-loop over MCP - Docs by LangChain

LangChain 官方文档的一页,说明当通过 MCP 端点暴露的 agent 调用 interrupt 时,Agent Server 如何用 elicitation 向 MCP 客户端索取答案并在收到回答后恢复 agent。文档描述了工具调用暂停与恢复的往返流程(resultType 为 input_required、elicit/create 请求、requestState、inputResponses 等),并注明需要 langgraph-api>=0.18.0 及支持协议修订版 2026-07-28、声明 elicitation 能力的 MCP 客户端。适合用 LangSmith/LangGraph 部署 agent 并接入 MCP 的开发者查阅。