全部资源

全部 AI 精选,可按分级、类型、是否付费、收录时间筛选,按关键词搜索。

排序:最新收录 · 推荐749 条精选
博客发布 2022-03-06
eugeneyan.com

数据科学项目快速启动

Data Science Project Quick-Start

这篇博客文章分享作者作为数据科学新人时踩过的坑与经验,讲如何从模糊问题走到可用原型。文中强调先理解项目意图和背景,举例说明要问清预期业务收益、现状问题以及为何现在要做,并以推荐引擎中“互动”指标(点击还是购买)如何决定训练标签来说明指标定义的影响。适合刚起步做数据科学项目的人阅读。

博客发布 10-20
Hamel Husain 博客

如何用决策模型做评估(Evals)

How To Use Decision Models for Evals

Hamel 博客的文章,讨论把 Jev、Perplexity Decider、Liquid d1、Cloudflare Clef、OpenAI Decisions API 等决策模型用作 LLM 判官的廉价替代方案。文中指出默认 0.50 阈值常被直接使用而未针对任务调整,因而先演示阈值调优,再比较成本与性能,并讨论如何解读模型分数以及校准对置信度估计的作用;实验使用某公寓租赁代理的 100 条对话轨迹,任务是找出含错误的轨迹。

教程发布 10-07
duckdb.org

一个不含任何数据的 DuckDB 数据库

A DuckDB Database with No Data in It

这是 DuckDB 官方博客的一篇文章,介绍 DuckDB 数据库文件可以不存储数据,只保存指向对象存储上 Parquet 文件的视图定义,文件仅几百 KB,却能像共享目录一样覆盖整个数据湖。文中讲述如何构建、托管并以只读方式挂载这样的文件,并引用了 Nikolas Goebel 的相关观点。适合使用 DuckDB 和 Parquet 组织数据湖的人阅读。

博客发布 2021-11-03
code.visualstudio.com

构建新版 GitHub Copilot 内联建议模型:第一部分

Building the new GitHub Copilot Inline Suggestions Model: Part One

这是 VS Code 官方博客系列的第一篇,介绍 GitHub Copilot 内联建议的三种形态:补全式幽灵文本、光标附近的下一处编辑建议和远距离编辑,此前各由专门的模型路径支持。文中提到过去 90 天内超过 610 亿次成功的模型请求,并说明团队已将三者统一到一个“3-in-1”模型。适合关注 Copilot 内联建议模型演进的人阅读。

博客发布 2021-11-03
code.visualstudio.com

构建新版 GitHub Copilot 内联建议模型:第二部分

Building the new GitHub Copilot Inline Suggestions Model: Part Two

这是 VS Code 官方博客系列的第二篇,讲述把补全式幽灵文本、光标附近的下一处编辑建议和较远位置的编辑统一到单个“3-in-1”模型的过程。文中说明此前分别由独立模型负责,并指出统一后一次请求可覆盖多种代码编辑行为,减少模型调用与服务复杂度。适合关注 Copilot 内联建议实现与编辑器 AI 设计的人阅读。

博客发布 06-29
Hamel Husain 博客

“难以评估”是一种产品缺陷信号

“It's Hard to Eval” Is a Product Smell

作者 Hamel Husain 基于三年做 AI 评估的经验,认为“我们的产品很难评估”这一常见说法本身反映了产品设计问题:用户难以验证的输出,用户往往同样难以验证,最坏情况下只能从头重做一遍。文章主张在设计评估之前,应先把产品做成易于验证的形式,并通过他参与顾问的三个产品案例,配以改动前后的设计草图来说明原则,最后讨论如何把这一模式应用到其他产品。文中第一个例子是 AI 数据代理,指出只输出最终答案会导致用户无法核对。适合负责 AI 产品设计与评估的人阅读。

教程
Simon Willison 博客

在脚本的 shebang 行中使用 LLM

Using LLM in the shebang line of a script

这篇 TIL 记录了如何把 LLM 命令行工具写进脚本的 shebang,从而让一段英文(或其他自然语言)文本文件可以直接执行。文中给出的写法是 #!/usr/bin/env -S llm -f,保存为 pelican.sh 并用 chmod +x 赋权后即可运行;额外参数会透传给 LLM,例如用 -m 换模型,加 -x 可只提取响应中的第一个代码块;-f 必须放在最后,因为它接收脚本文件路径。文中还解释了 env 的 -S 选项的必要性,否则 env 会把整行当作一个命令名而报错。适合想把 LLM CLI 嵌入可执行脚本的人参考。

博客发布 10-23
machinelearningmastery.com

投机解码详解:如何让任意 LLM 推理快 3 倍

Speculative Decoding Explained: How to Get 3× Faster Inference from Any LLM

MachineLearningMastery 的文章,作者 Vinod Chugani,2026 年 10 月 23 日发布。内容解释标准自回归逐 token 生成受内存带宽瓶颈限制的原因、草稿—验证循环如何工作且保持目标模型输出分布不变、Medusa、Eagle、Prompt Lookup Decoding 等现代变体,以及在生产环境启用该技术的实际权衡。适合关注 LLM 推理性能优化的开发者阅读。

博客
Lilian Weng 博客

从 GAN 到 WGAN

From GAN to WGAN

这篇博客从博弈论视角讲解生成对抗网络(GAN),先用 KL 与 JS 散度铺垫,推导判别器的最优值和全局最优,解释损失函数的含义,再讨论 GAN 训练中的问题(难以达到纳什均衡、低维支撑、梯度消失、模式崩塌、缺乏合适评价指标)和改进训练方法。最后介绍 Wasserstein GAN,包括 Wasserstein 距离的定义、相比 JS/KL 散度的优势,以及将其用作 GAN 损失函数,并附有生成宝可梦图像的示例。文中注明该文有韩文译本并发布在 arXiv 上。

博客
Lilian Weng 博客

学习词嵌入

Learning Word Embedding | Lil'Log

这篇博客讲如何把自由文本中的词转换为稠密数值向量表示,指出 one-hot 编码在词表规模大时不实用,而词嵌入能在低维稠密空间中近似词间相似度并体现隐含语义关系。内容涵盖基于计数的向量空间模型、基于上下文的 Skip-Gram 与 CBOW、各类损失函数(全 softmax、层次 softmax、交叉熵、噪声对比估计 NCE、负采样 NEG)、其他训练技巧、GloVe 全局向量,以及用《权力的游戏》文本做 word2vec 的示例。

博客
Lilian Weng 博客

一窥强化学习(长文)

A (Long) Peek into Reinforcement Learning

这篇长篇博客以 AlphaGo、AlphaGo Zero 和 OpenAI 在 DOTA2 1v1 中的成果为引子,概述强化学习。内容涵盖核心概念(转移与奖励模型、策略、价值函数、最优价值与策略)、马尔可夫决策过程、贝尔曼期望与最优方程,以及主要方法:动态规划(策略评估、策略改进、策略迭代)、蒙特卡洛方法、时序差分学习(自举、值估计、SARSA、Q-Learning、DQN)、TD 与 MC 结合、策略梯度(策略梯度定理、REINFORCE、Actor-Critic、A3C)和进化策略,并讨论利用-探索困境与致命三元组问题,最后附 AlphaGo Zero 案例。文中注明该文有中文译本。

教程必读
Lilian Weng 博客

注意力?注意力!

Attention? Attention!

Lil'Log 博客介绍注意力机制的文章。从 Seq2Seq 模型的问题出发,给出注意力的定义和各类变体(自注意力、软/硬注意力、全局/局部注意力),并介绍神经图灵机、指针网络和 Transformer(键值查询、多头自注意力、编码器-解码器整体结构),以及 SNAIL 和自注意力 GAN。