「把NanoGPT训练压进6.7秒的破局思路」

一个有意思的 Rust 开源项目：learned_index_lab，尝试用数学模型替代传统 B+Tree 索引

一个 Rust 开源项目，基于 PGM-Index 算法，用分段线性模型预测数据位置再做局部精确查找，无需神经网络训练和 GPU。材料称其 Benchmark 在百万级数据下相比 Rust BTreeMap 构建速度提升约 22 倍、命中查询提升约 3 倍，索引元数据占几 KB 到几十 KB，并提到可能适合时序数据库、日志检索、RocksDB SSTable 等大规模有序、读多写少场景，同时注明项目仍处于研究型阶段、不适合生产环境。适合对索引结构、存储引擎和 Rust 高性能实现感兴趣的人了解。

GPU 利用率从 15% 到 90%：修数据管线，而不是修模型

From 15% to 90% GPU Utilization: Fix the Data Pipeline, Not the Model

这是 Amazon AGI 的 Tarun Sunkaraneni 的演讲，说明多模态训练中最难的部分常不是 GPU，而是持续喂数据。在 S3 中存储图像训练 Qwen3-VL 类模型的基线管线里，约 85% 时间花在等数据上，主要是逐张加载、解码和缩放图像。他逐一处理瓶颈：用 asyncio 和 Ray actor 做并发、预取让数据在训练器请求前就绪、用 Ray 对象存储避免在进程间复制大图像张量；到了生产规模，单机网卡成为新瓶颈，通过把 worker 分散到多节点并使用零拷贝读取，又获得约 50% 吞吐提升。还讨论了 GIL 下 asyncio、线程与进程的取舍，以及某些配置只在规模化时才有收益。适合做多模态数据管线与 Ray 训练的工程师观看。

审慎地理解缩放定律

Scaling Laws, Carefully

这是 Lilian Weng 博客上的一篇长文，系统梳理深度学习中的缩放定律：训练损失随模型规模、数据量和计算量呈幂律下降，核心问题是如何在模型规模与数据量之间最优分配算力。文章目录涵盖 Kaplan 与 Chinchilla 的结论及其调和、三种拟合方法（固定模型规模、IsoFLOP 曲线、参数化拟合）、幂律的成因，以及数据受限区间和实际拟合中的难点。

Stanford CS224V：智能体式 AI（2026 秋）

斯坦福大学 CS224V“Agentic AI”2026 年秋季课程日程页，按日期列出每次课的主题、说明、相关事件与截止时间。已列出的内容包括 9/23 课程导论（如何把会幻觉的 LLM 变成可靠智能体、面向读写与检索的 LLM 算法、可问责 AI）、9/28 知识整理（STORM/Co-STORM 系统，作业 1 发布）、9/30 研究项目选题（AOS 架构、领域智能体等）、10/5 可问责 AI（SMT 约束式检索，SatIR、VERDICT 系统，作业 1 截止）以及 10/7 学生项目选题等。