aa1143/NamiGPT
一个中文教程型仓库,主题是从零手写 GPT-2,用 PyTorch 逐步实现 attention、transformer 等组件,讲解大模型的工作过程。仓库标注面向零基础读者入门 LLM,配有图文教程站点 namiai.tech,代码采用 MIT 许可、文档采用 CC BY-NC 4.0 许可。适合刚开始学习大模型原理、想通过手写代码理解 GPT 结构的人阅读。
全部 AI 精选,可按分级、类型、是否付费、收录时间筛选,按关键词搜索。
一个中文教程型仓库,主题是从零手写 GPT-2,用 PyTorch 逐步实现 attention、transformer 等组件,讲解大模型的工作过程。仓库标注面向零基础读者入门 LLM,配有图文教程站点 namiai.tech,代码采用 MIT 许可、文档采用 CC BY-NC 4.0 许可。适合刚开始学习大模型原理、想通过手写代码理解 GPT 结构的人阅读。
一个 Android 应用项目,让用户在免 ROOT、免 Termux 的情况下通过单个 APK 在手机上运行 DeepSeek Harness(dsh),引擎内嵌于 App 进程。功能包括读屏操作 App、修改系统设置、定时或条件自动化,可选使用 Shizuku;材料中列出的使用场景有发微信、抓取小红书内容、在招聘平台投递、在淘宝下单等,并支持 Android 14 以上的“不打扰模式”。适合想在安卓手机上部署手机端 AI Agent 的用户和开发者了解。
Stop Giving Your Agent Tools. Give It a Sandbox - Mikyo King, Arize AI
Arize AI 开源负责人 Mikyo King 的演讲,对比传统工具调用型代理与“代码模式”:后者给代理一个沙箱,让它在代码中检索和组合工具,只返回所需结果。内容涉及为何代码模式有效、Phoenix 中如何实现(Bash、Python 沙箱、SQL 乃至 UI 控制)、其隐性成本(密钥、权限、持久性、双重沙箱),以及 Harbor 评测显示 token 减少 43%、成本降低 31%。适合正在设计代理工具调用架构的开发者观看。
I replaced my Samsung TV’s home screen with Claude Code
r/ClaudeAI 社区帖子。作者因三星电视主屏变成广告位,让 Claude Code 做了一个只含时钟、常用应用和游戏机的简化启动器;关键做法是伪造启动器依赖的几个电视 API,从而能在笔记本浏览器里快速调布局和遥控导航。抢占 Home 键没有官方途径,作者参考 CleanFrame 的方式写了个小工具,修改少量未公开的电视设置,并先保存原值以便出错时恢复。作者说明只在自己 2022 年的 Q70B 上试过,帖子附了 GitHub 代码和 Medium 文章链接。适合对用 Claude Code 做电视/嵌入式改造感兴趣的人阅读。
Show HN: I Turned DOOM into a Transformer
一个 GitHub 项目,作者用 DOOM 游戏机制和 voodoo doll 实现 Transformer 所需的数学运算,做出一个比 NumPy 慢约 65000 倍的替代实现,命名为 DOOMFORMER;它可分类手写 MNIST 数字(即使画在地图里)、勉强对话、以及在 DOOM 地图中做决策。适合对 DOOM、动手玩梗式机器学习实验感兴趣的人看。
MemTensor/MemT-1.0
MemT-1.0 的官方仓库,项目自述为新一代记忆基础模型,把持久且可动态演化的记忆作为模型计算的内在部分。它整合动态局部记忆与可训练的超记忆(hyper memory),在推理时不访问原始上下文即可利用历史信息;持久状态大小恒定,据称在 128K 历史下比完整上下文 KV 缓存节省约 66 倍存储。仓库提供 HuggingFace 模型集合与技术报告链接,并附中文版说明。
I made a Wordle-style word guessing game to teach students how vector embeddings work [P]
r/MachineLearning 社区帖子。作者 Abdur-Rahman Butler(Isaacus 机器学习工程师)写了一个交互式教程,从基础讲起介绍向量嵌入,包含向量化、余弦相似度、语义搜索、分层检索、聚类、零样本分类和去重等概念的可视化。核心是一个名为 SemanticGuessr 的游戏,灵感来自 Wordle 与 GeoGuessr,玩家要在 43,339 个常见英语词的二维语义地图上通过三角定位猜测并圈出随机目标词。作者提到曾在墨尔本大学向法学生演示该游戏。适合需要向初学者讲解嵌入概念的教学者或想动手理解嵌入空间的人阅读。
Show HN: Hob - Open-source, on device alternative to Claude Cowork and ChatGPT
作者在 Hacker News 上介绍的 MIT 许可开源桌面应用,支持 Mac、Windows 和 Linux,以本地运行的开放权重模型(目前为 Gemma 4 和 gpt-oss)处理用户文件,聊天与文件不出本机。功能包括首次安装时按硬件自动选择模型、沙箱内运行 Python 代码、内置 SearXNG 网络搜索、MCP 支持、图像识别、本地文件增删改查及完全离线运行。作者在文中说明了开发前试用各类本地 AI 应用时所遇到的问题。适合关注本地部署 AI 桌面工具的开发者了解。
Lab-in-the-Loop at Compute Speed — Ian Quigley, Leash Bio
Latent Space 对 Leash Bio 的 Ian Quigley 的访谈,介绍该公司在 DNA 编码化合物库(DEL)上获取高通量、可复现的蛋白质—小分子相互作用数据的方法。节目中还提到其推出的 Minos:把多年积累的数据转化为数万个“lab-in-the-loop”模拟,供代理做可验证的科学推理强化学习。适合从事化学与 AI 结合研究的人阅读。
Dyna-2: General Purpose Physical Agents with Hour-Long Autonomy — Jason Ma, Dyna Robotics
Dyna Robotics 联合创始人兼首席科学家 Jason Ma 在 Latent Space 的访谈,介绍在超过一百万小时人类视频上预训练的 world-action 模型 Dyna-2,及后续的物理机器人代理 Dyna-2.1。文中提到其在餐厅叠餐巾任务上连续 24 小时达到 99.4% 成功率,机器人仅需约 45 分钟演示即可学习新任务。内容还涉及预判物理世界未来对通用机器人的作用以及面向真实客户的可靠部署。适合对具身智能和机器人学习感兴趣的人阅读。
How Secrets Leak Through AI Agents (and How to Stop It) — Venice AI
Venice AI 开发者关系首席工程师 Joshua Mo(曾任 Rust AI 框架 Rig 的主要维护者)的演讲,主题是私有模型并不等于私有产品,泄漏发生在围绕模型构建的一整套系统中。他说明了隐私为何重要(一次泄漏就可能流失用户、存储数据越少影响范围越小)以及 Venice 的做法:不存储提示词、对闭源提供商请求做匿名化、在可信执行环境中运行模型、分密钥加密存储。随后展示智能体系统的泄漏点:悄然记录提示词与密钥的日志,以及从密钥库取出后直接进入推理层的凭据,被一次工具调用带出。他给出的模式包括用哈希 ID 替代个人数据、分密钥托管、可撤销句柄、收窄智能体权限、在智能体前加分类器拦截提示注入、把密钥库接到执行层而非 LLM、沙箱加权限监控、带可验证证明的机密计算,并以机密工具调用这一未解问题收尾。适合构建智能体应用并关心凭据与隐私设计的开发者。
Agents That Own Their Inference — Du'an Lightfoot & Khaja Omer, Akamai Technologies
一场工作坊,两位讲者用一次失败优化(投机解码把演示模型从约每秒 58 token 降到 16 token)说明更快的推理配置必须针对实际模型、硬件和工作负载来测量。工作坊从选择托管 API 还是专用 GPU 自建推理讲起,随后在 Kubernetes 命名空间中提供 Jupyter notebook 和 vLLM 端点,以 Qwen 为例考察智能体的提示词、响应和重复工具调用对延迟与内存的消耗;内容涵盖流式测量、模型配置、内存预算、prefill、decode 与 KV 缓存,区分单请求生成速度与总吞吐,比较冷热前缀以及稠密模型与混合专家模型。之后将服务部署改为 FP8 模型重跑负载测试并检查简单输出质量,再进入投机解码,分析接受率、模型兼容性与 GPU 争用后回到基线,最后调整序列长度寻找吞吐趋平而延迟上升的并发点。适合正在做推理部署与性能调优的工程师。