PyTorch 2.15 中的 MPS

StartLuxLabs/StartLux-Decision

这是一个开源决策模型系列的项目仓库，模型规模从 0.8B 到 27B，一次推理即为每个选项给出校准概率，仅在不确定时输出简短思考。项目提供面向 vLLM、llama.cpp 和 MLX 的推理引擎，并提供 Hugging Face 模型页、arXiv 技术报告、API 文档与博客链接。

面向 Qwen3.5-4B 的交互式神经元操控实验台，基于 WebGPU 在浏览器本地运行

Interactive neuron steering playground for Qwen3.5-4B that runs locally in the browser on WebGPU

这是一篇社区分享帖，作者受 X 上关于用极少量神经元（常为一两个）操控大模型行为的讨论启发，制作了一个交互式实验台，可在浏览器中通过 WebGPU 完全本地运行 Qwen3.5-4B，让用户自行尝试不同神经元组合对模型输出行为的影响，并给出 Hugging Face Space 链接。适合对模型内部机制、神经元级行为操控和浏览器端本地推理感兴趣的人阅读。

North Mini Code 与智能体编码基准

North Mini Code and Agentic Coding Benchmarks

Sebastian Raschka 关于 North Mini Code 的架构与基准笔记。该模型是 Cohere 推出的开放权重模型，面向仓库级软件工程、终端操作与代码生成等智能体编码任务，总参数 300 亿、每 token 激活 30 亿，采用 Apache 2.0 许可。笔记介绍其基于并行 Transformer 设计（注意力与前馈分支从同一归一化输入出发并共同加入残差流）、共 49 层、隐藏维度 2048，首层为稠密前馈，其余层使用含 128 个专家、每 token 选 8 个的稀疏 MoE；并提醒编码智能体的基准结果需结合提示格式、工具、解析器和执行环境一起看待。

AnyLanguageModel 1.0：Apple 平台上本地模型的一年

AnyLanguageModel 1.0: One Year of Local Models on Apple Platforms

博客文章，回顾 AnyLanguageModel 发布一年后的 1.0 版本。它是 Apple Foundation Models 框架的兼容替代品，只需把 import FoundationModels 改为 import AnyLanguageModel，同一套会话代码即可用于系统模型、经 llama.cpp、MLX 和 Core ML 运行的开源权重模型，以及文中列出的托管服务商。文中还提到一年内新增的工具调用等功能，并同时发布 swift-huggingface 1.0 和 swift-xet 1.0。面向在 Apple 平台上开发应用的开发者。

Hugging Face ❤️ TorchTPU：原生支持 TPU

Hugging Face ❤️ TorchTPU: TPUs, Natively

博客文章，介绍 TorchTPU 这一原生 PyTorch 后端，使 TPU 成为 PyTorch 中的普通设备；文中称 Transformers、Diffusers 和 Kernels 可在 TPU 上原生运行，从 Hub 选择模型后发送到 "tpu" 即可。文章还简介了 TPU 作为 Google 自研 AI 加速器的情况与可用规模，并对比了此前需经 torch_xla 的旧方式及其限制。面向希望在 TPU 上运行 PyTorch 模型的用户。

Lean-QwenFlash：通过直读 NVMe SSD 卸载，在 16GB 显存和 8GB 内存上以约 20 tok/s 运行 Qwen3.8-Flash-Next（125B）

Lean-QwenFlash: Qwen3.8-Flash-Next (125B) running at ~20 tok/s on 16gb vram and 8gb ram via direct nvme SSD offloading

r/LocalLLaMA 社区帖子，作者介绍自己基于 sybil-solutions 的 glm-flash-lite 卸载思路改编出的 lean-qwenflash，让 125B 的 Qwen3.8-Flash-Next 在低内存机器上运行，而不是像 Strata 等方案那样把 24k 专家全部固定在系统内存中。帖中给出 RTX 4090（16GB 显存、8GB 系统内存）与 RTX 3080 笔记本（16GB 显存、32GB 内存）在 8k 至 262k 上下文的解码与预填充速度，并附 GitHub 仓库地址，包含安装说明、模型下载器与打包脚本。适合在低显存/低内存设备上尝试本地运行大模型的人关注。