全部资源

我用 Qwen 3.8FN IQ3_S 测试了 Strata 的路由优化在编程、数学和指令遵循上的表现

I tested Strata's routing optimizations with Qwen 3.8FN IQ3_S in coding, math, and instruction following

这是 r/LocalLLaMA 的一篇社区帖子，作者在自有机器的 Qwen 3.8 Flash Next IQ3_S 上测试 Strata 0.2.7.1 版本的两项路由优化。STRATA_ROUTE_PRIOR 会给已缓存于显存的专家加 1.5 的分数加成（约 4.48 倍有效系数），使分数接近时可用缓存中的专家替换原本会选中的专家；STRATA_ROUTE_TAIL_SKIP=7（默认值）则在某些专家不在显存时跳过第 7 至第 10 个专家的计算，从而丢弃次要专家的贡献。帖子给出关闭两项、仅尾跳、仅路由优先、两者同开四种配置在 IFEvalCode、AIME 2026、IFEval 上的解码速度与得分表格，并说明第二轮用更大思考预算重跑了首轮答案不同的题目。适合在本地运行 MoE 模型、关心显存受限下路由与专家缓存取舍的人阅读。

我为语音转文字应用微调了一个 LLM，用来清理转写文本

I fine-tuned an LLM to clean up transcriptions for my voice-to-text app

一篇 r/LocalLLaMA 社区帖子，作者为自己开发的语音转文字应用 WhisperNow 微调本地 LLM 做文本清理，去除口头填充词、误起头、自我纠正并格式化列表。帖子介绍了 66,557 行的数据集（合并公开数据与合成听写内容），说明训练中发现的薄弱点及补充样本的做法，并给出 LFM2.5 1.2B/2.6B、Qwen3.5 4B 三个全量微调模型在 GPU 与 CPU 上的耗时对比，以及与若干云端 API 的延迟对照。适合在做本地语音输入或文本后处理模型微调的人阅读。

我从零训练了一个 21B MoE（激活 3.36B），用了 70B token（涌现能力观察）

I trained a 21B MoE (3.36B active) from scratch on 70B tokens (emergent ability observations)

这是一篇 Reddit r/LocalLLaMA 社区帖子，作者从零训练了 Apex-3：20.99B 参数 MoE、每 token 激活 3.36B，64 个路由专家加 1 个共享专家（top-4），使用 SuperBPE 分词器，在 GH200 上用 Muon 和 DiLoCo 训练，无外部预训练权重，并放出稳定 checkpoint 供他人继续训练。帖子聚焦训练日志中的现象，主要报告上下文学习（归纳头）在约 0.33B token 内出现约 5 倍增长的明显相变，以及算术任务最终准确率 0.655–0.665 等数据。适合从零训练小型 MoE、关注训练动力学与涌现能力观察的人阅读。

在做一种让本地 LLM 共享上下文而不必集中化一切的方式

Working on a way for local LLMs to share context without centralizing everything

这是一篇 Reddit r/LocalLLaMA 社区帖子，作者描述多人或多台机器使用本地模型时共享上下文的困难（重复 embeddings 或向量库、手动搬运上下文、引入中心服务），并介绍他们正在试验的一个小型可移植上下文层，让有用的事实或决策能在本地环境之间转移而不必随带整个底层数据集。作者还提到目前仍处早期，正在讨论来源追溯、权限、过期上下文和模型可记忆范围等问题，并向读者询问在跨机器或团队场景下如何处理共享上下文。适合在多台机器或团队中部署本地模型、关心本地上下文共享方案的人阅读。

我把 EmbeddingGemma-2（577M）从 MTEB 音频榜（MAEB）第 26 名带到第 1 名，零训练加一个 2.4MB 的 PCA 头，击败 9B 模型

I took EmbeddingGemma-2 (577M) from Rank #26 to #1 on the MTEB Audio leaderboard (MAEB), beating 9B models by adding a 2.4 MB PCA head with zero training

这是一篇 Reddit r/LocalLLaMA 社区帖子，作者在 Google 的 577M 参数、768 维向量模型 embeddinggemma-2 上加入一个 2.37MB 的冻结 PCA 矩阵文件，未训练任何权重，就把 MAEB 音频榜得分从 49.3% 提升到 54.4%，音频榜从第 26 名升至第 1 名（完整 MAEB 从第 16 名升至第 1 名）。帖子解释了原理：从冻结音频编码器较早层提取特征以保留音色、情绪等声学信息，并列出无监督语音/性别聚类、歌曲音频检索、人声情绪分类等任务上的提升数字，权重发布在 Hugging Face。适合在笔记本或边缘设备上做音频/文本嵌入检索、关注小模型与嵌入模型改进的人阅读。

观点：本地部署会在企业里爆发式增长

Theory: Local is going to explode at enterprises

这是 r/LocalLLaMA 的一篇社区帖子，作者援引一条 X 帖子提出观点：企业希望保守自己的机密，而大型本地模型对多数任务已经足够好，企业所需要的只是一个即插即用的方案。评论区中一位自称从事企业 AI 部署的用户反驳称，目前这远非常态，也不认为一年内会改变：多数“科技”公司缺乏构建、维护和优化自托管部署所需的机器学习与 IT 能力，本地可用的模型并不适合普通员工使用，为各类硬件和用户需求优化环境也很麻烦，多数企业会依靠数据处理协议或企业级服务来保护机密。适合在企业中从事 AI 部署或选型、关注本地部署落地障碍的人阅读。

一个 4B 模型从零开始帮我做出了下界合金锭，我只在聊天里打了一句话

A 4B model made me a netherite ingot from bare hands. All I did was type one sentence in chat.

这是 r/LocalLLaMA 的一篇社区帖子，作者为此前只能执行任务、却难以理解自然语言请求的 Minecraft 助手补上了自然语言理解流程，且该流程并非针对单句特制。演示中玩家输入“我饿了，给我至少 3 块猪排，再帮我做一个下界合金锭”，Mica v0.5 4B 解析出两个目标及各自数量，然后从徒手开始依次完成木头、工具、铁、钻石、黑曜石、传送门、下界、远古残骸、金到下界合金锭的流程并交付物品；右侧面板显示模型收到的每个问题、可选选项及其给出的概率，最后切到玩家视角展示物品送达。其思路是不一次性理解整句，而是把请求拆成链式的小型多选题，逐级收窄（物品数量、类别、子类别、从游戏物品表中选定具体物品、给谁和数量），选项仅由代码从游戏数据提供，每个选择由模型做出。适合对本地小模型做游戏智能体、结构化任务分解与提示流程设计感兴趣的人阅读。

haydenschmitty/floorplan

这是一个 GitHub 项目，README 称其由 Claude 或 Codex 读取代码库并绘制可交互的代码结构地图，为每个部分、文件和网络请求取通俗英文名称，并展示它们之间的连接关系。项目提供 Claude Code 插件和 Codex 插件，标签涵盖 ai-coding、architecture-diagram、codebase-visualization、onboarding 等，附有演示主页链接。

Gemini 4 Carbon：我们的下一代前沿模型

Gemini 4 Carbon: Our next frontier model

Google DeepMind 2026 年 10 月 28 日发布的博客，宣布推出 Gemini 4 Carbon 模型，称其在网络安全和长周期任务能力上表现最强。文中给出该模型在 Artificial Analysis Intelligence Index v5.0 上以 59 分排名第一，并在 SEC-bench Pro（88.2%，漏洞发现）、ExploitGym（54.8%，漏洞利用）、CWE-bench（71.0%，修补）等基准上的成绩，同时提到在内部基准和安全编码环境中错位与捏造率有所下降。文中提及它建立在两周前发布的 Gemini 4 Argon 之上。

GitHub Octoverse 2026

Simon Willison 在 GitHub Universe 现场的记录，介绍 GitHub 发布的年度 Octoverse 报告要点：2026 年每月合并的拉取请求不到一年增至三倍、达到 2.2 亿次，每月提交量增至 7.38 亿亿次级规模（超三倍，即 73.8 亿次），新仓库创建速率翻倍至每月 3030 万个。文中还提到报告新增按行业划分的数据、涉及“互操作性或逆向工程”的仓库统计，以及按国家、行业、互操作性的方法论说明。作者说明自己是通过 GitHub Stars 项目获得免费门票参会的。

Claude Opus 5.5 在制作 3D 影片方面表现惊人

Claude Opus 5.5 is insane in creating creating 3D movies.

这是一篇 Reddit r/ClaudeAI 社区帖子，作者贴出自己使用的完整提示词，要求模型根据附带的 Dodaios 吉祥物图片自行调研其故事、从零重建并动画化该角色、不使用 skills、Remotion 或模板、渲染终端和自然等 3D 物体、只做纯动画不加文字、并仅使用网络上的免费专业音效素材，制作一分钟视频。帖子正文主要是这段提示词本身，未在材料中给出成品描述或评测数据。适合用 Claude 做 3D 动画与视频生成实验、想参考长提示词写法的人阅读。

我为一个面向大规模 GPU 工作负载的 PyTorch 优化器做了实现——希望获得反馈 [P]

I built a PyTorch optimizer for large GPU workloads — looking for feedback[P]

这是 r/MachineLearning 的一篇社区帖子（[P] 表示项目分享），作者介绍自己开发的 PyTorch 优化器 ApexW，目标是降低优化器状态显存占用并加快较大 GPU 工作负载上的优化器更新步骤，做法是紧凑的优化器状态加一条基于 Triton 的执行路径。作者称在只有几个大张量时的优化器单项基准中，Triton 加紧凑状态路径比 PyTorch 的 fused AdamW 快约 1.5 倍，优化器状态显存约减半；同时说明自动执行模式尚未稳定取得同样加速，含大量小张量的负载明显慢于 PyTorch fused 优化器（例如 1.28 亿参数分散在众多小张量时，PyTorch 原生为 16.1 ms/步），并强调这些数字来自优化器单项测试而非完整模型训练，希望有人在实现与基准测试上把关。适合从事 PyTorch 训练优化、关注优化器状态显存与 Triton 内核实现的人阅读。