全部资源

我为语音转文字应用微调了一个 LLM，用来清理转写文本

I fine-tuned an LLM to clean up transcriptions for my voice-to-text app

一篇 r/LocalLLaMA 社区帖子，作者为自己开发的语音转文字应用 WhisperNow 微调本地 LLM 做文本清理，去除口头填充词、误起头、自我纠正并格式化列表。帖子介绍了 66,557 行的数据集（合并公开数据与合成听写内容），说明训练中发现的薄弱点及补充样本的做法，并给出 LFM2.5 1.2B/2.6B、Qwen3.5 4B 三个全量微调模型在 GPU 与 CPU 上的耗时对比，以及与若干云端 API 的延迟对照。适合在做本地语音输入或文本后处理模型微调的人阅读。

我从零训练了一个 21B MoE（激活 3.36B），用了 70B token（涌现能力观察）

I trained a 21B MoE (3.36B active) from scratch on 70B tokens (emergent ability observations)

这是一篇 Reddit r/LocalLLaMA 社区帖子，作者从零训练了 Apex-3：20.99B 参数 MoE、每 token 激活 3.36B，64 个路由专家加 1 个共享专家（top-4），使用 SuperBPE 分词器，在 GH200 上用 Muon 和 DiLoCo 训练，无外部预训练权重，并放出稳定 checkpoint 供他人继续训练。帖子聚焦训练日志中的现象，主要报告上下文学习（归纳头）在约 0.33B token 内出现约 5 倍增长的明显相变，以及算术任务最终准确率 0.655–0.665 等数据。适合从零训练小型 MoE、关注训练动力学与涌现能力观察的人阅读。

在做一种让本地 LLM 共享上下文而不必集中化一切的方式

Working on a way for local LLMs to share context without centralizing everything

这是一篇 Reddit r/LocalLLaMA 社区帖子，作者描述多人或多台机器使用本地模型时共享上下文的困难（重复 embeddings 或向量库、手动搬运上下文、引入中心服务），并介绍他们正在试验的一个小型可移植上下文层，让有用的事实或决策能在本地环境之间转移而不必随带整个底层数据集。作者还提到目前仍处早期，正在讨论来源追溯、权限、过期上下文和模型可记忆范围等问题，并向读者询问在跨机器或团队场景下如何处理共享上下文。适合在多台机器或团队中部署本地模型、关心本地上下文共享方案的人阅读。

我把 EmbeddingGemma-2（577M）从 MTEB 音频榜（MAEB）第 26 名带到第 1 名，零训练加一个 2.4MB 的 PCA 头，击败 9B 模型

I took EmbeddingGemma-2 (577M) from Rank #26 to #1 on the MTEB Audio leaderboard (MAEB), beating 9B models by adding a 2.4 MB PCA head with zero training

这是一篇 Reddit r/LocalLLaMA 社区帖子，作者在 Google 的 577M 参数、768 维向量模型 embeddinggemma-2 上加入一个 2.37MB 的冻结 PCA 矩阵文件，未训练任何权重，就把 MAEB 音频榜得分从 49.3% 提升到 54.4%，音频榜从第 26 名升至第 1 名（完整 MAEB 从第 16 名升至第 1 名）。帖子解释了原理：从冻结音频编码器较早层提取特征以保留音色、情绪等声学信息，并列出无监督语音/性别聚类、歌曲音频检索、人声情绪分类等任务上的提升数字，权重发布在 Hugging Face。适合在笔记本或边缘设备上做音频/文本嵌入检索、关注小模型与嵌入模型改进的人阅读。

观点：本地部署会在企业里爆发式增长

Theory: Local is going to explode at enterprises

这是 r/LocalLLaMA 的一篇社区帖子，作者援引一条 X 帖子提出观点：企业希望保守自己的机密，而大型本地模型对多数任务已经足够好，企业所需要的只是一个即插即用的方案。评论区中一位自称从事企业 AI 部署的用户反驳称，目前这远非常态，也不认为一年内会改变：多数“科技”公司缺乏构建、维护和优化自托管部署所需的机器学习与 IT 能力，本地可用的模型并不适合普通员工使用，为各类硬件和用户需求优化环境也很麻烦，多数企业会依靠数据处理协议或企业级服务来保护机密。适合在企业中从事 AI 部署或选型、关注本地部署落地障碍的人阅读。

一个 4B 模型从零开始帮我做出了下界合金锭，我只在聊天里打了一句话

A 4B model made me a netherite ingot from bare hands. All I did was type one sentence in chat.

这是 r/LocalLLaMA 的一篇社区帖子，作者为此前只能执行任务、却难以理解自然语言请求的 Minecraft 助手补上了自然语言理解流程，且该流程并非针对单句特制。演示中玩家输入“我饿了，给我至少 3 块猪排，再帮我做一个下界合金锭”，Mica v0.5 4B 解析出两个目标及各自数量，然后从徒手开始依次完成木头、工具、铁、钻石、黑曜石、传送门、下界、远古残骸、金到下界合金锭的流程并交付物品；右侧面板显示模型收到的每个问题、可选选项及其给出的概率，最后切到玩家视角展示物品送达。其思路是不一次性理解整句，而是把请求拆成链式的小型多选题，逐级收窄（物品数量、类别、子类别、从游戏物品表中选定具体物品、给谁和数量），选项仅由代码从游戏数据提供，每个选择由模型做出。适合对本地小模型做游戏智能体、结构化任务分解与提示流程设计感兴趣的人阅读。

haydenschmitty/floorplan

这是一个 GitHub 项目，README 称其由 Claude 或 Codex 读取代码库并绘制可交互的代码结构地图，为每个部分、文件和网络请求取通俗英文名称，并展示它们之间的连接关系。项目提供 Claude Code 插件和 Codex 插件，标签涵盖 ai-coding、architecture-diagram、codebase-visualization、onboarding 等，附有演示主页链接。