更多帖子
帖子进阶

我为语音转文字应用微调了一个 LLM,用来清理转写文本

I fine-tuned an LLM to clean up transcriptions for my voice-to-text app

AI 导读

一篇 r/LocalLLaMA 社区帖子,作者为自己开发的语音转文字应用 WhisperNow 微调本地 LLM 做文本清理,去除口头填充词、误起头、自我纠正并格式化列表。帖子介绍了 66,557 行的数据集(合并公开数据与合成听写内容),说明训练中发现的薄弱点及补充样本的做法,并给出 LFM2.5 1.2B/2.6B、Qwen3.5 4B 三个全量微调模型在 GPU 与 CPU 上的耗时对比,以及与若干云端 API 的延迟对照。适合在做本地语音输入或文本后处理模型微调的人阅读。

分级
值得看
收录时间
2026-10-29

原帖

I built a voice-to-text app, WhisperNow . But there are a thousand and one WisprFlow clones out there, so I went further and fine-tuned my own LLMs for the cleanup step. They remove fillers, false starts, self-corrections, and formats lists, all locally.

stephan273 · · 在 Reddit 查看原帖(新标签页打开)

中文大意

发帖人为自己的语音转文字应用 WhisperNow 微调了专门做“清理”的小模型,本地去除口头语、口误起头、自我更正并格式化列表,以区别于大量 WisprFlow 克隆产品。数据方面:先用 aawaaz、handy、Disfl-QA 等公开数据集加合成听写(邮件、会议记录、菜谱、口述命令)拼成 66,557 行,清洗后的参考答案由 gpt-6.1-sol 用应用发给云模型的同一提示生成。训练中发现薄弱点(长听写、识别错词、被截断的词如 "interf interface"、被字面使用的更正词如 "scratch behind the dog's ears"),据此补数据重训。全量微调了 LFM2.5 1.2B(应用默认,显存 1.6GB,100 词听写 RTX 5070 上 0.18s、Ryzen 9 8945HS 上 2.3s)、LFM2.5 2.6B、Qwen3.5 4B 三个基座。…

讨论区核心观点

依据 8 条评论