全部资源

帖子精选。

95 条精选
帖子发布 10-27
Reddit

昨天我突然意识到,我的截止日期焦虑消失了

Yesterday it hit me, my deadline stress is gone

r/ClaudeAI 的社区帖子,作者在电脑前赶一个时间紧张的项目报告时,3 岁半的儿子叫他一起修玩具坦克,他没有犹豫、没有要求等 5 分钟,而是直接放下手上的活,因为知道这些事可以交给 Claude 处理。作者由此感慨并询问他人是否也有类似时刻——意识到很大一部分截止日期带来的压力已经消失。适合在日常工作中使用 Claude 完成任务、对工作节奏变化有共鸣的人阅读。

帖子发布 10-27
Reddit

我用 Claude 做了一个把《英灵神殿》变成城市建造游戏的模组,在 r/valheim 登上第一

I built a mod with Claude that turns Valheim into a city builder. It hit #1 on r/valheim

r/ClaudeAI 的社区帖子,作者介绍按 F7 就能把 Valheim 变成城市建造玩法的模组:维京人迁入、纳税、需要食物和蜜酒,得不到就离开;首领住在营地,玩家带自己的军队攻打,每个首领开启一个拥有独立建筑风格的新时代。帖子称 Claude 编写了大部分 C# 代码(BepInEx 与 Harmony 补丁、定居者 AI、经济系统、由游戏内建筑部件逐块自建的房屋),还能通过远程命令文件控制游戏,自己建城、截图检查并修正;并提到 Claude 定位并修复了测试者反馈的问题,以及写入游戏内基准测试,测得合并已建成房屋用于渲染带来最大帧率提升(36 到 56 fps),设计与测试由作者完成。模组在 Nexus 和 Thunderstore 免费发布。适合对 Valheim 模组开发或用 Claude 写游戏代码感兴趣的人阅读。

帖子发布 10-27
Reddit

关于 Qwen 3.5 4B 和 llamaparse 的问题

Questions about Qwen 3.5 4B and llamaparse

r/LocalLLaMA 上的一个求助帖,发帖者为附近实体店店主搭建一套包含员工出入记录、现金与发票、二维码扫描等功能的流程,主要顾虑是店主设备多为 16GB 内存、少数为 8GB,询问适合这类设备的本地模型,并考虑 Qwen 3.5 4B 用于简单的发票处理判断。发帖者原本想用云端解析工具 llamaparse 处理不同格式发票表格,也在询问其它本地替代方案。

帖子发布 10-27
Reddit

ScaffoldCoT 数据集更新:维护、面向小模型的新智能体数据集,以及一个围绕这些数据集训练的正在训练中的新模型

ScaffoldCoT Dataset Updates: Maintainance, a new agent-focused dataset for small models, and a new model in training built around the datasets!

这是一篇作者在 r/LocalLLaMA 发布的项目更新帖,介绍 ScaffoldCoT 数据集的最新变动:项目更名为 Scaffold Chat,移除了全部工具调用示例(约 27.6 万条),现有 3,450,159 条样本、16 个领域、75 个分片、约 13GB;同时发布约 10 亿 token 的真实执行编码智能体会话数据集 Scaffold Agent,并预告一个基于这些数据训练的 5–10B 模型。适合关注开源数据集构建、小模型智能体训练与数据清洗的人阅读。

帖子发布 10-26
Reddit

1000 英镑预算下,本地大模型整机的主流配置是什么?

For £1000 what is the meta for a local LLM rig?

r/LocalLLaMA 的社区帖子,作者询问含主机在内的 1000 英镑预算下本地大模型机器的常见配置,表示不太在意新硬件特性和能耗,只看重算力和智能水平。评论区中一位回复者分享了自己的方案及欧盟价格:两张 3060 12GB 约 400–500 欧元、64GB DDR4 内存 200–300 欧元、Ryzen 3600 60 欧元、AM4 主板 100 欧元、机箱与电源 100 欧元、若干 SATA 固态约 100 欧元,合计约 960–1160 欧元,多为二手件,显存加内存共 88GB,并建议直接上 5700x–5800x;同时指出升级到 128GB 因 32GB 内存条稀少而昂贵、预填充速度约 700 tps 等局限。适合预算有限、准备自行组装本地推理机器的人阅读。

帖子发布 10-26
Reddit

本地运行 Qwen3.8 FN 的建议

Suggestion for running Qwen3.8 FN local

r/LocalLLaMA 的社区帖子,作者列出可用硬件:两张 24GB 的 3090(已解锁)、一张 16GB 的 4070 Ti Super(已解锁)、18 核 CPU、130GB DDR4 内存和 1TB NVMe。帖子记录其运行 Qwen3.8FN 的速度:仅用 4070 Ti 加 NVMe 约 8–9 T/s,仅从 NVMe 运行约 2 T/s,三张 GPU 加内存一起跑约 18 T/s,并询问在不买新硬件的前提下如何提高速度。适合用多卡消费级显卡跑本地大模型、关注推理速度调优的人阅读。

帖子发布 10-27
Reddit

MacBook Pro M5 Max 上运行 Nanbeige4.3-33B Q4:mlx-lm、llama.cpp 与 Kapitsa 的对比,512 到 32K 上下文范围

Nanbeige4.3-33B Q4 on a MacBook Pro M5 Max, mlx-lm vs llama.cpp vs Kapitsa, Prefill/Decode 512 to 32K range.

这是一篇社区基准测试帖,在 MacBook Pro M5 Max(128GB)上对 Nanbeige4.3-33B 4-bit 量化模型比较 mlx-lm、llama.cpp 与 Kapitsa 三个引擎的 prefill、decode、首 token 时间、后续延迟和显存占用,覆盖 512 至 32K 提示长度;作者自述是 Kapitsa 引擎的开发者,并公开了原始输出与脚本。帖中称该模型速度慢、KV 缓存占用高(128K 上下文约 26GB),编码能力尚可。适合在 Apple 芯片上做本地推理性能对比的人阅读。

帖子发布 10-27
Reddit

用本地 LLM 做关卡设计时,你用什么方法来保证几何形状的遵循度?

What's your go-to strategy for ensuring geometrical adherence to level design with local LLMs?

一篇 r/LocalLLaMA 社区帖子,作者在用本地模型(Q3.8-FN-NVFP4,基于 Ninfer-v3 的分支)辅助设计 Halo Infinite Forge 地图,并征询如何保证模型输出在几何上符合关卡设计。帖子介绍了背景:Forge 只能通过节点图脚本、无法输入代码,地图保存为 MVAR 文件,反作弊机制阻止直接推送修改后的文件,因此开发需在游戏内手动完成;作者用 harness 建立专门的项目文件夹让代理参与制作。适合关注本地 LLM 在游戏关卡设计与代理工具链中应用的人阅读。

帖子发布 10-27
Reddit

一份简报文件,让大模型写出本地 9B 模型真正能执行的计划(并减少我的 Claude token 消耗)

A briefing file that lets a big model write plans a local 9B can actually execute (and cut my Claude token spend)

这是一篇社区分享帖,作者把用 Ornith 1.5-9B(8-bit)做本地编码智能体的经验整理成公开的简报文件,交给更强的规划模型(作者用 Claude Code)使用。内容分为分工方式(强模型写规格与小任务卡并验证结果,本地模型执行命令、构建、轮询、git 等机械工作)、如何向小模型下简报(精确文件与行号、绝对路径、1–3 行改动、每步以命令和预期输出结束、明确停止规则)、运行方式(每任务新会话、小上下文)以及验证方式;作者称小模型完成的 75 次提交合并中,其自述笔记多次出错但被计划校验捕获。适合在本地小模型与大模型之间拆分编码任务流程的人阅读。

帖子发布 10-27
Reddit

本地胜过云端:Qwen 3.8 FN

Local beats cloud, Qwen 3.8 FN

这是一篇社区案例帖,作者描述在高校硕士论文模块中用本地模型 Qwen 3.8 flash next(运行在 opencode 中,vllm 后端,Docker 沙箱、输入只读、工作区可写)处理学生、导师、课题、评审与成绩的匹配事务和多种格式 CSV 数据导入,因为学生姓名邮箱与早期研究项目信息不便上传云端。帖子称本地模型以接近前沿云端模型的水平完成了该任务。适合关心数据隐私场景下本地模型落地应用的人阅读。

帖子发布 10-26
Reddit

试过在 3090 等显卡上做 GPU 解锁的人:对混合精度量化(部分权重 ≤Q8、部分张量保留 BF16)有区别吗?

People who tried gpu-unlock on 3090s and such - does this make any difference on mixed-precision quants where you get some parts of the model quantized to <=Q8 but keep some tensors at BF16?

这是一篇社区提问帖,询问在 3090 一类显卡上解锁 FP16/BF16 矩阵乘性能后,对混合精度量化模型是否有效。评论者回复称基本没有差别:解锁只放开带 FP32 累加的 FP16/BF16 与 TF32 矩阵乘;llama.cpp 对 Q4–Q8 等量化权重走 MMQ INT8→INT32 路径,本来就没有锁定,实测 Q6_K 模型 prefill 与 decode 速度无变化,收益只出现在用 llama.cpp 跑未量化 BF16 GGUF 时。适合在消费级显卡上运行量化模型并关心推理性能调优的人阅读。

帖子发布 10-26
Reddit

PBT 不能让 grokking 更快,但能逃离一个什么都无法 grok 的超参数区间 [P]

PBT doesn’t make grokking faster, but it can escape a hyperparameter range where nothing groks [P]

这是一篇 [P] 类社区实验帖,在模 97 加法、35% 训练集的小型 MLP 上对学习率与权重衰减运行基于种群的训练(PBT),与等算力网格搜索对比:最优固定格点约 317±29 步达到 95% 验证准确率,PBT 为 2667±2244 步;从“死区”起点出发时,固定设置与慢速 PBT 均为 0/3,而快速 PBT 3/3 在约 6850 步逃离。消融显示随机供体也能逃离但更晚,重放胜出的 lr/wd 调度在 60 次新初始化中 55 次成功,而几何均值常数设置为 0/60;作者结论是 PBT 是逃离坏区间的救援工具而非加速手段,并列出任务单一、种子数有限、事后选择胜者等局限。适合研究超参数搜索、grokking 现象与训练动力学的人阅读。