全部资源

帖子精选。

94 条精选
帖子发布 10-11
Reddit

为一家 10 人初创公司搭建 4 卡 R9700 配置

Building a 4x R9700 setup for a 10 person startup

r/LocalLLaMA 社区帖子,作者分享为一位客户搭建的一套约 1.8 万美元的推理机器:Threadripper 9970x、128GB DDR5 ECC 5600 内存、4 张 AMD Radeon R9700 AI Pro 32GB(合计 128GB 显存)、1600W 电源(显卡降压后每张低于 210W)。软件上使用 Radiance 的一个分支来服务 Qwen 3.8 Next flash/27b 和 DSV4 Flash,并给出 16 路并发下的 prefill/decode 吞吐数据,覆盖 4k 到 128k 不同上下文长度。适合自行搭建多卡本地推理硬件、关注 AMD 显卡与小团队部署方案的人阅读。

帖子发布 10-25
Reddit

《模拟飞行 95/98》终于在 64 位 Windows 上跑起来,由 Claude Code 打补丁

Flight Simulator 95/98 finally running on 64-bit Windows, patched by Claude Code

这是 r/ClaudeAI 上的一篇社区帖子,作者是《模拟飞行》老玩家,讲述用 Claude Code 排查 FS95 与 FS98 在 64 位 Windows 上因除零异常崩溃的问题:先让 Claude 修改 WINDOW.DLL 和 G3D.DLL 修好 FS95,调试 FS98 时又发现真正原因在 EXE 自身,并据此回溯到 FS95 的 EXE,从而可保留原 DLL。帖中引用了 Claude 对 EXE 内除零处理例程与 __try / __except 机制的说明。适合正在用 Claude Code 处理旧程序兼容性调试、对二进制逆向与补丁修复感兴趣的人阅读。

帖子发布 10-24
Reddit

人们是怎么用 Claude 做出我在 Instagram 上不断看到的那种炫酷动效视频的?

How are people making those insane graphic motions video that I keep seeing on instagram using claude ?

Reddit r/ClaudeAI 上的社区帖子。发帖者称在 Instagram 上看到许多高水准动效视频都声称用 Claude 制作,但自己让 Claude 生成同类视频时效果不如这些作品,于是询问具体做法,并提到看到一条标注“Claude + Katana”(Katana 来自 higgsfields)的视频,询问这是否是可行路径。帖子下附带自动生成的讨论摘要。适合对用 Claude 制作动效/视频内容、并关注他人工作流的人关注。

帖子发布 10-26
Reddit

我对自托管 AI 智能体做了一次盲测,结果如下,猜猜谁是谁 [D]

I ran a blind test on self-hosted AI agents. Here are the results, guess who's who [D]

这是 r/MachineLearning 的社区帖子,作者在 M5 Max MacBook Pro(64GB)上,让五个自托管智能体(OpenCode、goose、Atomic Agent、Hermes、OpenClaw)使用同一个 Qwen 3.8 27B 非审查版 Q4_K_M 模型在 llama.cpp 中运行,执行合并联系人列表、跨文件重命名函数、修复带隐藏测试的 bug、统计日志错误数、把收据 PDF 转成表格五项任务,并给出各智能体的逐项通过情况与耗时。作者提到其中一个智能体把“Q3/Q4”写成“q3q4”,另有智能体未经询问就安装缺少的 Python 库,并邀请读者猜字母与智能体的对应关系。适合对自托管编码智能体的实际任务表现和自主性取舍感兴趣的人阅读。

进阶智能体评测本地模型部署仅限授权使用
帖子发布 10-26
Reddit

为开放权重模型微调构造边缘案例,最难的部分是什么?[D]

What's the hardest part of creating edge cases for fine-tuning open-weight models? [D]

r/MachineLearning 的讨论帖,提出问题:在为开放权重模型微调、重点提升边缘案例处理能力时,如何发现稀有或异常的边缘案例、如何在已有数据集上改造出更专门化的案例、样本是手写还是用模型合成或从真实数据挖掘、如何控制质量、如何判断覆盖度是否足够,以及是否有加入更多边缘案例反而使模型变差的经历。适合正在做开放权重模型微调数据构建的人阅读。

帖子发布 10-24
Reddit

我们是在通过记住更多来解决 LLM 记忆问题,而真正的问题是知道该忘掉什么吗?[D]

Are we solving LLM memory by remembering more, when the real problem is knowing what to forget?[D]

r/MachineLearning 的一篇讨论帖([D] 表示讨论类)。作者指出长上下文模型可处理数十万乃至上百万 token,但质疑业界过于关注召回而忽视信息更新:例如编码智能体读到的 API 超时为 30 秒,后来文档改为 5 秒,两个版本都还在上下文中,智能体却继续用 30 秒——它没有忘掉任何东西,只是没有更新已知内容。帖中比较了 Transformer 与 RAG 中新旧信息共存需在读取时解决冲突、简单线性注意力中关联累积于共享状态、DeltaNet 基于预测误差的更新、BDH 的赫布式突触可塑性等做法,并提出评估方式的问题:与其只测能否找到信息,不如测模型在收到更新的矛盾证据时是否会改变答案同时仍记得旧事实。适合关注 LLM 记忆架构与长上下文评测方法的研究者阅读。

帖子发布 10-25
Reddit

好得不像真的?ISTA 的 GSQ-RCO 2-bit DeepSeek-V4.1-Flash 得分与基座模型相同

Too good to be true? ISTA's GSQ-RCO 2-bit DeepSeek-V4.1-Flash scoring the same as the base model

r/LocalLLaMA 的一篇社区帖子。作者询问是否有人试过 ISTA 为 DeepSeek-V4.1-Flash 发布的 GSQ-RCO GGUF 量化模型,以及实际质量是否与榜单成绩相符(IQ2_XXS 与基座持平)。作者指出其基准已饱和(90% 以上,AIME25 各版本均为 100),可能无法体现性能退化,也找不到 GSQ-RCO 模型的 KLD 数据,因此询问是否有人测过 KLD 或 PPL,以及在约 2 bpw 下预期的 KLD 是多少,并附上 Hugging Face 模型页链接。适合在本地部署低比特量化大模型、关注量化后质量评估的人阅读。

帖子发布 10-25
Reddit

Lean-QwenFlash:通过直读 NVMe SSD 卸载,在 16GB 显存和 8GB 内存上以约 20 tok/s 运行 Qwen3.8-Flash-Next(125B)

Lean-QwenFlash: Qwen3.8-Flash-Next (125B) running at ~20 tok/s on 16gb vram and 8gb ram via direct nvme SSD offloading

r/LocalLLaMA 社区帖子,作者介绍自己基于 sybil-solutions 的 glm-flash-lite 卸载思路改编出的 lean-qwenflash,让 125B 的 Qwen3.8-Flash-Next 在低内存机器上运行,而不是像 Strata 等方案那样把 24k 专家全部固定在系统内存中。帖中给出 RTX 4090(16GB 显存、8GB 系统内存)与 RTX 3080 笔记本(16GB 显存、32GB 内存)在 8k 至 262k 上下文的解码与预填充速度,并附 GitHub 仓库地址,包含安装说明、模型下载器与打包脚本。适合在低显存/低内存设备上尝试本地运行大模型的人关注。

帖子发布 10-24
Reddit

8 GB 显卡、262K 上下文、3.5 BPW 的 Qwen-Flash-Next Coder,用 llama.cpp 达到 70 T/s

8 GB GPU, 262K context 3.5 BPW Qwen-Flash-Next Coder 70 T/s using llama.cpp

r/LocalLLaMA 的一篇社区帖子。作者介绍其做法:Qwen-Flash-Next 有 n-gram 和 MOE,激活参数为 6B,因此把大部分 MOE 放在内存、最小的 MOE 放进显存以提速、n-gram 放在最快的 SSD 上;配置为 8 GB 显存加 24 GB 内存,约 32 GB 总内存也能运行但需降低上下文长度,并需按硬件调整启动参数。帖子补充说明 CUDA 在 8 GB 显存下可能跑不起来,建议改用 Vulkan 后端,同时减小上下文并关闭浏览器硬件加速等占用显存的程序。作者还说明所用模型是 ISTA DASLab 的 3.5 BPW “Coder”变体、采用 GSQ RCO 量化,移除了一半专家,折算为原模型参数量的 1.89 比特有效速率,但没有任何单个权重以 1.89 比特存储。适合用 llama.cpp 在低显存消费级硬件上部署量化 MoE 模型的人阅读。

帖子发布 10-19
Hacker News

Ask HN:如何应对上线自己看不懂的 AI 写的代码?

Ask HN: How to deal with shipping AI-written code you don't understand?

这是 Hacker News 的 Ask HN 讨论帖,作者引用一位 Meta 工程师的 LinkedIn 帖,称如今写代码像黑箱,逐行审查 AI 生成代码不现实,可能导致上线后对系统细节缺乏真正理解,并询问其他工程师是否有同样感受、如何处理。帖子围绕理解程度与交付速度之间的取舍展开提问。适合日常用 AI 写代码、需要审查和交付 AI 生成代码的工程师阅读。