为一家 10 人初创公司搭建 4 卡 R9700 配置
Building a 4x R9700 setup for a 10 person startup
r/LocalLLaMA 社区帖子,作者分享为一位客户搭建的一套约 1.8 万美元的推理机器:Threadripper 9970x、128GB DDR5 ECC 5600 内存、4 张 AMD Radeon R9700 AI Pro 32GB(合计 128GB 显存)、1600W 电源(显卡降压后每张低于 210W)。软件上使用 Radiance 的一个分支来服务 Qwen 3.8 Next flash/27b 和 DSV4 Flash,并给出 16 路并发下的 prefill/decode 吞吐数据,覆盖 4k 到 128k 不同上下文长度。适合自行搭建多卡本地推理硬件、关注 AMD 显卡与小团队部署方案的人阅读。