更多帖子
帖子深入仅限授权使用

RTX 3080 20GB 解锁 reBAR 与 P2P:提示处理速度提升 70%

RTX 3080 20GB got reBAR and P2P unlock! +70% prompt processing speed

仅限授权使用:这是用于授权测试与研究的安全工具或资料,只能在你有权测试的系统上使用。
AI 导读

帖子称 RTX 3080 20GB 的 P2P 已解锁,在张量并行模式下提示处理速度大幅提升;发帖人转述原作者 u/nathannguyennng 的工作,并给出自己的测试环境(Proxmox 上双 RTX 3080 20GB、vllm 0.32.0、INT4 量化模型、张量并行等)以及原装、gpu-unlock、gpu-unlock+ReBAR+P2P 三种配置的对比。适合在本地多卡上运行大模型、关注vLLM 推理性能调优的人阅读。

分级
值得看
收录时间
2026-10-26

原帖

RTX 3080 20GB got reBAR and P2P unlock! +70% prompt processing speed P2P is finally unlocked for RTX 3080 20GB - this leads to massive performance improvements in tensor parallel mode prompt processing speed.

No-Refrigerator-1672 · · 在 Reddit 查看原帖(新标签页打开)

中文大意

发帖人转述 u/nathannguyennng 的成果:RTX 3080 20GB 解锁了 ReBAR 与 P2P。他在双 3080 20GB(PCIe 3.0 x16、限 240W)、Threadripper 1920x、vLLM 跑 Qwen3.8-27B AWQ INT4、张量并行下对比原版、gpu-unlock、gpu-unlock+ReBAR+P2P 三种配置。prefill 速度提升随提示长度从 8k 的 115% 递减到 261k 的 71%,单看 P2P 相对 gpu-unlock 最多约 70%;解码(用 token 间延迟衡量)基本在噪声范围内,仅 261k 长提示有稳定提升,且来自 gpu_unlock 而非 P2P。结论是长提示、agentic coding 场景收益最大,PCIe 连接不全的系统收益更小。适合折腾多卡本地推理、关注长上下文 prefill 性能的…

讨论区核心观点

依据 40 条评论

  • 有人复现:2 张改装 3080 20GB 开 ReBAR 和 gpu-unlock 后,Qwen3.8 Flash Next 的 prefill 从 522 t/s 升到 770 t/s(UD-IQ4_XS 量化)。 出处(新标签页打开)
  • 解码几乎不涨可以解释:解码时 all-reduce 消息很小(约 80KB),受延迟而非带宽限制;prefill 消息大,P2P 带宽才显出作用。 出处(新标签页打开)
  • 讨论转向显存改装:GA102 理论上可挂更多显存,但 vBIOS 有签名锁定,目前 RTX30 系列只有 3080 10GB→20GB 的改装存在;有人推测可从 A40 等数据中心卡移植显存配置表,加上近期绕过签名锁的方法,或许可行。 出处(新标签页打开)
  • 兼容性:有回复称在 3060 上效果很好,3090 因只有单卡无法验证、社区反馈不一;卡越快,PCIe 接口也需要越快才能看到大收益,超过 4 卡后收益递减。 出处(新标签页打开)
  • 价格讨论:3080 20GB 被视为性价比之王(约 3090 九成性能、一半价格),但只有从中国渠道(阿里/淘宝)直购才划算,eBay、速卖通加价后与 3090 持平;有人称价格已从 500-600 美元涨到 800-985 美元。 出处(新标签页打开)
  • 发帖人补充:长提示下解码计算量增加,预计 256k 到 1M token 区间、4 卡配置下解码收益会变大;也有人计划搭四卡 PCIe 4.0 x16 的 3080 20GB 机器并回传数据。 出处(新标签页打开)