更多博客
博客

你的 GPU 邻居能“听”到你的模型 — Branislav Brzak,Stealthium

Your GPU Neighbor Can Hear Your Model — Branislav Brzak, Stealthium

AI 导读

演讲展示 H100 上的时序侧信道实验:仅探测攻击者自己的内存,不读取受害者内存、不利用软件漏洞,用约三微秒的额外延迟信号推断另一租户 GPU 分片的模型深度、解码速度,以及代码、散文、JSON、检索等工作负载类别。讲者明确区分此类推断与恢复实际提示词或回答内容。内容还涉及从重复内存读取到频率分析、token 速率与层签名的追踪过程,跨 NVSwitch/NVLink 的较弱信号,以及租户放置、隔离取舍和 GPU 上探测负载观测等运维选择。

分级
值得看
所属主题
整理中
收录时间
2026-10-26