# 机密信息如何通过 AI 智能体泄漏（以及如何阻止）——Venice AI

- 原标题：How Secrets Leak Through AI Agents \(and How to Stop It\) — Venice AI
- 类型：讲座
- 来源：YouTube
- 发布时间：2026-10-12
- 首次精选：2026-11-02 01:09
- 分级：值得看
- 学习层级：进阶
- 主题：[ai-attacks-defense](<https://oplearnx.com/md/topics/ai-attacks-defense.md>)（第 15 位）、[ai-privacy-governance](<https://oplearnx.com/md/topics/ai-privacy-governance.md>)（第 16 位）、[agent-permissions-sandboxing](<https://oplearnx.com/md/topics/agent-permissions-sandboxing.md>)（第 17 位）
- 原文链接：[https://youtube.com/watch?v=xn8EsW0wxyc](<https://youtube.com/watch?v=xn8EsW0wxyc>)
- 本站页面：[https://oplearnx.com/resources/pk\_c53376fd90ec](<https://oplearnx.com/resources/pk_c53376fd90ec>)

## 摘要

Venice AI 开发者关系首席工程师 Joshua Mo（曾任 Rust AI 框架 Rig 的主要维护者）的演讲，主题是私有模型并不等于私有产品，泄漏发生在围绕模型构建的一整套系统中。他说明了隐私为何重要（一次泄漏就可能流失用户、存储数据越少影响范围越小）以及 Venice 的做法：不存储提示词、对闭源提供商请求做匿名化、在可信执行环境中运行模型、分密钥加密存储。随后展示智能体系统的泄漏点：悄然记录提示词与密钥的日志，以及从密钥库取出后直接进入推理层的凭据，被一次工具调用带出。他给出的模式包括用哈希 ID 替代个人数据、分密钥托管、可撤销句柄、收窄智能体权限、在智能体前加分类器拦截提示注入、把密钥库接到执行层而非 LLM、沙箱加权限监控、带可验证证明的机密计算，并以机密工具调用这一未解问题收尾。适合构建智能体应用并关心凭据与隐私设计的开发者。

## 原文涉及

- [GitHub - 0xPlaygrounds/rig: ⚙️🦀 Build modular and scalable LLM Applications in Rust](<https://github.com/0xplaygrounds/rig>)

---
来源：LearnMap · 学径（https://oplearnx.com）