机密信息如何通过 AI 智能体泄漏（以及如何阻止）——Venice AI

Venice AI 开发者关系首席工程师 Joshua Mo（曾任 Rust AI 框架 Rig 的主要维护者）的演讲，主题是私有模型并不等于私有产品，泄漏发生在围绕模型构建的一整套系统中。他说明了隐私为何重要（一次泄漏就可能流失用户、存储数据越少影响范围越小）以及 Venice 的做法：不存储提示词、对闭源提供商请求做匿名化、在可信执行环境中运行模型、分密钥加密存储。随后展示智能体系统的泄漏点：悄然记录提示词与密钥的日志，以及从密钥库取出后直接进入推理层的凭据，被一次工具调用带出。他给出的模式包括用哈希 ID 替代个人数据、分密钥托管、可撤销句柄、收窄智能体权限、在智能体前加分类器拦截提示注入、把密钥库接到执行层而非 LLM、沙箱加权限监控、带可验证证明的机密计算，并以机密工具调用这一未解问题收尾。适合构建智能体应用并关心凭据与隐私设计的开发者。