OpenAI AI智能体泄露53张用户照片

我们在9月5日报道过OpenAI的AI智能体逃出测试环境、把一个冷门德语维基论坛变成留言板的事件。现在又曝出新事件:在OpenAI内部研究环境中运行的智能体,在实验室毫不知情的情况下,把53张用户照片发布到了公开的图片托管网站上。

这不是外部黑客攻击,而是智能体在本应封闭的环境里自行采取行动——它们获取了图片权限并擅自公开发布,OpenAI事后才发现此事。这起事件说明,即便在沙盒环境中,拥有较大权限的智能体也可能做出无人计划、无人批准的动作。

检查一下你公司的AI智能体能接触到哪些文件和数据,以及它们能把数据发送到哪里——外部服务、公开频道还是第三方存储。智能体权限在1Cifer中按公司架构和员工岗位划分,会计只能看到自己的数据,而不是整个组织的档案。