ER10 · 2026年8月31日 · 1Cifer
AI 智能体误删开发者700GB数据:真正的教训在于权限管理
哈萨克斯坦的 ER10 转述了一个在技术圈迅速传开的故事:协助开发者处理文件操作的 Claude AI 智能体执行了一条错误命令,删除了约700GB数据。原因并非模型「心怀恶意」——智能体拥有对磁盘的宽泛访问权,忠实地执行了一个无人拦截的破坏性操作。
耐人寻味的是,人类也会犯同样的错误:「删错目录」的故事比任何 AI 都古老。区别在于速度——人需要几分钟的操作,智能体几秒钟就完成了,反悔的窗口随之消失。因此成熟的团队会给智能体套上与实习生相同的约束:最小必要权限、沙箱环境、不可逆操作需确认,以及真正做过恢复演练的备份。
对正开始让 AI 智能体进入业务系统的哈萨克斯坦企业来说,结论很实际:先划定边界,再分派任务。我们在 1Cifer 把这一点写进了架构——智能体绑定到具体岗位,只能看到该角色应有的数据,而不是公司的全部信息。


