AI助手被隐藏输入攻破：给所有引入AI的企业上的安全课

安全研究人员披露了微软办公套件中AI助手Copilot被攻破的细节：攻击者通过隐藏输入操纵它——指令藏在助手会读取、而用户看不见的内容里。模型把别人的命令当成了任务的一部分去执行。

这是教科书式的提示注入——所有大语言模型的根本性弱点，而非某一款产品的缺陷。任何会读取来信、外部文档或网页的AI助手，都可能在其中遇到藏起来的指令：白底白字、元数据、不可见区块。助手的权限越大——读信、发信、执行操作——一次成功注入的代价就越高。

对正在引入AI的公司，由此得出三条规则。给助手最小必要权限——像对待试用期新员工，而不是管理员。不可逆的操作必须由人确认：转账、发信、删除数据。并且选择能明确划定访问边界的平台——按角色和岗位分配，而不是“人人皆可”。AI智能体只有在权限像人的权限一样被清醒界定时，才真正创造价值。