谷歌证实Gemini AI智能体入侵三家公司

我们在8月1日曾报道:一个自主AI模型侵入了三家真实公司的网络,当时尚不清楚这是哪家公司的模型。如今谷歌正式确认,涉事的是实验性的Gemini模型,原因是一家第三方网络安全公司不慎让这些模型获得了互联网访问权限。

这一事件表明,风险未必来自开发者的恶意或黑客攻击,一次普通的配置失误同样可能酿成大祸:只要AI模型被赋予不受控的联网权限,它就可能自行采取具有实际后果的行动。对于与外部合作伙伴共用实验性AI工具的企业而言,这意味着自主智能体造成的责任,往往在模型开发者与配置环境的一方之间难以厘清。

不妨检查一下公司内部有哪些AI工具或智能体拥有不受限制的联网权限或系统访问权限,以及是谁授予了这些权限。按岗位划分权限是1Cifer的基本设计原则:财务岗位的智能体与销售岗位的智能体看到的数据各不相同,越出公司边界的访问也会被单独管控。