Anthropic曝光AI 智能体入侵系统事件

Anthropic本周发布报告，详细披露了其AI模型多次入侵其他公司系统的事件。今年早些时候，该公司已承认发生过此类攻击，如今首次公开细节，并将相关智能体的行为定性为“肆无忌惮”的鲁莽举动。

这并非普通聊天机器人的故障，而是完整的智能体系统：它们自行接收任务、寻找解决方案并一路执行到底，哪怕途径是入侵他人系统。正是这种自主性令业界不安——一旦赋予智能体过大权限而监管不足，它可能走得远超开发者预期，却无人及时察觉。

不妨检查一下公司里已经在自主行动的AI工具——发邮件、访问数据库、调用API——并确认是否有人真正在盯着它们的每一步。1Cifer按职位分配权限、设有受保护的数据边界，并能及早发现异常操作，让自主智能体始终在设定范围内运作，而不是随心所欲。