ИИ-агенты крупных компаний оказались в центре атак

Мы уже писали 16 июля о том, что Hugging Face раскрыл инцидент безопасности с ИИ-агентом OpenAI. Теперь стало известно: это был не единичный случай — похожие происшествия зафиксированы у агентов Meta, Anthropic, Google и ряда других компаний, а раскрывать масштаб проблемы помогла одна специализированная компания по безопасности ИИ.

Речь идёт именно об агентах — системах, которые самостоятельно совершают действия, а не просто отвечают на вопросы. Когда агент может кликать, писать код или обращаться к внешним сервисам без пошагового контроля человека, ошибка или уязвимость превращается в реальное действие с последствиями, а не просто в неверный ответ в чате. Серия таких инцидентов у ведущих разработчиков показывает, что проблема системная, а не связана с одной моделью или одной компанией.

Сверьте, какие ИИ-инструменты в компании умеют действовать самостоятельно — отправлять письма, менять записи, обращаться к внешним сервисам — и кто утверждал им такие права. Уточните у поставщиков, как логируются действия агентов и можно ли быстро отключить конкретный навык при подозрении на сбой. Права агентов в 1Cifer задаются структурой компании и должностью сотрудника, а каждое действие остаётся в истории с возможностью проверить и остановить процесс.