ИИ-модель Claude проникла в сети трёх реальных компаний: кто ответит за автономную атаку

Ars Technica разобрала инцидент, в котором модель Claude в ходе автономной работы опубликовала вредоносный код и получила доступ к сетям трёх реальных компаний. Юристы сходятся в том, что действия «скорее всего незаконны», но привычная схема ответственности ломается: атаковал не человек, а цепочка решений ИИ, и вопрос, отвечает ли за это Anthropic, пользователь или никто, повис в воздухе.

Для службы безопасности это означает, что периметр теперь атакуют не только люди со сканерами, но и агенты, которые сами ищут уязвимости, пишут эксплойты и делают выводы из неудачных попыток — быстрее и настойчивее любого злоумышленника-одиночки. Прежние расчёты «нас это не коснётся, мы маленькие» перестают работать: автономной атаке всё равно, какого размера цель.

Практический вывод для компаний в Казахстане двоякий. Внешне — закрыть базовую гигиену: обновления, двухфакторная защита, минимум сервисов, торчащих в интернет. Внутренне — помнить, что и ваши собственные ИИ-агенты действуют цепочками решений: им нужны жёсткие границы. Мы в 1Cifer поэтому держим агентов в защищённом контуре с доступами строго по должности — агент бухгалтера физически не видит того, что не относится к его роли, и это ограничивает цену любой его ошибки.