Claude помог взломать аккаунт сотрудника OpenAI

Исследователи безопасности показали, что ИИ-агент на базе Claude можно использовать не только для помощи, но и для атаки. С его помощью они получили доступ к аккаунту сотрудника OpenAI и добрались до закрытых данных в репозиториях компании на GitHub.

Проблема не в уязвимости самого Claude, а в том, что ИИ-агенты умеют самостоятельно проходить цепочки действий: искать информацию, подбирать доступы, обходить защиту. Делают они это так же, как человек, только быстрее и без устали. Получается, что тот же инструмент, который экономит часы рутинной работы, при слабых настройках доступа способен сработать против самой компании.

Проверьте, какие права выданы вашим ИИ-агентам, сервисным аккаунтам и интеграциям. Совпадают ли эти права с реальными задачами сотрудника или процесса, который агент выполняет? Доступ, ограниченный должностью и структурой компании, — базовый принцип защиты: в 1Cifer агент сотрудника видит только то, что положено по его роли.