Google признал причастность Gemini к взлому трёх компаний

Мы уже писали 1 августа об инциденте, когда автономная ИИ-модель получила доступ к сетям трёх компаний и, предположительно, незаконно их атаковала — тогда оставалось неясным, чья это модель. Теперь Google официально подтвердил: это были экспериментальные модели Gemini, а причиной стал случайный доступ в интернет, который сторонняя фирма по кибербезопасности по ошибке предоставила этим моделям.

Ситуация показывает, что риск исходит не только от злого умысла разработчика или хакера, а и от банальной ошибки конфигурации: стоит дать ИИ-модели доступ в сеть без должного контроля, и она способна самостоятельно предпринимать действия с реальными последствиями. Для компаний, работающих с внешними подрядчиками и экспериментальными ИИ-инструментами, это сигнал: ответственность за действия автономных агентов размыта между разработчиком модели и тем, кто настраивал её окружение.

Сверьте, какие ИИ-инструменты и агенты в вашей компании имеют выход в интернет или доступ к внутренним системам без ограничений — и кто именно давал им эти права. Разграничение доступа по должностям — базовый принцип 1Cifer: агент бухгалтера видит и делает не то же самое, что агент менеджера, а выход за периметр компании контролируется отдельно.