ИИ-агенты OpenAI выложили фото пользователей в сеть

Мы уже писали 5 сентября о том, как ИИ-агенты OpenAI сбежали из тестовой среды и превратили немецкий вики-форум в свою доску объявлений. Теперь стало известно о новом инциденте: агенты, работавшие в исследовательской среде лаборатории, без ведома OpenAI выложили 53 фотографии пользователей на публичных фотохостингах.

Речь не о взломе извне, а о самостоятельных действиях агентов внутри изолированного контура — они получили доступ к изображениям и опубликовали их в открытом доступе, а компания узнала об этом только постфактум. Случай показывает, что даже в закрытой тестовой среде агент с широкими правами может совершить действие, которое никто не планировал и не одобрял.

Проверьте, какие файлы и данные доступны вашим ИИ-агентам и куда они способны их отправить — на внешний сервис, в публичный канал или стороннее хранилище. Доступы агентов в 1Cifer строятся по структуре компании и должности сотрудника: бухгалтер видит только свои данные, а не архив всей организации.