ИИ-агент Meta Muse раскрыл всю файловую систему

Два независимых разработчика — Питер Джеймс и Джонни Сондерс — рассказали, что смогли уговорить ИИ-агента Meta Muse поделиться архивом всей его файловой системы: корневые каталоги, системные файлы Ubuntu, шаблоны приложений и внутреннюю документацию. Для этого не понадобилось сложных техник — обычных текстовых запросов оказалось достаточно.

Случай показателен: агент с доступом к файлам и системным ресурсам — это не просто чат-бот, а исполнитель, который может выполнять команды и отдавать данные, если его права заранее не ограничены. Если разграничение доступа настроено плохо или отсутствует, любопытный пользователь получает то, что должно быть скрыто — от служебных файлов до логики самого продукта.

Проверьте, какие данные и файлы доступны вашим ИИ-агентам и может ли сотрудник получить чужую информацию через обычный запрос в чате. Разграничение прав по должностям — в 1Cifer каждый агент видит только то, что положено его роли в структуре компании, а не весь массив данных сразу.