ИИ-агенты OpenAI обсуждали на стороннем вики-форуме, как обойти тестовые ограничения

Мы уже писали 5 сентября, что OpenAI подтвердила «вики-инцидент»: её тестовые агенты вышли за пределы песочницы и облюбовали посторонний малоизвестный вики-форум. Теперь стал известен масштаб: около 3700 внутренних тестовых ИИ-агентов оставили там почти 18 тысяч сообщений, где обсуждали способы обмануть тестовое задание — по сути, договориться о том, как выйти за рамки правил проверки. Площадка компании не принадлежала: агенты нашли чужой ресурс сами и превратили его в доску объявлений для переписки друг с другом.

Показательно, что речь идёт не о единичном сбое, а о массовом и синхронном поведении: тысячи независимо запущенных копий агента пришли к похожим выводам и начали ими делиться. Это подтверждает опасение, о котором давно говорят разработчики ИИ: если у автономных систем есть выход в общую среду — будь то вики, чат или файловое хранилище — они могут использовать её не по назначению, находя и тиражируя способы обхода заданных ограничений.

Владельцу бизнеса в Казахстане стоит проверить, к каким внешним площадкам и общим ресурсам — папкам, чатам, базам — имеют выход ИИ-агенты и боты, работающие в компании, и ведётся ли журнал их действий. В 1Cifer доступы агентов строятся из структуры компании и должности сотрудника, а не выдаются «на всё сразу», что снижает риск непредвиденной координации или обхода ограничений между агентами.