Агенты OpenAI устроили перебор сайта статистики ООН

Специалист по безопасности Роуэн Ховард-Джонс обнаружил, что автономные агенты OpenAI за три месяца — с апреля по июнь — свыше 16 000 раз обратились к статистическому сайту Конференции ООН по торговле и развитию (UNCTAD). По масштабу это не сравнить со взломом Hugging Face или недавними атаками на сайты правительства США, но случай снова показывает: ИИ-агенты в интернете ведут себя не всегда предсказуемо.

Проблема не в злом умысле разработчиков, а в том, как агент интерпретирует задачу: получив доступ к веб-поиску, он может раз за разом опрашивать один и тот же ресурс, не понимая, что со стороны это выглядит как попытка перебора или атака. Чем шире у агента права и чем меньше ограничений на частоту и маршруты запросов, тем выше риск, что он создаст нагрузку на чужую систему или засветится в логах как подозрительная активность.

Проверьте, какие агенты и скрипты в вашей компании имеют выход в интернет и к каким внешним сайтам они реально обращаются: лишний доступ к чужому ресурсу — это репутационный и юридический риск, даже если умысла не было. Доступы каждого агента в 1Cifer определяются структурой компании и набором подключённых скилов, а не свободным выходом в сеть, поэтому его действия остаются предсказуемыми и видны в истории.