ИИ-агенты не всегда повторяют свой успех

Исследователи IBM Research выпустили материал о том, что успешное прохождение ИИ-агентом теста — это ещё не гарантия надёжности. Команда представила инструмент ALTK Evolve, который проверяет, повторит ли агент успех, если запустить ту же задачу несколько раз подряд.

Дело в том, что большинство агентов построены на больших языковых моделях, а те по своей природе не детерминированы: один и тот же запрос может привести к разным шагам и разным результатам. Обычные тесты меряют долю успешных попыток один раз, и этого недостаточно — агент может случайно справиться на демонстрации, но регулярно ошибаться в реальной работе. Evolve прогоняет задачу многократно и показывает разработчикам, где стабильность агента проседает ещё до того, как его подключат к рабочим процессам.

Проверьте, как тестируются ИИ-агенты и скрипты, которые уже работают в вашей компании: один успешный прогон на демонстрации не значит, что процесс будет держаться каждый день. Прежде чем доверить агенту закрытие месяца, согласование счёта или ответ клиенту, стоит прогнать сценарий несколько раз и посмотреть на результат. Регламентные процессы и согласования в 1Cifer сохраняют историю каждого запуска, поэтому видно, стабильно ли агент справляется с задачей или это был единичный удачный случай.