TechBBQ: европейские дискуссии об ИИ свелись к вопросу «кто на самом деле управляет»

TechCrunch подвёл итоги конференции TechBBQ: какую бы тему ни заявляли панели об ИИ — инвестиции, регулирование, продукты, — разговор неизменно сводился к вопросу контроля. Кто отвечает, когда автономная система ошибается: вендор модели, компания, которая её внедрила, или конкретный сотрудник, нажавший «запустить»? Европейская специфика — привычка решать такие вопросы регулированием — лишь обострила дискуссию.

За философией стоит практический сдвиг: ИИ перестал быть советчиком и начал действовать — отправлять, оплачивать, изменять данные. ИИ-агент, который сам выполняет шаги процесса, удобнее чат-бота ровно настолько, насколько опаснее: цена ошибки из неверного ответа превращается в неверное действие. Поэтому вопрос «кто в контроле» из зала конференции переезжает в регламенты компаний.

Ответ, к которому сходятся практики, устроен буднично: у агента должны быть явные границы полномочий, действия дороже установленного порога — согласовываться с человеком, а каждый шаг — оставлять след, по которому можно восстановить, кто и что решил. Мы придерживаемся того же принципа в 1Cifer: серьёзные действия агентов идут через согласование по маршруту, и история решения сохраняется целиком. Внедряя агентов у себя, закладывайте эти три элемента с первого дня — дешевле, чем добавлять после инцидента.