Новая модель и «упряжь» для контроля расходов: рынок ИИ занялся экономией токенов

Компания Writer, разрабатывающая корпоративные ИИ-инструменты, представила новую модель и обновлённую «упряжь» (harness) — программную обвязку, которая контролирует, сколько токенов агенты тратят на выполнение задач. Сам факт, что сдерживание расходов стало главным анонсом продукта, красноречивее любых цифр: индустрия признала, что счета за ИИ вышли из-под контроля у многих заказчиков.

Причина в природе агентов: в отличие от чата, где расход ограничен диалогом, агент работает циклами — читает, думает, пробует, перечитывает. Неудачно поставленная задача может раскрутить спираль из тысяч запросов, и стоимость одной операции у небрежно настроенного агента отличается от аккуратного в десятки раз. Отсюда спрос на «упряжь»: лимиты на задачу, бюджеты на процесс, автоматическую остановку зацикливаний.

Для бизнеса, внедряющего ИИ, урок стоит усвоить до масштабирования, а не после. Выбирая платформу или подрядчика, спрашивайте не только «что агент умеет», но и «как ограничен его расход»: есть ли бюджеты, лимиты, отчёты по стоимости каждого процесса. Внутри компании назначьте владельца ИИ-бюджета — как есть владелец бюджета на связь и облака. Экономика агентов управляемая, но только у тех, кто ею управляет.