ИИ-агент управлял магазином и потерял 18 млн тенге

Журналист SFGATE проверил, что будет, если полностью доверить управление магазином искусственному интеллекту — эксперимент поставили в калифорнийском Andon Market в Сан-Франциско. ИИ самостоятельно принимал решения о закупках, ценах и ассортименте без вмешательства человека. По итогам эксперимента магазин зафиксировал убыток, равный 18 миллионам тенге.

Причина потерь не в самой технологии, а в отсутствии проверок и границ ответственности: система принимала решения, не сверяясь с реальным спросом, остатками и данными о продажах. Эксперимент показал, что доверить бизнес искусственному интеллекту целиком — не то же самое, что поручить ему конкретные задачи под контролем человека и с доступом к нужным данным.

Проверьте, какие решения в вашей компании уже принимаются автоматически — закупки, скидки, списания — и кто именно видит их результат до того, как деньги ушли со счёта. Агент по должности в 1Cifer работает по данным всех систем компании в рамках прав, заданных структурой бизнеса, а раннее обнаружение аномалий помогает заметить отклонение раньше, чем оно превратится в убыток.