Один ИИ-агент может передать другому вредную команду

Как сообщает Ars Technica, протокол MCP, который используют в том числе для связи агентов друг с другом, может оказаться одним из самых рискованных протоколов, о которых мало кто слышал. Пробелы в доверии позволяют вредоносной инструкции распространяться от одного агента к другому. Поводом стала уязвимость в агентах Google и других компаний: она показала структурный изъян самого протокола.

Когда агенты обмениваются сообщениями, каждый вынужден в какой-то мере верить собеседнику, поэтому вредная инструкция может пройти по цепочке дальше. Изъян называют структурным: проблема в устройстве протокола, а не в ошибке одного отдельного продукта.

Составьте карту: какие агенты и инструменты в компании обмениваются данными друг с другом и что каждому из них разрешено — читать данные, проводить платежи, отправлять сообщения. Ущерб проще ограничить, когда доступы привязаны к должностям: в 1Cifer у каждого сотрудника свой агент, и он видит только данные своей роли. Особенно осторожно подключайте сторонних агентов.