Юриста оштрафовали за фейки от ИИ-агента в деле об убийстве

Верховный суд Нью-Мексико оштрафовал адвоката Стивена Аарона на $5000 и привлёк его к ответственности за неуважение к суду. Причина — в апелляции по делу об убийстве его клиента фигурировали вымышленные свидетели и несуществующие показания полиции, которые сгенерировал ИИ. Юрист не проверил ни фактические утверждения, ни правовые ссылки перед тем, как подать документ в суд.

Проблема шире одного дела: генеративные языковые модели умеют убедительно оформлять несуществующие факты, имена и цитаты, и отличить их от реальных без проверки почти невозможно. Юристы по всему миру всё чаще используют чат-боты для черновиков документов, и суды начинают штрафовать за такую небрежность — репутационные и юридические риски растут быстрее, чем экономия времени от такого подхода.

Сверьте, есть ли в вашей компании этап проверки перед тем, как договор, отчёт или письмо, подготовленные с помощью ИИ, уходят клиенту, партнёру или в суд. Разница в подходе: агенты 1Cifer отвечают только на основе реальных данных компании — 1С, CRM, банка, — а не сочиняют факты, поэтому проверка сводится к контролю, а не к поиску выдумки.