Дизайнер создал рубашку, которая сбивает с толку ИИ-камеры: о чём это напоминает бизнесу

ER10 рассказал о необычном проекте: дизайнер создал рубашку, принт которой «ослепляет» системы компьютерного зрения — алгоритмы перестают корректно распознавать человека в кадре. Это продолжение направления adversarial fashion, где узоры подбираются так, чтобы эксплуатировать слабые места нейросетей: модель видит в ткани миллионы сбивающих признаков и теряет уверенность.

Проект художественный, но он наглядно демонстрирует то, что инженеры знают давно: у любой системы распознавания есть слепые зоны, и их можно вычислить и использовать. Пока ИИ-камеры считают посетителей и следят за качеством на конвейере, цена такого обмана невелика. Но чем больше решений завязано на «камера сама всё увидит» — контроль доступа, фиксация нарушений, безопасность, — тем интереснее злоумышленнику её обмануть.

Вывод для бизнеса не «отказаться от компьютерного зрения», а строить контроль эшелонами: критичные точки должны опираться минимум на два независимых сигнала — камеру и датчик, камеру и учётную запись, камеру и человека. ИИ в системе контроля — сильный слой, но именно слой, а не единственная стена.