Нейросети проиграли в прятки: специфический камуфляж заставил системы безопасности ошибаться

Дизайнер Саймон Веккерт разработал рубашку с абстрактным принтом, которая снижает вероятность обнаружения человека системами видеонаблюдения с искусственным интеллектом. Работа основана на создании состязательных визуальных образов, которые сбивают алгоритмы компьютерного зрения, но остаются заметными для человеческого глаза. Результат достигнут путем итеративного обучения нейросети, однако эффективность метода зависит от конкретной архитектуры системы распознавания.
В этом материале:

Принцип работы цифрового камуфляжа

Метод создания узора

Границы эффективности и ограничения

Принцип работы цифрового камуфляжа

В основе разработки лежит особенность работы нейросетей: системы компьютерного зрения не понимают сути объекта, а распознают статистические признаки. На начальных этапах анализа алгоритм фиксирует контраст, градиенты и контуры. Затем он ищет характерные элементы человеческой фигуры — пропорции конечностей, силуэты головы и плеч, а также целостность контура тела.
Рубашка Веккерта использует сочетание насыщенных цветов и пересекающихся геометрических узоров для создания визуального шума. Яркие переходы воздействуют на ранние слои нейросети, а накладывающиеся формы разрывают непрерывность контура тела. В результате система не может объединить части изображения в единый узнаваемый силуэт человека.