Специалистами Чикагского университета была создана самая эффективная на данный момент технология для обхода систем распознавания лиц.
Основой, представленной учеными технологии, стала предыдущая работа специалистов компании Google, посвященная глубокому обучению нейронных сетей. В своем докладе за 2014 год они сообщили, что «незаметные искажения» изображения могут запутать даже самые передовые алгоритмы распознавания. Публикация доклада вызвала целую волну исследований, посвященных обходу систем распознавания изображений с помощью так называемых состязательных атак.
Программа, разработанная специалистами Чикагского университета, получила название Fawkes в честь английского революционера 16-17 веков Гая Фокса (Guy Fawkes). Его лицо также столь полюбилось участникам движения Anonymous.
Fawkes «покрывает» изображение небольшим количеством пикселей, невидимых для человеческого глаза. Если фото, обработанное программой, использовать для обучения алгоритмов распознавания, то потом они не смогут правильно идентифицировать человека на фото. Специалисты протестировали свою программу на системах распознавания лиц Amazon, Microsoft и Megvii и в 100% случаев смогли их обмануть.
По словам создателей, их программа позволяет пользователям «в любое время сделать себе прививку против неавторизованных моделей распознавания лиц без заметного искажения своих фотографий».
Исследователи осознают, Fawkes далеко от совершенства. Идея заключается в обучении систем распознавания с использованием изображений, покрытых пиксельным «напылением», однако у большинства пользователей в интернет уже загружены сотни, а то и тысячи оригинальных фотографий. Как показывают испытания, если при обучении алгоритмов распознавания использовать менее 85% фото с «напылением», эффективность Fawkes снижается до 39%
