Создана программа для обмана распознавания лиц, которая меняет фото так, что система считает, будто это — другой человек. При этом тот, кто смотрит невооружённым глазом, не замечает разницы. Новый защитный механизм мог бы обезоруживать системы, которые обучаются на фотографиях из Интернета. Однако, по мнению экспертов, применять его таким способом уже слишком поздно.
Группа учёных из лаборатории Sand Lab Чикагского университета разработала новый инструмент, позволяющий противодействовать работе алгоритмов распознавания лиц. Он изменяет представленную ему фотографию так, чтобы система распознавания воспринимала её как лицо совсем другого человека. При этом невооружённым взглядом заметить эти изменения нельзя, и преобразованная фотография внешне выглядит так же, как и исходная.
Своё ПО разработчики назвали Fawkes в честь Гая Фокса — исторического персонажа из Англии 17-го века. Его маска, фигурирующая в комиксе о нём и в фильме «V — значит вендетта», стала символом протестного движения на Западе.
Назначение нового ПО его создатели видят в том, чтобы противодействовать тем системам распознавания лиц, которые выполняют самообучение с помощью фотографий, собранных из Интернета. Такая система при работе с фотографией, замаскированной с помощью ПО Fawkes, получает неправильное представление о том, как выглядит изображённый на ней человек. Если подобная порча самообучения состоялась, то человек становится защищённым от распознавания его лица данной системой.
В результате на первый план выходит задача: обработать маскировочным ПО как можно больше фотографий, выкладываемых в Интернет. Для этого разработчики выпустили бесплатные версии своего ПО для ОС Mac и Windows. Их уже загрузили в сумме 100 тысяч раз. Однако этого явно недостаточно.
Мечта сотрудников Sand Lab — подорвать бизнес таких компаний, как стартап Clearview AI. Он собрал базу данных из 3 млрд изображений лиц людей, взятых из Интернета. Система, разработанная компанией, прошла обучение и может по этой базе данных распознавать лица людей, попадающие в кадр в системах видеонаблюдения её клиентов.
Если бы алгоритм какого-то разработчика, в том числе Clearview, прошёл обучение по фотографиям, искажённым с помощью ПО Fawkes, то в дальнейшем он не смог бы идентифицировать людей по изображению от камер видеонаблюдения в реальной жизни. Однако, скорее всего, «поезд уже ушёл».
«В Интернете имеются миллиарды немодифицированных фотографий, выложенных на ресурсах с самыми разными доменными именами, — говорят в компании Clearview. — И теперь уже слишком поздно переводить эти массивы данных на такую защитную платформу, как Fawkes».
