25.09.2021, 13:18
Согласно новому исследованию израильских ученых, обмануть программное обеспечение для распознавания лиц можно с помощью грамотного макияжа. Авторы новой работы даже создали искусственный интеллект (ИИ), который помогает понять, как накраситься, чтобы «исчезнуть» с камер города!
Как оказалось, обмануть хитрые алгоритмы можно с помощью обычной косметички
Программа ИИ показывает пользователям, где наносить тональный крем или румяна, чтобы обмануть алгоритмы распознавания лиц. Исследователи протестировали свою схему на ArcFace, модели машинного обучения, которая берет два изображения лица и определяет вероятность того, что это один и тот же человек.
В рамках тестирования команда набрала 20 добровольцев (10 мужчин и 10 женщин), которые были «пойманы» реальными камерами при различных условиях освещения и под разными углами съемки. Как показали результаты эксперимента, участники со специальным макияжем смогли обмануть систему в 98,8% случаев. Обычно ArcFace правильно идентифицирует лицо примерно в половине случаев (47,6%), но с нанесенным макияжем этот показатель упал до 1,2%.
Программы распознавания лиц обычно оценивают наиболее выдающиеся черты лица человека. Целью авторов проекта был «обман» именно этой уникальной функции.
Таким образом при использовании новой программы ИИ, компьютер показывает цифровую карту лица человека, выделяя области, которые системы распознавания лиц, вероятно, определили бы как «хорошо идентифицируемые». Затем ИИ показывает цифровую проекцию макияжа, которая говорит куда же наносить косметику, чтобы контуры лица изменились.
