Маски-шоу: как спрятаться от системы распознавания лиц

КОМПЬЮТЕР ПРОТИВ ЧЕЛОВЕКА

С 1993 по 2010 год частота ошибок систем распознавания лиц снизилась в 272 раза. Технология получила многочисленные доработки, и применять ее начали практически везде. Одновременно с этим у нее появилось больше противников, которые хотят скрыться от повсеместного контроля: они уверены, что применение биометрического распознавания приведет лишь к усилению государственной репрессивной машины.

Например, с 2017 года в Москве действует система распознавания лиц, а в сентябре 2019 года мэрия объявила, что установит такие системы на всех массовых мероприятиях. Это решение сильно смутило правозащитников, ведь, согласно российскому законодательству, использование «масок и средств маскировки» на митингах запрещено (Федеральный закон от 19.06.2004 № 54-ФЗ (ред. от 11.10.2018)). Очевидно, что все участники несогласованных публичных акций рискуют быть распознанными и в любой момент арестованными. Другая ситуация сложилась в странах Запада и Азии: во время протестов, проходивших в Гонконге с июня 2019 года, митингующие защищались от камер видеонаблюдения с помощью зонтов, балаклав, шарфов, особых масок и ослепляющих лазеров, а массовое использование маскировки стало отличительной чертой протестного движения Black Lives Matter в Америке.

В такой экипировке камера вас точно не узнает. Фото: Laurel Chor / Getty Images, nzz.ch

Так защищались от камер видеонаблюдения протестующие в Гонконге. Фото: Vernon Yuen, NurPhoto vanityfair.com 

КТО ЖЕ ПРЯЧЕТСЯ В ТЕНИ?

Участники митингов и протестов – одни из главных противников системы распознавания лиц. Их мотивы довольно очевидны: не хочется быть «рассекреченными» и столкнуться с силовыми структурами. От них же прячется и вторая группа людей, скрывающих свои лица, – преступники и подозреваемые. В общем-то, против них, в первую очередь, и направлены биометрические системы распознавания. Камеры ищут государственных преступников, людей в розыске и даже террористов, чьи действия и повлекли такое усиление мер безопасности по всему миру.

Фото: AP Photo / Kin Cheun washingtontimes.com 

Но среди «прячущихся в тени» встречаются и обыкновенные энтузиасты, которые просто хотят испытать системы распознавания на прочность и выявить их уязвимости, а значит, способствовать их улучшению.

Массовое наблюдение настораживает не только «борцов с системой», но специалистов уровня повыше – международные или правозащитные организации часто высказываются против подобных методов. Исследователь из Фонда Карнеги Стивен Фельдштейн (Steven Feldstein) в прошлом году писал, что распространение биометрических систем распознавания лиц связано с усилением не всегда оправданного тотального государственного контроля: «Некоторые автократические правительства применяют технологии искусственного интеллекта в целях массового наблюдения. Другие правительства с мрачным послужным списком в области прав человека используют наблюдение ИИ для усиления репрессий. Тем не менее, все [представители различных] политических контекстов рискуют с помощью технологий наблюдения ИИ достигать свои политические цели».

НАПЕЧАТАЙ СЕБЕ НОВОЕ ЛИЦО

С внедрением систем распознавания изменился и основной подход к маскировке: на этот раз противником стал компьютер, а не человек в форме. Современные системы способны узнать человека даже по таким мелким деталям, как надбровные дуги или носогубная складка. Так что активистам приходится идти на довольно причудливые меры, чтобы скрыть себя от камеры.

Самый простой способ спрятаться – маски, заставляющие систему принять вас за другого человека, возможно, даже не существующего в нашей реальности. Европейский художник Леонардо Сельваджио (Leonardo Selvaggio) разработал фотореалистичную 3D-маску, которая распознавалась алгоритмами Facebook как его настоящее лицо. Идея пришла к Сельваджио, когда он жил в Чикаго, – там развернута одна из самых масштабных систем видеонаблюдения в мире, которая включает в себя более 30 тыс. камер. Сейчас маска с лицом художника продается на его официальном сайте всего за $300, а ее PDF-макет распространяется бесплатно.

Маска Леонардо Сельваджио. leoselvaggio.com 

Фишка в том, что такую маску можно сделать с чьим угодно лицом, и большинство систем этого не поймет. Причем маска Сельваджио оказалась эффективна не только в борьбе с компьютерным зрением, но и с живыми людьми. В 2018 году спецкор The Village Иван Сурвилло целую неделю носил 3D-маску с лицом художника в Москве. За это время на него обратили внимание лишь несколько прохожих, а полицейские, сотрудники Сбербанка и других организаций не проявили никакого интереса к личности с накладным лицом.

Кажется, что-то не так... Фото: Jeroen Mooijman leoselvaggio.com

КАБЛУЧКИ, МАКИЯЖ

Возможно, в будущем мода будет формироваться с оглядкой на биометрические системы распознавания лиц. Уже сегодня некоторые дизайнеры делают грим, способный не только впечатлить окружающих, но и сбить компьютер с толку. Например, образ из прически и макияжа от Адама Харви (Adam Harvey), который испытал его на биометрической системе VeriLook, – она не могла определить личность испытуемых из-за искажения черт лица и укладки волос.

Эти лица нельзя распознать с помощью алгоритма каскадного обнаружения лиц. cvdazzle.com

Еще в 2017 году специалист по технологиям «Яндекса» Григорий Бакунов разработал футуристичный макияж, который «хакнул» системы распознавания. После серии успешных тестов (системы не могли даже найти контур лица) Бакунов закрыл проект из соображений совести – по его словам, он опасался, что метод могут использовать злоумышленники.

Фото: Grigory Bakunov, scmp.com 

В 2019 году одну из главных уязвимостей современных систем распознавания отметил Кристоф Буш (Christoph Busch) из Норвежского университета естественных и технических наук. Ученый заметил, что компьютерные алгоритмы ориентированы на работу со стандартными лицами с симметричными глазами, носом и ртом, а при наличии искажений в структуре лица технология не может обработать изображение корректно. Так что, имея какой-либо внешний «дефект», человек одержит победу над системой – если закрыть или сделать асимметричными основные черты лица, то можно обмануть технологию.

Защитный макияж от активистов The Dazzle Club, futurefest.org 

Но все подобные макияжи и прически эффективны только с камерами, работающими при видимом свете. Распространенные же сегодня в некоторых устройствах инфракрасные системы анализируют изображение в недоступном человеческому глазу диапазоне, благодаря чему они легко игнорируют все прически и макияжи. Инфракрасные сканеры, например, используются и в технологии FaceID от Apple. В камеру смартфона встроен проектор – он накладывает на лицо человека 30 тыс. невидимых инфракрасных точек, из которых потом система построит трехмерную карту лица. Поэтому при настройке FaceID нужно медленно поворачивать голову, охватывая все ее детали. При каждой последующей разблокировке телефона система сравнивает лицо человека с полученной 3D-картой, определяя степень их схожести без оглядки на макияж и прическу, что сводит любые попытки ее обмануть на нет.

НАДЕНЬТЕ ЭТО НЕМЕДЛЕННО

В марте 2018 года исследователи из Фуданьского университета, Китайского университета Гонконга и Университета Индианы в сотрудничестве с Alibaba представили новую разработку – инфракрасные светодиоды, которые крепятся к кепке и засвечивают лицо. Принцип работы довольно прост: светодиоды, закрепленные на головном уборе, обманывали инфракрасные датчики камер, заставляя их считывать показания от светового наложения, а не от лица человека.

Светодиоды на кепке от фирмы Alibaba, arxiv.org 

Ранее, в декабре 2012 года, очки Privacy Visor, работающие на основе аналогичной схемы, представили исследователи из Токио. Обе разработки объединил общий недостаток – они легко обманывали алгоритмы инфракрасных камер, но оставались бессильны перед системами, работающими с видимым диапазоном света.

Попытки запутать биометрические системы перешли и в шитье одежды – решения модельеров отличаются как редкостным разнообразием, так и внешним безумием. Например, дизайнеры из Project Kovr в 2016 году разработали линейку плащей с капюшонами из «металлосодержащей» ткани, которые полностью застегиваются и закрывают все лицо. Системы распознавания лиц не то чтобы не смогут определить личность человека, а даже увидеть его.

Плащ от Project Kovr, www.marchaschagen.com 

Чуть менее радикальное решение в 2017 году представил уже упомянутый художник Адам Харви. Его проект HyperFace – это маскировочная ткань для шарфов или платков. В своей работе Харви имитировал паттерны света и тени так, чтобы те выглядели на ткани как набор лиц – камера не понимала, где именно лицо человека. По такому же методу создана футболка от дизайнера Симоны Никиль (Simone Niquille) – на ней вышиты принты с лицами знаменитостей вроде Майкла Джексона. Когда ее тестировали на алгоритмах Facebook, соцсеть посчитала, что человек в футболке стоит среди десятков Майклов Джексонов и Бараков Обама.

Проект HyperFace делает маскировочную ткань для шарфов и платков. obfuscationworkshop.org 

А ЕСТЬ ЛИ СМЫСЛ?

Как и выдумки энтузиастов, алгоритмы распознавания лиц тоже не стоят на месте, что довольно быстро превращает большинство попыток спрятаться в «технологии-однодневки». Самым перспективным сегодня выглядит метод Леонардо Сельваджио – фотореалистичные 3D-маски для обхода систем распознавания лиц. Хотя и у него есть недостатки: «Обман при помощи фотографий, масок и предварительно записанных видео распознают специальные liveness-технологии – они определяют, живой ли человек перед камерой. Система просит человека улыбнуться, моргнуть или поднести камеру или смартфон ближе к лицу – комбинации проверки системы случайны, поэтому злоумышленник не сумеет предварительно записать тысячи видеороликов с нужными комбинациями действий», – рассказал в комментарии «Известиям» Олег Гринчук, ведущий исследователь компании VisionLabs.