Де-идентификация лиц от Facebook

Технологические компании потратили немало средств и времени на разработку систем распознавания лиц. Но допустимость их применения вызывала и продолжает вызывать много вопросов. На днях компания Facebook представила инструмент, который меняет ключевые черты лица на видео, чтобы алгоритмы не могли узнать человека.

Фото: istock.com

Сотрудники лаборатории Facebook AI Research (FAIR) разработали технологию, которая вносит в видео невидимые для глаза искажения: при этом поза, освещение и выражение лица человека остаются неизменными, на кадрах не появляется мерцаний или визуальных артефактов (лишние детали, отсутствующие в исходных данных. — Прим. +1). Изменения вводят в заблуждение системы распознавания лиц, помогая пользователям сохранять анонимность. Технология работает как в записи, так и в режиме реального времени, сообщается в отчете FAIR.

«Человек на обработанном видео выглядит так же, как на оригинальном видео, — отмечают исследователи. — Однако современные системы распознавания лиц уже не могут идентифицировать его».

Система не будет интегрирована в продукты Facebook. Но с ее помощью, как считают разработчики, пользователи смогут анонимно оставлять видеосообщения на публичных форумах и совершать другие действия, не опасаясь за сохранность своих персональных данных. Соавтор работы, профессор Тель-Авивского университета Лиор Вольф уверен, что аналогичный подход можно использовать для защиты от автоматического распознавания голоса и любых других биометрических данных.

Создать технологию, по словам ученых, их побудили злоупотребления возможностями искусственного интеллекта (ИИ). Критикуют за это, в частности, и сам Facebook. В 2015 году на компанию подали в суд за то, что ее алгоритмы автоматически отмечали друзей человека на фотографиях. В августе Facebook в очередной раз проиграла апелляцию по этому делу, и, возможно, ей придется выплачивать многомиллионные компенсации. В сентябре социальная сеть отключила функцию автоматической идентификации и теперь отправляет пользователю оповещения, если его лицо появляется на чьих-то фото.

Аэропорт, банк, магазин, казино и футбольный матч — как используются системы распознавания лиц

Распознавание лиц — это способ бесконтактной биометрической идентификации человека по чертам лица. Одно из первых решений для обнаружения людей на фотографиях разработал американский программист Вудро Бледсо еще в середине 1960-х годов. Поначалу технологии создавались в основном для обеспечения безопасности людей, но в 2010 году Facebook впервые применила алгоритмы для идентификации пользователей на фотографиях. Область применения систем распознавания лиц постоянно расширяется. Сейчас технология помогает предотвращать возможные правонарушения и значительно повышает эффективность поиска пропавших людей.

Фото: istock.com

В 2011 году программное обеспечение FaceFirst в пилотном режиме запустили в международном аэропорту Токумен в Панаме, благодаря чему полицейским удалось задержать несколько подозреваемых, которые значились в базе данных Интерпола. Сегодня алгоритмы распознавания лиц, в том числе технологию FindFace (разработчик — компания NtechLab), тестируют в крупных аэропортах России — их основная задача заключается в обеспечении безопасности зданий и находящихся в них людях. В аэропортах США алгоритмы применяют еще и для удобства пассажиров: они распознают их лица и позволяют проходить на борт без предъявления документов и посадочных талонов. С этой же целью системы видеоидентификации внедряют в аэропортах Индии; в тестовом режиме камеры уже работают в аэропорту имени Индиры Ганди в Дели.

Впрочем, в Индии, как и во многих других странах, область применения систем ИИ не ограничивается аэропортами: недавно власти страны сообщили о своем намерении создать единую государственную инфраструктуру для идентификации жителей. Не менее амбициозные цели преследует и Китай. В прошлом году правительство объявило о своих планах по развертыванию масштабной сети видеонаблюдения, алгоритмы которой смогут распознавать каждого из 1,4 млрд китайских граждан. Основными клиентами крупных компаний-разработчиков программного обеспечения (SenseTime, Megvii, Yitu Technology и DeepGlint) являются правительственные структуры. Однако аналогичные системы широко применяются и в банковском секторе — для совершения платежей и предотвращения случаев мошенничества — и, например, для обработки селфи в приложении Meitu. Эксперты считают, что в Китае спросу на интеллектуальные системы видеонаблюдения способствует в том числе пассивное согласие общества на слежку.

В российском «Почта Банке» камеры установлены на рабочих местах сотрудников. Технологии сравнивают фотографии клиентов банка с базой данных мошенников. Банковских работников система тоже идентифицирует — так у них нет возможности проводить незаконные транзакции под чужим паролем. Еще один способ применения систем — выявление предпочтений отдельных групп клиентов. Компания X5 Retail Group (владеет сетями «Пятерочка», «Перекресток», «Карусель») протестировала технологии, которые с помощью ИИ контролировали правильность выкладки и количество товаров на полке, количество людей в очередях, а также распознавали пол, возраст и настроение покупателей. В результате решение помогло на 10% сократить количество посетителей, которые выходят с пустыми руками, и на 20% — потери магазинов.

Необычное применение «умным» камерам нашли в Японии: их планируют устанавливать в игорных заведениях, где они будут выявлять людей, страдающих игровой зависимостью. Вход для таких игроков планируется ограничивать, если их родственники предварительно отправляли в заведения подобный запрос.

Алгоритмы, разработанные технологическими компаниями Intel и NEC, помогут обеспечить безопасность людей во время Олимпиады в Токио в 2020 году. В 2018 году системы распознавания лиц уже использовали во время Чемпионата мира по футболу в России. А недавно мэр Москвы Сергей Собянин заявил, что в столице внедрят общегородскую систему распознавания лиц, для чего уже обновлено 40% из более 160 тыс. видеокамер. Как сообщил представитель ГУ МВД по Москве, за два года тестирования технологии правоохранительным органам удалось задержать несколько десятков человек. Всего на видеонаблюдение московское правительство планирует потратить 7,5 млрд рублей; точность работы алгоритмов лиц колеблется в пределах 95-99%.

Противники новых технологий

Несмотря на то, что системы распознавания лиц обладают рядом неоспоримых преимуществ, многих беспокоит законность использования технологий. Тверской районный суд оштрафовал активистку Алену Попову за одиночный пикет после того, как изучил записи с камер видеонаблюдения с 32-кратным увеличением ее лица. В ответ Попова подала иск в Савеловский суд Москвы. По мнению заявительницы, в ее деле технология распознавания лиц применялась незаконно в нарушение права гражданина на частную жизнь.

«Это не средство борьбы с преступниками, а настоящее давление и преследование. Что крайне вредно, особенно в условиях неработающей судебной системы и тотальной коррупции», — сказала Алена Попова в интервью DW. Она добавила, что граждане должны знать, где и как долго хранятся их биометрические данные, и насколько хорошо они защищены.

Против внедрения подобных технологий также выступают активисты из движения «Роскомсвобода». Они требуют ввести мораторий на системы распознавания лиц до тех пор, «пока не будет обеспечена полная прозрачность и безопасность их использования». Участники движения считают, что обработка биометрических данных граждан без их письменного согласия нарушает 23 и 24 статьи Конституции, которые обеспечивают право гражданина на неприкосновенность частной жизни и право на ознакомление с документами и материалами, непосредственно затрагивающими его права и свободы.

«Следует отметить, что эта проблема сегодня актуальна не только для России, но и для всего мирового сообщества, — отметил юрист „Роскомсвободы“ Саркис Дарбинян. — Поэтому здесь мы выступаем сообща с правозащитниками и юристами ЕС и США, где сейчас также активно обсуждается мораторий на использование этой технологии двойного назначения, которая, без сомнений, несет в себе огромные риски несанкционированной слежки в отношении отдельных лиц».

По мнению юристов, из-за стремительного развития технологий в области распознавания лиц устоявшаяся нормативно-правовая база сформироваться не успела, а существующие законы затрагивают ее лишь частично. Например, в 2018 году в странах Евросоюза вступил в силу Общий регламент по защите персональных данных (General Data Protection Regulation, GDPR), расширивший возможности частных лиц в сфере контроля за сбором, обработкой и распространением их персональных данных. В соответствии с документом, частные организации и госструктуры обязаны объяснять, какие персональные данные и с какой целью они собирают, а также где и как долго будет храниться информация.

О несовершенстве законодательства в области защиты персональных данных говорят и индийские правозащитники — по их мнению, применение систем распознавания лиц в стране недопустимо. Они уверены, что подобные технологии не только не помогут обеспечить безопасность граждан, но и станут средством тотального контроля со стороны правительства. Среди других рисков, связанных с использованием алгоритмов, — возможные утечки информации и злоупотребления. Те, кто имеет доступ к данным, могут продавать их либо использовать для слежки за близкими или знакомыми.

Фото: istock.com

Кроме того, алгоритмы ИИ еще недостаточно совершенны и могут дискриминировать людей по расовому и половому признаку: как правило, их обучают на базах, состоящих из снимков людей — преимущественно мужчин — со стандартной внешностью. Из-за этого системы менее точны в идентификации женщин и представителей различных этносов. На предвзятость алгоритмов ИИ сослался американский технологический гигант Microsoft, отказавшись внедрять функцию распознавания лиц в камеры и автомобили полицейских. По словам президента компании Брэда Смита, применение этой технологии приведет к тому, что правоохранительные органы будут задерживать непропорционально большое количество женщин и людей не с белым цветом кожи.

Но несмотря на опасения экспертов, мировой рынок систем распознавания лиц растет. Аналитики из компании MarketsandMarkets оценивают его стоимость в $3,2 млрд. По прогнозам, к 2024 году доля рынка достигнет $7 млрд, а совокупный среднегодовой темп роста составит 16,6%. Эксперты связывают эти тенденции с повсеместным использованием мобильных устройств, стремлением людей защитить свое имущество и многочисленными правительственными инициативами по обеспечению безопасности граждан.