ЕС планирует запретить использование технологии распознавания лиц
Европейская комиссия рассматривает временный запрет на использование технологии распознавания лиц в общественных местах на срок до пяти лет.
Согласно 18-страничному проекту, распространенному на прошлой неделе, запрет, который продлится от трех до пяти лет, даст Евросоюзу время для разработки "надежной методологии оценки воздействия этой технологии и определения возможных мер по управлению рисками".
Есть серьезные опасения по поводу этой противоречивой технологии, которая использует камеры наблюдения, компьютерное зрение и прогнозирующую визуализацию для отслеживания больших групп людей.
Правительства нескольких штатов и местных властей США запретили сотрудникам правоохранительных органов использовать базы данных распознавания лиц. Испытания технологии в Европе вызвали негативную реакцию общественности.
"Я был бы за запрет - и не только за временный", - сказал Патрик Брейер, немецкий активист в области цифровых прав и член Европейского парламента. "Технология создает ощущение постоянного вторжения. Она нецелевая, поэтому затрагивает всех".
Брейер утверждает, что в случае широкого применения технологии будут иметь обратный эффект на поведение населения.
Активисты по защите конфиденциальности утверждают, что технология потенциально авторитарна, поскольку позволяет снимать изображения без согласия пользователя.
"С помощью одного-единственного изображения власти могут узнать о вас все. Это кажется ужасающим. Это легализация массовой слежки", - говорит Диего Наранхо, руководитель отдела политики в области европейских цифровых прав, ассоциации гражданских и правозащитных организаций.
Те, кто обеспокоен этой технологией, видят ее кошмарный потенциал в Китае, который с энтузиазмом продвигает технологию распознавания лиц.
Китайское правительство использовало этот инструмент для выявления продемократических протестующих в Гонконге, а также для расового профилирования и контроля над уйгурскими мусульманами.
Сканирование лица в Китае используется для выявления и штрафования пешеходов и жителей Шанхая, которые вскоре должны будут проверять свою личность в аптеках путем сканирования лиц.
"ЕС пытается предотвратить [подобные] злоупотребления, пока не стало слишком поздно", - сказала Вероника Барасси, старший преподаватель кафедры СМИ и коммуникаций Лондонского университета Голдсмитса. "Минусы феноменальны. Пора сделать шаг назад".
Технология путешествует по Европе
Но программное обеспечение для сканирования лица уже медленно внедряется в жизнь в Европе, работая без особого надзора.
"Такие страны, как Франция, Швеция и Великобритания, внедряют эту технологию без какой-либо оценки воздействия", - говорит Наранхо.
Пока что страны ЕС по-разному относятся к этой технологии. "Комиссия хочет снова предстать перед национальными законодательными собраниями, которые все идут своим путем", - говорит Джек Вернон, старший аналитик исследовательской фирмы International Data Corporation.
Вернон приводит случай в Уэльсе, где судьи вынесли решение против покупателя, который подал в суд на использование этой технологии полицией.
"Полиция проводила суд над техником - парень закрыл лицо, его арестовали", - сказал Вернон. Судебный иск этого человека, который в конечном итоге потерпел неудачу, утверждал, что использование инструмента нарушило его право на неприкосновенность частной жизни.
Шведские официальные лица придерживались другой точки зрения в аналогичном случае, когда Управление по защите данных остановило и оштрафовало местный орган власти за испытание технологии на учащихся средней школы для отслеживания посещаемости.
Здесь орган данных сослался на общий регламент ЕС по защите данных (GDPR), который классифицирует изображения лиц и другую биометрическую информацию как особую категорию данных с дополнительными ограничениями на их использование.
Ограниченное развертывание технологии обсуждается во Франции и в Германии, в одной из стран континента, которые больше всего заботятся о конфиденциальности.
"Я был бы удивлен, если бы эти проекты были прекращены. По этой причине я не думаю, что запрет ЕС так вероятен ", - заявил Вернон.
Полицейские силы почти во всех странах ЕС уже используют технологию распознавания лиц или планируют ее внедрить - и ни одна из них не является полностью прозрачной в отношении их использования, говорит Николас Кайзер-Брил, журналист данных из некоммерческой исследовательской и пропагандистской организации Algorithm Watch.
"Две полицейские силы, в Польше и Литве, даже заявили, что возможное использование ими технологии распознавания лиц является секретом", - сказал он.
Кайзер-Бриль сомневается, что мораторий изменит ситуацию. "Потребовалось бы огромное количество желаемого за действительное, чтобы представить, что юридический запрет приведет к тому, что распознавание лиц не будет использовано полицией. Прежде чем думать о запрете, законодатели должны проанализировать текущее использование и обеспечить соблюдение положений GDPR, касающихся права доступа к персональным данным", - сказал он.
Сотрудники полиции утверждали, что распознавание лиц делает общество более безопасным, но Кайзер-Брил оспаривает это утверждение.
"[Около] 100 000 пассажиров ежедневно проходят через парижский аэропорт Шарль де Голль. Программное обеспечение для распознавания лиц с коэффициентом ошибок 0,1% будет ошибочно отмечать 100 из них ежедневно, что было бы хуже, чем бесполезно для сотрудников службы безопасности, потому что им пришлось бы пройти через эти ложные срабатывания в дополнение к их существующей рабочей нагрузке", - утверждает Кайзер.
Ограниченное применение
Другие, однако, ссылаются на преимущества технологии сканирования лица.
"Компьютерное зрение в применении к людям все чаще рассматривается как антиутопия, но оно также рассматривается как часть развивающегося общественного договора между людьми и животными", - сказал Дэвид Хант, президент Cainthus, компании по искусственному интеллекту, базирующейся в Дублине.
Cainthus разрабатывает системы "обнаружения пиксельных паттернов" для отслеживания домашнего скота и анализа его поведения, позволяя фермерам отслеживать здоровье, привычки в еде и питье, а также поведение между коровами в своих стадах.
Хант утверждает, что технология распознавания лиц, которая уже встроена в приложения и смартфоны, может "использоваться как во благо, так и во вред".
"Мы придерживаемся долгосрочной тенденции к тому, что определенные компании могут отслеживать вас в любое время. Google и Apple знают о нас все по телефонам в наших карманах.
"Если ЕС вводит мораторий на распознавание лиц, это не останавливает технологию, это означает, что Европа отстает от этого", - сказал Хант.
Ограничение распространения технологии неизбежно нанесет ущерб европейской конкуренции в области искусственного интеллекта, согласна Элин Шивот, старший политический аналитик Центра инноваций в области данных.
"Это противоречит цели ЕС стать лидером в области ИИ, и это означает, что другие страны, такие как Китай, будут устанавливать правила для ИИ", - заявила она.
Запретить исследования в ЕС?
Однако эксперты выражают опасения, что технология сканирования лица имеет расовый уклон. Если система обучается преимущественно на лицах белых мужчин, но меньшем количестве женщин и цветных людей, она будет менее точной для последних групп.
Меньшая точность означает больше ошибочных определений. Расследование, проведенное британской группой по защите гражданских свобод Big Brother Watch, показало, что автоматизированная система, используемая Столичной полицейской службой в Лондоне, имела 98% ложных срабатываний и что полиция сохранила изображения тысяч невинных граждан для будущих поисков.
Учитывая ошибки, дискриминацию и вторжения в частную жизнь, связанные с системами сканирования лица, Брейер считает, что Комиссия должна прекратить все исследования этих систем.
Депутат Европарламента Германии подал жалобу в Европейский суд первой инстанции по поводу финансируемого ЕС проекта под названием iBorder Ctrl, который получил около 4,5 миллионов евро от исследовательской программы Horizon 2020.
Проект, завершившийся в прошлом году, направлен на выявление обмана иммигрантов с помощью видеозаписей их лиц. Брейер говорит, что нет никаких признаков того, что до начала исследования были приняты строгие этические меры защиты.
"Этот проект неприемлем. Как точно определить, лжет ли кто-то? Есть причина, по которой детекторы лжи не являются допустимым доказательством в суде. ЕС никогда не должен был финансировать это", - сказал он.
Проект, в котором участвовали Манчестерский столичный университет, Университет Лейбница и другие, был направлен на разработку технологии, которая "количественно определяет вероятность обмана в интервью путем анализа невербальных микровыражений интервьюируемых, персонализированных с учетом пола и языка путешественника".
Результаты этих оценок должны были быть переданы сотрудникам пограничного контроля, которые бы решали, разрешать ли въезд мигрантам. Технология была опробована в реальных сценариях эксплуатации в Венгрии, Греции и Латвии.
Комиссия, по словам Брейера, отказала ему в доступе к юридической оценке и этическому отчету по проекту.
"Я хочу знать все об этом исследовании, результатах, с кем они разговаривали", - сказал он. "Комиссия говорит мне, что эта информация нанесет вред коммерческой тайне участников. Но как мы можем узнать, будет ли когда-нибудь эта технология экспортирована в недружественную страну?" - спросил Брейер.
Если это произойдет, временный запрет ЕС на эту технологию, скорее всего, будет включать исключение для исследований, которые, как утверждают многие, крайне необходимы для быстрорастущих технологий.
"У распознавания лиц действительно есть технические проблемы, особенно когда дело доходит до идентификации небелых людей и лиц не мужского пола, и финансирование в этой области будет приветствоваться", - говорит Кайзер-Бриль. "Однако большинство поднятых вопросов носят не технический, а политический и социальный характер. Исследования по их изучению очень актуальны".
Apple Германия Депутаты Европа Правительство Правоохранители Университеты
