Сторонники гражданских прав в Великобритании выиграли судебный иск против использования полицией Южного Уэльса (SWP) технологии распознавания лиц. Победа по апелляции приветствуется как «первая в мире» победа в борьбе против использования «репрессивного инструмента наблюдения», как выражается правозащитная группа «Свобода».
Однако полиция не намерена обжаловать решение – и заявила, что по-прежнему привержена «осторожному» использованию технологии.
Предыстория здесь заключается в том, что SWP испытывает технологию автоматического распознавания лиц (AFR) с 2017 года, развертывая систему, известную как AFR Locate, примерно 50 раз в период с мая 2017 года по апрель 2019 года на различных публичных мероприятиях в Уэльсе.
Силы использовали эту технологию вместе со списками наблюдения, состоящими из 400-800 человек, в том числе лиц, разыскиваемых по ордерам; лица, сбежавшие из-под стражи; лица, подозреваемые в совершении преступлений; лица, которые могут нуждаться в защите; уязвимые люди; лица, представляющие для него интерес в разведывательных целях; и лица, присутствие которых на конкретном мероприятии вызывает особую озабоченность, согласно сводке для прессы, выпущенной апелляционным судом.
Вызов был брошен SWP использованию AFR борцом за гражданские свободы из Кардиффа по имени Эдвард Бриджес при поддержке Liberty , Бриджес находился в непосредственной близости от двух развертываний AFR Locate – сначала 21 декабря 2017 г. в центре Кардиффа, а затем 27 марта 2018 г. на проходящей в городе выставке оборонных закупок, исследований, технологий и экспортных возможностей. сам не включенный в список для наблюдения за полицейскими силами, он утверждает, что, учитывая его близость к камерам, его изображение было записано системой, даже если оно было удалено почти сразу после этого.
Последствия для прав человека безосновательной обработки конфиденциальных личных данных полицией являются ключевой проблемой в данном деле. Еще одним ключевым моментом является вопрос о рисках предвзятости, которые могут проистекать из автоматизации решений об идентификации.
Первоначально компания Bridges подала иск о судебном пересмотре на том основании, что AFR несовместим с правом на уважение частной жизни в соответствии со статьей 8 Европейской конвенции о правах человека, законодательством о защите данных и Обязанностью по обеспечению равенства в государственном секторе (PSED). в соответствии со статьей 149 Закона о равенстве 2010 г.
Участковый суд отклонил его апелляцию по всем основаниям в сентябре прошлого года. Затем он подал апелляцию по пяти основаниям – и выиграл по трем согласно единогласному сегодня решению апелляционного суда.
Суд постановил, что правовая база и политика, используемые SWP, не содержат четких указаний относительно того, где можно использовать AFR Locate и кого можно включить в список наблюдения – полицейские находили слишком широкую свободу усмотрения, чтобы соответствовать стандарту, требуемому статьей 8 (2) Европейской конвенции о правах человека.
Он также установил, что была проведена неадекватная оценка воздействия на защиту данных, учитывая, что SWP написала документ на основании отсутствия нарушения статьи 8, что означает, что силы не соблюдали Закон Великобритании о защите данных 2018 года.
Суд также посчитал, что сила не соответствует требованиям PSED, поскольку не предприняла разумных шагов для выяснения того, содержит ли программа AFR Locate предвзятость по расовому или половому признаку. (Хотя суд отметил, что нет явных доказательств того, что инструмент был настолько предвзятым.)
С тех пор, как Бриджес бросил вызов, лондонская метрополитена пошла дальше и перешла на оперативное использование технологии распознавания лиц, щелкнув выключателем в начале этого года. Хотя в данном случае системой управляет частная компания (NEC).
Во время объявления «Метрополитен» Liberty заклеймила этот шаг «опасным, деспотичным и совершенно неоправданным». В сегодняшнем пресс-релизе говорится, что развертывание метрополитена может быть незаконным по тем же причинам, что и использование технологии SWP, – со ссылкой на проведенный анализ сил. Активисты движения за гражданские свободы, специалисты по этике искусственного интеллекта и эксперты в области конфиденциальности обвиняют Метрополитен в игнорировании выводов независимого отчета, в котором говорится, что не учитывались последствия для прав человека.
Комментируя сегодняшнее решение апелляционного суда в заявлении, адвокат Liberty Меган Гулдинг заявила: «Это решение – большая победа в борьбе с дискриминационным и репрессивным распознаванием лиц. Суд согласился с тем, что этот антиутопический инструмент наблюдения нарушает наши права и угрожает нашим свободам. Распознавание лиц дискриминирует цветных людей, и совершенно правильно, что суд установил, что полиция Южного Уэльса не выполнила свой долг по расследованию и предотвращению дискриминации.
«Правительству пора признать серьезную опасность этой навязчивой технологии. Распознавание лиц – угроза нашей свободе – его нужно запретить ».
В другом подтверждающем заявлении Бриджес добавил: «Я рад, что Суд согласился с тем, что распознавание лиц явно угрожает нашим правам. Эта технология представляет собой навязчивый и дискриминационный инструмент массового наблюдения. Вот уже три года полиция Южного Уэльса использует его против сотен тысяч из нас, без нашего согласия и часто без нашего ведома. Мы все должны иметь возможность использовать наши общественные места, не подвергаясь репрессивному надзору ».
Однако важно отметить, что апелляцию он выиграл не по всем основаниям.
В частности, суд постановил, что предыдущий суд правильно провел взвешивание, чтобы определить, являлось ли использование полицией AFR соразмерным вмешательством в закон о правах человека, когда он рассмотрел «фактические и ожидаемые преимущества» AFR Locate по сравнению с воздействием Развертывание AFR на мостах – и решил, что выгода потенциально велика, в то время как индивидуальное воздействие было незначительным, следовательно, постановил, что использование AFR было соразмерным в соответствии со статьей 8 (2).
Таким образом, суд Великобритании, похоже, не полностью закрыл дверь для использования полицией технологии распознавания лиц.
В самом деле, это свидетельствует о том, что воздействие на права человека может быть уравновешено потенциальной выгодой «большего блага», поэтому решение больше похоже на определение того, как такая навязчивая технология может быть использована на законных основаниях. (Примечательно, что SWP через BBC заявила, что «полностью привержена» «тщательной разработке и развертыванию» AFR.)
В постановлении четко указано, что любое такое развертывание должно быть более жестким, чем приложение SWP, чтобы соответствовать закону о правах человека. Но в нем не говорится, что использование распознавания лиц полицией является незаконным.
Силы также не могут игнорировать требования равенства, используя такую технологию – согласно постановлению, есть обязательство принять меры для оценки того, несет ли автоматическое распознавание лиц риск предвзятости.
Учитывая проблемы предвзятости, которые были выявлены с такими системами, которые могут оказаться большим препятствием для дальнейшего использования полицией этого вида ИИ.