Межпартийная группа из 40 депутатов Европарламента призвала Комиссию усилить поступающее законодательное предложение по искусственному интеллекту, включив в него полный запрет на использование распознавания лиц и других форм биометрического наблюдения в общественных местах.
Они также призвали законодателей ЕС запретить автоматическое признание чувствительных характеристик людей (таких как пол, сексуальность, раса / этническая принадлежность, состояние здоровья и инвалидность), предупредив, что такие методы, основанные на искусственном интеллекте, представляют слишком большой риск для прав и могут подпитывать дискриминацию.
Ожидается, что на следующей неделе Комиссия представит свое предложение о структуре для регулирования приложений ИИ с «высоким риском», но на этой неделе просочилась копия проекта (через Politico). И, как мы сообщали ранее, этот просочившийся проект не включает запрет на использование распознавания лиц или аналогичных технологий биометрической удаленной идентификации в общественных местах, несмотря на признание серьезности общественного беспокойства по этому поводу.
«Биометрическая технология массового наблюдения в общедоступных местах широко критикуется за неправомерное информирование о большом количестве ни в чем не повинных граждан, систематическую дискриминацию недостаточно представленных групп и отрицательное воздействие на свободное и разнообразное общество. Вот почему необходим запрет », – пишут депутаты Европарламента в письме в Комиссию, которое они также обнародовали.
Они продолжают предупреждать о рисках дискриминации путем автоматического определения чувствительных характеристик людей, например, в таких приложениях, как предиктивная работа полиции или неизбирательный мониторинг и отслеживание групп населения с помощью их биометрических характеристик.
«Это может привести к ущербу, включая нарушение прав на неприкосновенность частной жизни и защиту данных; подавление свободы слова; усложнение разоблачения коррупции; и оказывают сдерживающее воздействие на независимость, достоинство и самовыражение каждого человека, что, в частности, может серьезно повредить ЛГБТК-сообществам, цветным людям и другим дискриминируемым группам », – пишут депутаты Европарламента, призывая Комиссию внести поправки в предложение ИИ, чтобы запретить эту практику, чтобы защитить права граждан ЕС и права сообществ, которые столкнулись с повышенным риском дискриминации (и, следовательно, повышенным риском от дискриминационных инструментов, усиленных ИИ).
«Предложение AI предлагает долгожданную возможность запретить автоматическое распознавание пола, сексуальной ориентации, расы / этнической принадлежности, инвалидности и любых других чувствительных и защищенных характеристик», – добавляют они.
Просочившийся в сеть проект предложения Комиссии действительно решает проблему неизбирательного массового наблюдения – предлагая запретить эту практику, а также объявив вне закона системы оценки социальных кредитов общего назначения.
Однако депутаты Европарламента хотят, чтобы законодатели пошли еще дальше – предупредили о слабых местах в формулировке просочившегося проекта и предложили изменения, чтобы гарантировать, что предлагаемый запрет распространяется на «всю нецелевую и неизбирательную массовую слежку, независимо от того, сколько людей подвергается воздействию системы».
Они также выражают тревогу в связи с предложением об исключении из запрета на массовое наблюдение для государственных органов (или коммерческих организаций, работающих на них), предупреждая, что это рискует отклониться от существующего законодательства ЕС и от толкований высшего суда блока в этой области.
«Мы решительно протестуем против предложенного второго параграфа этой статьи 4, который будет освобождать государственные органы и даже частных лиц, действующих от их имени,« в целях обеспечения общественной безопасности »», – пишут они. «Общественная безопасность – это именно то, чем оправдывается массовая слежка, именно здесь она имеет практическое значение, и именно здесь суды последовательно отменяли законодательство о неизбирательной массовой обработке персональных данных (например, Директиву о хранении данных). Это выделение необходимо удалить ».
«Этот второй абзац можно даже истолковать как отклонение от других подзаконных актов, которые Суд до сих пор интерпретировал как запрещающие массовое наблюдение», – продолжают они. «Предлагаемое положение об ИИ должно четко указывать, что его требования применяются в дополнение к требованиям, вытекающим из законодательства о защите данных, и не заменяют его. В просочившемся черновике такой ясности нет ».
В Комиссию связались, чтобы прокомментировать призывы депутатов Европарламента, но вряд ли они сделают это до официального обнародования проекта постановления об ИИ, которое ожидается примерно в середине следующей недели.
Еще неизвестно, претерпит ли предложение AI какие-либо существенные поправки с этого момента. Но депутаты Европарламента сделали быстрый предупредительный выстрел о том, что основные права должны и будут ключевой чертой совместного законодательного обсуждения – и что заявления законодателей о структуре, обеспечивающей “ заслуживающий доверия ” ИИ, не будут выглядеть заслуживающими доверия, если правила не будут взяться за дело неэтичных технологий.