Ведущий регулятор данных Amazon в ЕС задает вопросы о конфиденциальности Alexa

by Techcrunch

Национальная комиссия по защите данных Amazon, ведущий регулятор данных Amazon в Европе, выразила обеспокоенность по поводу конфиденциальности при использовании ручных проверок записей голосового ассистента Alexa AI.

Представитель регулятора подтвердил в электронном письме , что обсуждает этот вопрос с Amazon, добавив: «На данном этапе мы не можем больше комментировать этот случай, так как на нас лежит обязательство соблюдать профессиональную тайну». Об этом сообщалось ранее. от Reuters,

Мы обратились к Amazon за комментарием.

Amazon голосовой AI от Amazon, который встроен в широкий спектр аппаратных средств — от собственного бренда компании эхо Интеллектуальная линия динамиков для ассортимента сторонних устройств (таких как этот разговорчивый холодильник или это настольный светильник) — постоянно слушает триггерное слово, которое активирует функцию записи, позволяя ему передавать аудиоданные в облако для обработки и хранения.

Однако было показано, что голосовые AI, активированные по триггерному слову, склонны к случайной активации. Хотя устройство может использоваться в семье из нескольких человек. Таким образом, всегда существует риск записи этих устройств любой аудио в их окрестностях, а не только намеренные голосовые запросы …

Короче говоря, неспособность ИИ различать преднамеренные взаимодействия и вещи, которые они слышат, означает, что они изначально склонны к подслушиванию — отсюда и основные проблемы конфиденциальности.

Эти опасения были вызваны недавними открытиями о том, что технологические гиганты, включая Amazon, яблоко а также Google — использовать людей-работников для ручной проверки части аудио-фрагментов, захваченных их голосовыми ИИ, как правило, в целях качества. Например, попытаться улучшить производительность распознавания голоса в разных акцентах или средах. Но это означает, что реальные люди слушают то, что может быть очень конфиденциальной личной информацией.

Ранее, на этой неделе Amazon незаметно добавила в настройки приложения для смартфона Alexa опцию, позволяющую пользователям отказаться от добавления своих аудио фрагментов в пул, который может быть вручную просмотрен людьми, выполняющими работу по контролю качества для Amazon, — ранее не сообщая пользователям Alexa о своем программа обзора человека.

Изменение политики последовало за ростом внимания к конфиденциальности пользователей голосового ИИ, особенно в Европе.

В прошлом месяце тысячи записей пользователей помощника по искусственному интеллекту Google были переданы бельгийским СМИ, которые смогли идентифицировать некоторых людей в клипах.

В дальнейшем защита данных в Германии приказал Google остановить ручные обзоры аудио фрагментов,

В ответ Google приостановил обзоры людей по всей Европе. Ирландский DPC, ведущий наблюдатель за данными в Европе, сообщил нам, что «изучает» эту проблему.

Отдельно в последние дниApple также приостановила проверки человеком фрагментов Siri — в данном случае это делается глобально — после того, как подрядчик выразил озабоченность по поводу конфиденциальности в британской прессе из-за того, что подрядчики Apple имеют в виду при рассмотрении Siri аудио.

Гамбургское агентство по защите данных, которое вмешалось, чтобы остановить человеческие проверки фрагментов Google Assistant, призвало своих коллег-наблюдателей ЕС по обеспечению конфиденциальности установить приоритеты проверок других поставщиков систем языковой помощи — и «принять соответствующие меры» — назвав яблоко а также Амазонка,

В случае с Amazon контроль со стороны европейских сторожевых псов выглядит быстрым набором номера.

На момент написания статьи это единственный из трех технических гигантов, который не приостановил обзоры человеческих фрагментов голосового ИИ ни на региональном, ни на глобальном уровне.

В заявлении, представленном для прессы в то время, когда он изменил настройки Alexa, чтобы предложить пользователям возможность отказаться от возможности просмотра их аудио вручную, Amazon сказал:

Мы серьезно относимся к конфиденциальности клиентов и постоянно пересматриваем наши методы и процедуры. Для Alexa мы уже предлагаем клиентам возможность отказаться от использования своих голосовых записей, чтобы помочь в разработке новых функций Alexa. Голосовые записи от клиентов, которые используют этот отказ, также исключены из наших контролируемых рабочих процессов обучения, которые включают ручную проверку чрезвычайно малой выборки запросов Alexa. Мы также будем обновлять информацию, которую мы предоставляем клиентам, чтобы сделать нашу практику более понятной.