Немецкий сторожевой таймер заказал Google прекратить ручные проверки аудио фрагментов, сгенерированных его голосовым ИИ.
Это следует за утечкой прошлый месяц из множества аудио фрагментов из сервиса Google Assistant. Подрядчик, работающий в качестве рецензента на голландском языке, передал более 1000 записей бельгийскому новостному сайту VRT который тогда смог идентифицировать некоторых людей в клипах. Он сообщил, что может слышать обращения людей, обсуждать состояние здоровья и записи женщины, терпящей бедствие.
Орган по защите данных Гамбурга использовал полномочия Статьи 66 Общего регламента защиты данных (GDPR), чтобы сделать заказ, который позволяет DPA отдать распоряжение о прекращении обработки данных, если он считает, что «необходимо срочно действовать для защиты прав и свобод субъектов данных».
Поручение Google в соответствии со статьей 66, по-видимому, является первым использованием силы с момента вступления в силу GDPR через блок в мае прошлого года.
Google сообщает, что получил заказ 26 июля, что требует от него вручную прекратить просмотр аудиофрагментов в Германии в течение трех месяцев. Хотя компания уже приняла решение вручную приостановить аудиообзоры Google Assistant по всей Европе – это произошло 10 июля, после того, как стало известно об утечке данных.
В прошлом месяце она также проинформировала своего главного регулятора конфиденциальности в Европе, Ирландскую комиссию по защите данных (DPC), о нарушении, которое также сообщило нам, что в настоящее время «изучает» проблему, которая была подчеркнута по приказу Гамбурга.
Глава отдела коммуникаций Ирландского ЦОД Грэм Дойл сказал, что «Google Ireland» подала уведомление о нарушении статьи 33 для данных Google Assistant «пару недель назад», добавив: «Мы отмечаем, что с 10 июля Google Ireland прекратила обработку, о которой идет речь, и что они взяли на себя обязательство продолжать приостановку обработки на период не менее трех месяцев, начиная с сегодняшнего дня (1 августа). Тем временем мы сейчас изучаем этот вопрос ».
Неясно, сможет ли Google восстановить ручные проверки в Европе так, чтобы это соответствовало правилам конфиденциальности блока. Гамбург DPA пишет в заявление (на немецком языке) на своем веб-сайте, что у него есть «значительные сомнения» относительно того, соответствует ли Google Assistant закону ЕС о защите данных.
«Мы связываемся с Гамбургским органом по защите данных и оцениваем, как мы проводим аудиообзоры и помогаем нашим пользователям понять, как используются данные», – сказал нам представитель Google.
В Сообщение блога Дэвид Монси (David Monsees), опубликованный в прошлом месяце после утечки, заявил, что ручные проверки запросов Google Assistant являются «критической частью процесса создания речевых технологий», что делает их «необходимыми» для создания таких продуктов.
«Эти обзоры помогают сделать системы распознавания голоса более инклюзивными с различными акцентами и диалектами на разных языках. Мы не связываем аудиоклипы с учетными записями пользователей во время процесса рецензирования и проводим рецензирование только для примерно 0,2% всех клипов », – добавил представитель Google.
Но далеко не ясно, сможет ли человеческая проверка аудиозаписей, сделанных с помощью любого из множества постоянно действующих продуктов и услуг голосового ИИ, имеющихся на рынке, быть совместимой с основными европейскими правами на неприкосновенность частной жизни.
У этих ИИ обычно есть триггерные слова для активации функции записи, которая передает аудиоданные в облако, но технология может быть легко запущена случайно – и утечки показали, что они могут собирать конфиденциальные и интимные личные данные любого, кто находится поблизости (что может включают в себя людей, которые никогда не находились в пределах досягаемости от любых T & C).
В своем Веб-сайт Гамбургское DPA говорит, что приказ против Google предназначен для защиты прав на неприкосновенность частной жизни затронутых пользователей в ближайшее время, отмечая, что GDPR позволяет заинтересованным органам в государствах-членах ЕС издавать приказы сроком до трех месяцев.
В заявлении Йоханнес Каспар, комиссар по защите данных в Гамбурге, добавил: «Использование систем языковой помощи в ЕС должно соответствовать требованиям защиты данных, предъявляемым ГСВР. В случае с Google Assistant в настоящее время существуют серьезные сомнения. Использование систем языковой помощи должно осуществляться прозрачным образом, чтобы было возможно информированное согласие пользователей. В частности, это включает предоставление достаточной информации и прозрачное информирование заинтересованных лиц об обработке голосовых команд, а также о частоте и рисках неправильной активации. Наконец, должное внимание должно быть уделено необходимости защиты третьих сторон, затронутых записями. Прежде всего, необходимо прояснить дальнейшие вопросы о функционировании системы анализа речи. В этом случае органы по защите данных должны будут принять решение о конкретных мерах, которые необходимы для выполнения операций с соблюдением конфиденциальности. »
DPA также настоятельно призывает другие региональные наблюдатели за соблюдением конфиденциальности уделять приоритетное внимание проверке других поставщиков систем языковой помощи – и «внедрять соответствующие меры» – проверяющим имена поставщикам голосовых ИИ, таким как яблоко а также Амазонка ,
Это говорит о том, что для других технологических гигантов, управляющих голосовым ИИ в Европе, могут быть более широкие последствия, вытекающие из этого единого приказа по статье 66.
Как мы уже говорили ранее, реальное правоприменительное воздействие, обеспечиваемое GDPR, – это не штрафы за захват заголовков, которые могут достигать 4% от глобального годового оборота компании, а сила, которую европейские DPA теперь имеют в своем регулятивном инструментарии для Порядок, что данные перестают течь.
«Это только начало», – сказал нам один эксперт по европейскому законодательству о защите данных на условиях анонимности. «Сундук со статьей 66 открыт, и в нем есть что предложить».
В знак потенциального масштаба надвигающихся проблем с конфиденциальностью для голосовых ИИ Apple также заявила раньше сегодня что она приостановила программу контроля качества для своего голосового ассистента Siri.
Ход, который, по-видимому, не связан с каким-либо регулирующим приказом, следует за Хранителем отчет на прошлой неделе подробно излагаются заявления заявителя о том, что подрядчики, работающие в Apple, «регулярно слышат конфиденциальные данные» о записях Siri, таких как аудио людей, имеющих половые контакты, и идентифицируемые финансовые данные, независимо от процессов, которые Apple использует для анонимизации записей.
Приостановление Apple ручной проверки фрагментов Siri применяется во всем мире.