Алгоритмическое управление концертными работниками привело к неприятностям в Италии, принадлежащей Glovo компании по доставке товаров по запросу Foodinho, где орган по защите данных страны вчера оштрафовал на 2,6 миллиона евро (~ 3 миллиона долларов) после того, как расследование обнаружило обширный список проблем.
Доставочной компании было приказано внести ряд изменений в то, как она работает на рынке, с приказом Garante, дающим ей два месяца на исправление наиболее серьезных обнаруженных нарушений и еще один месяц (то есть всего три месяца), чтобы изменить порядок ее работы. функция алгоритмов — для обеспечения соблюдения законодательства о конфиденциальности, устава работников Италии и недавнего законодательства, защищающего работников платформы.
Одной из проблем, вызывающих озабоченность у службы наблюдения за данными, является риск дискриминации, связанный с системой оценки гонщиков, управляемой Foodinho, на платформе которой в Италии на момент расследования Garante работало около 19 000 гонщиков.
Вероятно, уместным здесь является длительный судебный процесс, возбужденный райдерами, выступающими для другого бренда доставки еды в Италии, Foodora, кульминацией которого стало постановление Верховного суда страны в прошлом году, согласно которому райдеры должны рассматриваться как имеющие права трудящихся, независимо от того, являются ли они работают по найму или работают не по найму, что подтверждает аргументы в пользу проблем с приложениями доставки, которые применяют алгоритмы для непрозрачного микроуправления трудом сотрудников платформы.
В судебном запрете против Foodinho итальянское агентство DPA заявляет, что оно обнаружило многочисленные нарушения законодательства о конфиденциальности, а также риск дискриминации в отношении концертных работников на основании того, как работают алгоритмы бронирования и назначения Foodinho, а также отметило озабоченность по поводу того, как система использует рейтинги и репутацию. механизмы как дополнительные рычаги регулирования труда.
Статья 22 Общего регламента ЕС по защите данных (GDPR) обеспечивает защиту физических лиц от того, чтобы они подвергались исключительно автоматизированному принятию решений, включая профилирование, когда такие решения имеют юридические или аналогичные существенные последствия (и доступ к оплачиваемой работе будет соответствовать этому критерию) — предоставление им права получать информацию по конкретному решению и возражать против него и / или требовать проверки человеком.
Но, по оценке Garante, похоже, что Foodinho не предоставляла гонщикам такие права.
В пресс-релизе о судебном запрете (который мы перевели с итальянского с помощью Google Translate) наблюдатель пишет:
«Управление обнаружило ряд серьезных нарушений, в частности, в отношении алгоритмов, используемых для управления рабочими. Компания, например, не проинформировала рабочих должным образом о функционировании системы и не гарантировала точность и правильность результатов алгоритмических систем, используемых для оценки гонщиков. Он также не гарантирует процедур для защиты права на вмешательство человека, выражение своего мнения и оспаривание решений, принятых с использованием рассматриваемых алгоритмов, включая исключение части гонщиков из возможностей трудоустройства.
«По этой причине Гарант потребовал от компании определить меры по защите прав и свобод гонщиков перед лицом автоматизированных решений, включая профилирование.
Наблюдательный орган также сообщает, что попросил Foodinho проверить «точность и актуальность» данных, которые поступают в систему алгоритмического управления, перечислив широкий спектр учитываемых сигналов (таких как чаты, электронные письма и телефонные звонки между пассажирами и службой поддержки клиентов; данные о геолокации, собираемые каждые 15 секунд и отображаемые на карте приложения; предполагаемое и фактическое время доставки; сведения об управлении текущим и уже выполненным заказом; отзывы клиентов и партнеров; оставшийся уровень заряда батареи устройства и т. д.).
«Это также сделано для того, чтобы минимизировать риск ошибок и искажений, которые могут, например, привести к ограничению доставки, назначенной каждому гонщику, или к исключению самого себя с платформы. Эти риски также возникают из-за рейтинговой системы », — продолжает он, добавляя:« Компании также необходимо будет определить меры, предотвращающие ненадлежащее или дискриминационное использование репутационных механизмов на основе отзывов клиентов и деловых партнеров ».
С Glovo, материнской организацией Foodinho, которая указана в качестве владельца платформы в судебном запрете Garante, связались, чтобы прокомментировать судебный запрет.
Представитель компании сообщил нам, что они обсуждают ответ, поэтому мы обновим этот отчет, если он будет.
Glovo приобрела итальянскую компанию по доставке еды Foodinho в 2016 году, сделав первый шаг к международной экспансии. Бизнес в Барселоне продолжил попытки построить бизнес на Ближнем Востоке и в Латинской Америке, прежде чем вернуться к основной деятельности в Южной и Восточной Европе. (В 2018 году Glovo также приобрела в Италии бренд Foodora, который принадлежал немецкому конкуренту Delivery Hero.)
Garante заявляет, что сотрудничала с испанской службой контроля конфиденциальности, AEDP, которая является ведущим надзорным органом Glovo по защите данных в соответствии с GDPR, в расследовании Foodinho и технологии платформы, предоставленной ей Glovo.
В его пресс-релизе также отмечается, что Glovo является предметом «независимой процедуры», проводимой AEPD, и, по ее словам, оно также помогает.
Испанский наблюдатель подтвердил TechCrunch, что совместная работа AEPD и Garante привела к принятию решения против принадлежащей Glovo компании Foodinho.
AEPD также заявил, что предпринял собственные процедуры против Glovo, указав на санкции 2019 года, связанные с тем, что последний не назначил сотрудника по защите данных, как того требует GDPR. Позже надзорный орган оштрафовал Glovo на 25 000 евро за нарушение требований.
Однако непонятно, почему AEDP, по-видимому, не глубоко проанализировал соблюдение Glovo статьи 22 GDPR. (Мы просили его подробнее рассказать об этом и обновим, если получим ответ.)
Он действительно указал нам на недавно опубликованное руководство по защите данных и трудовым отношениям, над которым он работал с Министерством труда Испании, работодателями и профсоюзными организациями, и которое, по его словам, включает информацию о праве производственного совета на получение информации от платформенная компания параметров, на которых основаны алгоритмы или системы искусственного интеллекта, включая «разработку профилей, которые могут повлиять на условия, доступ и сохранение занятости».
Ранее в этом году правительство Испании согласовало трудовую реформу, чтобы расширить защиту, доступную для работников платформы, путем признания курьеров платформы в качестве сотрудников.
Поправки к Закону о статусе рабочих в Испании были одобрены Королевским указом в мае, но, по словам El Pais, их применение начнется не раньше середины следующего месяца.
Примечательно, что реформа также содержит положение, которое требует, чтобы законные представители работников были проинформированы о критериях, определяющих любые алгоритмы или системы искусственного интеллекта, которые используются для управления ими и которые могут повлиять на их условия труда — например, те, которые влияют на доступ к занятости или рейтинговые системы. которые следят за производительностью или профильными работниками. И это дополнительное входящее положение о прозрачности алгоритмов, очевидно, было учтено в руководстве AEPD.
Так что, возможно, сторожевой пес дает затронутым платформам, таким как Glovo, отсрочку на несколько месяцев, чтобы позволить им привести свои системы в соответствие с новыми правилами.
Испанское трудовое законодательство, конечно же, остается отличным от итальянского, поэтому будут продолжаться различия в применении, связанные с элементами, которые касаются приложений доставки, независимо от того, что выглядит аналогичной траекторией в вопросе расширения прав работников платформы.
Еще в январе, например, итальянский суд установил, что алгоритм ранжирования репутации, который использовался другим приложением доставки по требованию, Deliveroo, дискриминировал пассажиров, поскольку не смог различить защищенные законом причины для удержания рабочей силы (например, , потому что всадник был болен; или использовал свое защищенное право на забастовку) и другие причины, по которым они не работали так продуктивно, как они указывали.
В этом случае Deliveroo заявила, что в приговоре упоминалась историческая система бронирования, которая, по ее словам, больше не использовалась в Италии или на других рынках.
Совсем недавно трибунал в Болонье принял решение о заключении коллективного договора, подписанного AssoDelivery, торговой ассоциацией, которая представляет ряд платформ доставки на рынке (включая Deliveroo и Glovo), и профсоюзом меньшинства с крайне правыми присоединениями, UGL trade союз, чтобы быть незаконным.
Деливеру сообщил нам, что планирует обжаловать это решение.
Соглашение вызвало споры, поскольку оно направлено на неблагоприятное отступление от итальянского закона, защищающего рабочих, а подписавший торговый орган не является достаточно представительным в этом секторе.
Уменьшая масштаб, законодатели ЕС также рассматривают вопрос о правах работников платформы — начиная в феврале консультации о том, как улучшить условия труда для гигантов, с возможностью того, что Брюссель может предложить закон в конце этого года.
Однако платформенные гиганты рассматривают это мероприятие как возможность лоббировать дерегулирование — подталкивая к снижению стандартов занятости для гигантов во всем ЕС. Стратегия выглядит направленной на то, чтобы обойти или, по крайней мере, попытаться ограничить импульс усиленных правил, выходящих на национальный уровень, таких как трудовая реформа в Испании.