TikTok откроет центр в Европе, где сторонним экспертам будет представлена информация о том, как он подходит к модерации контента и рекомендациям, а также о безопасности платформы и конфиденциальности пользователей, о чем было объявлено сегодня.
Европейский центр транспарентности и подотчетности (TAC) следует за открытием центра в США в прошлом году – и аналогичным образом выставляется счет как часть его «приверженности прозрачности».
Вскоре после объявления своего TAC в США, TikTok также создал консультативный совет по контенту на рынке – и продолжил копировать структуру консультативного органа в Европе в марте этого года с другим набором экспертов.
Теперь он полностью повторяет подход США с выделенным европейским TAC.
На сегодняшний день TikTok сообщил, что более 70 экспертов и политиков приняли участие в виртуальном туре по США, где они смогли узнать подробности работы и задать вопросы о методах обеспечения безопасности и защиты.
В последние годы сайт социальных сетей с короткими видеофайлами столкнулся с растущим вниманием к своей политике в отношении содержания и структуре собственности, поскольку его популярность резко возросла.
Опасения в США в основном связаны с риском цензуры и безопасностью пользовательских данных, поскольку платформа принадлежит китайскому технологическому гиганту и регулируется законами об Интернет-данных, определенными Коммунистической партией Китая.
В то время как в Европе законодатели, регулирующие органы и гражданское общество поднимают более широкий спектр проблем, в том числе по вопросам безопасности детей и конфиденциальности данных.
Одним из примечательных событий в этом году стало то, что итальянский регулятор защиты данных предпринял экстренное вмешательство после смерти местной девушки, которая, как сообщается, принимала участие в проблеме контента на платформе. В результате TikTok согласился перепроверить возраст всех пользователей своей платформы в Италии.
TikTok заявил, что европейский TAC начнет работать виртуально из-за продолжающейся пандемии COVID-19. Но план состоит в том, чтобы открыть физический центр в Ирландии, где находится ее региональная штаб-квартира, в 2022 году.
Законодатели ЕС недавно предложили ряд обновлений цифрового законодательства, которые, похоже, призваны усилить ответственность систем искусственного интеллекта, включая механизмы рекомендаций по контенту.
Проект постановления об ИИ, представленный Комиссией на прошлой неделе, также предлагает полный запрет на подсознательное использование технологии ИИ для манипулирования поведением людей таким образом, чтобы это могло нанести вред им или другим. Таким образом, под запрет могут подпадать системы рекомендаций контента, которые, например, подталкивают пользователей к причинению вреда самим себе, предположительно продвигая пропагандистский контент или рискованные вызовы. (Законопроект предлагает штрафы в размере до 6% мирового годового оборота за нарушение запретов.)
Конечно, интересно отметить, что TikTok также указывает, что его европейский TAC предложит подробное представление о своей технологии рекомендаций.
«Центр предоставит возможность экспертам, ученым и политикам воочию увидеть работу, которую команды TikTok вложили в создание положительной и безопасной платформы для сообщества TikTok», – говорится в пресс-релизе компании, добавляя, что приглашенные эксперты также получит представление о том, как он использует технологии, «чтобы обеспечить безопасность сообщества TikTok»; как обученные группы по анализу контента принимают решения о контенте на основе его Принципов сообщества; и «как рецензенты дополняют усилия по модерации с помощью технологий, помогающих выявлять потенциальные нарушения наших политик».
Другой компонент проекта постановления ЕС об искусственном интеллекте устанавливает требование о надзоре со стороны человека за приложениями искусственного интеллекта с высоким уровнем риска. Хотя неясно, будет ли платформа социальных сетей подпадать под это конкретное обязательство, учитывая текущий набор категорий в проекте постановления.
Однако регулирование ИИ – это всего лишь часть нормотворческой деятельности Комиссии, ориентированной на платформу.
В конце прошлого года он также предложил более широкие обновления правил для цифровых услуг в рамках DSA и DMA, которые возлагают на платформы обязательства должной осмотрительности, а также требуют, чтобы более крупные платформы объясняли любые алгоритмические ранжирования и иерархии, которые они генерируют. И TikTok, скорее всего, подпадает под это требование.
Великобритания, которая сейчас находится за пределами блока после Брексита, также работает над своими собственными правилами онлайн-безопасности, которые должны появиться в этом году. Таким образом, в ближайшие годы для таких платформ, как TikTok, в Европе будет действовать несколько режимов регулирования, ориентированных на контент. И открытие алгоритмов для внешних экспертов может быть жестким юридическим требованием, а не мягким пиаром.
Комментируя запуск своего европейского TAC в заявлении, Кормак Кинан, глава отдела доверия и безопасности TikTok, сказал: «Имея более 100 миллионов пользователей по всей Европе, мы осознаем свою ответственность за то, чтобы завоевать доверие нашего сообщества и широкой общественности. Наш Центр прозрачности и подотчетности – это следующий шаг на нашем пути к тому, чтобы помочь людям лучше понять команды, процессы и технологии, которые у нас есть, чтобы сделать TikTok местом для радости, творчества и веселья. Мы знаем, что нам предстоит еще многое сделать, и мы рады активно решать стоящие перед нами задачи. Я с нетерпением жду возможности приветствовать экспертов со всей Европы и услышать их откровенные отзывы о способах дальнейшего улучшения наших систем ».