Среди вопросов об использовании TikTok биометрии на сегодняшних слушаниях в Конгрессе генеральный директор TikTok Шоу Зи Чу (Shou Zi Chew) дал некоторое представление о том, как компания проверяет потенциально несовершеннолетних пользователей на своей платформе. После отказа приложению собирать данные о теле, лице или голосе для идентификации своих пользователей — помимо того, что необходимо для работы его фильтров дополненной реальности в приложении, то есть — руководителя спросили, как TikTok определяет возраст своих пользователей.
Первоначальный ответ Чу был ожидаемым: приложение использует ограничение по возрасту. Это относится к широко используемому методу, который просто просит пользователя указать дату своего рождения, чтобы определить свой возраст. В TikTok есть три разных опыта для пользователей младше 13 лет, младших подростков и взрослых от 18 лет и старше, и опыт, который получает пользователь, зависит от этого возраста.
Полагаться только на этот метод, конечно, проблематично, потому что дети часто лгут о своем возрасте, подписываясь на приложения и веб-сайты социальных сетей.
Как оказалось, TikTok делает больше, чем просто смотрит на возраст, введенный в текстовое поле.
В ходе слушаний Чу добавил, что TikTok сканирует видео пользователей, чтобы определить их возраст.
«Мы также разработали некоторые инструменты, с помощью которых мы просматриваем их общедоступные профили, чтобы просматривать видео, которые они публикуют, чтобы увидеть,…» — начал Чу, прежде чем его прервал член палаты представителей Бадди Картер (R-GA), который вмешался: « это страшно. Расскажите мне об этом подробнее».
Когда Чу смог продолжить, он объяснил: «Это общедоступно. Поэтому, если вы публикуете видео, вы выбираете это видео для публикации — так вы заставляете людей смотреть ваше видео. Мы смотрим на них, чтобы увидеть, соответствует ли это возрасту, о котором вы говорили», — сказал он.
«Теперь это настоящая проблема для нашей отрасли, потому что конфиденциальность по сравнению с контролем возраста — действительно большая проблема», — сказал Чу.
Интересным дополнительным вопросом к ответу генерального директора был вопрос о том, как TikTok сканирует эти видео, какие конкретные технологии распознавания лиц или другие технологии он использует, и были ли эти технологии собственными силами или он полагался на технологию распознавания лиц. построены третьими лицами. Затем, конечно, сохранялись ли какие-либо данные, которые связывают возраст с пользователем, постоянно, а не использовались, например, для простой загрузки пользователя из потока TikTok LIVE.
К несчастью для нас, Картер не продолжил эту линию расспросов.
Вместо этого он раскритиковал генерального директора за то, что он отклонил проверку возраста как общеотраслевую проблему.
«Мы говорим о смерти детей!», — воскликнул он, имея в виду опасные вызовы, которые такие приложения, как TikTok и другие, допустили до вируса, например, вызов затемнения. (Эта проблема привела к тому, что TikTok удалил около полумиллиона учетных записей в Италии, чтобы заблокировать несовершеннолетних пользователей со своей платформы, фактически по запросу местного регулирующего органа.)
Реальность такова, что проверка возраста является озабоченность всей отрасли и отсутствие законов США в отношении использования детьми социальных сетей вынуждают такие компании, как TikTok и другие, разрабатывать свои собственные процессы.
Например, Instagram только в прошлом году начал проверять возраст пользователей, предлагая пользователям на выбор три варианта. Пользователи могли загрузить удостоверение личности, записать видео-селфи или попросить общих друзей подтвердить свой возраст от их имени. Последнее относительно легко обойти, если у вас есть хорошие друзья, готовые солгать ради вас.
Ранее в этом месяце Instagram развернул свои инструменты проверки возраста в Канаде и Мексике в дополнение к существующей поддержке в США, Бразилии и Японии. Ранее компания заявляла, что сотрудничает с лондонским стартапом цифровой идентификации Yoti для видео-селфи в рамках процесса проверки возраста.
Instagram также ранее объяснял на высоком уровне, как он определяет, каких пользователей он подозревает как несовершеннолетних.
Помимо расследования помеченных учетных записей, компания утверждает, что разработала технологию искусственного интеллекта, которая используется для определения чьего-либо возраста. В его модели есть понимание того, как люди одной возрастной группы обычно взаимодействуют с контентом. И еще один из способов, которым он может идентифицировать несовершеннолетнего пользователя, который лжет о своем возрасте, — это сканирование комментариев к сообщениям «С днем рождения», где может быть указан возраст пользователя. Кроме того, Instagram заявил, что может попытаться сопоставить возраст пользователя на Facebook с его заявленным возрастом в Instagram, а также использовать «многие другие сигналы», которые он не раскрывает.
Техника TikTok была менее ясной. Компания документирует, как подтвердить ваш возраст, если она определила вас неправильно — например, если вас выгнали из LIVE за то, что вы выглядите слишком молодым. (Прошлой осенью TikTok объявил, что повышает возрастной ценз для использования службы прямой трансляции в приложении TikTok LIVE с 16 до 18 лет).
В прошлом году Bloomberg сообщил, что TikTok встретился с двумя поставщиками программного обеспечения для оценки возраста по лицу в 2021 году. Обе компании предложили программное обеспечение, которое могло бы отличить детей от взрослых, но руководитель TikTok разорвал сделки из-за опасений, что подобное сканирование лица приведет к опасениям, что Китай шпионит за детьми-пользователями, говорится в отчете.
Сегодня в США был генеральный директор TikTok на горячем сиденье, готовый объяснить настоящие методы, которые TikTok использует для определения возраста, и все, что мы получили, это крики, буйство политиков, устраивающих шоу, вместо того, чтобы получить реальные ответы.