До выборов в США осталось всего несколько дней, и Facebook тихо приостановил одну из его самых тревожных функций.
Во время слушаний в Сенате в среду сенатор Эд Марки спросил гендиректора Facebook Марка Цукерберга об сообщениях о том, что его компания давно знает, что ее групповые рекомендации подталкивают людей к более экстремальному контенту. Цукерберг ответил, что компания фактически отключила эту функцию для определенных групп – факт, о котором Facebook ранее не объявлял.
«Сенатор, в качестве меры предосторожности мы предприняли шаги по прекращению рекомендаций в группах по всем политическим или социальным вопросам», – сказал Цукерберг Марки.
TechCrunch обратился к Facebook с вопросами о том, какие группы будут затронуты и как долго будут приостановлены рекомендации, но не получил немедленного ответа. Facebook впервые подтвердил изменение BuzzFeed News в пятницу.
«Это мера, которую мы внедрили в преддверии дня выборов», – сообщила TechCrunch представитель Facebook Лиз Буржуа. «Мы оценим, когда их поднимать, но они временные».
Предупреждающий шаг отключит рекомендации для групп по политическим и социальным вопросам, а также для любых новых групп, созданных в течение временного окна. Facebook отказался предоставить дополнительную информацию о типах групп, которые будут и не будут затронуты изменением, или о том, что повлияло на это решение.
Исследователи, занимающиеся экстремизмом, давно обеспокоены тем, что алгоритмические рекомендации в социальных сетях подталкивают людей к более экстремальному контенту. Facebook был осведомлен об этом явлении по крайней мере с 2016 года, когда во внутренней презентации по экстремизму в Германии было отмечено, что «64% всех присоединений к экстремистским группам происходят благодаря нашим инструментам рекомендаций».
В случае с Facebook рекомендации могут направить пользователей с крайними взглядами и агрессивными идеями в социальные группы, где они смогут организовывать и распространять опасные идеологии. До того, как социальная сеть запретила агрессивную ультраправую группу Proud Boys, она полагалась на группы в Facebook в своей относительно сложной национальной операции по вербовке. Согласно письменным показаниям ФБР, члены группы, которая планировала похитить губернатора Мичигана Гретхен Уитмер, также использовали группы Facebook для организации.
Хотя кажется, что решение Facebook отключить некоторые групповые рекомендации является временным, компания в последние месяцы сделала беспрецедентный поток решений по ограничению опасного контента, возможно, опасаясь, что выборы 2020 г. снова погрузят его в политическую полемику. Только за последние три месяца Facebook расправился с QAnon, ополченцами и выражениями, использованными в кампании Трампа, которые могли привести к запугиванию избирателей – все это удивительные позиции, учитывая его длительное бездействие и глубокий страх перед решениями, которые могут быть восприняты как пристрастные.
После долгих лет относительного бездействия компания теперь, похоже, серьезно относится к экстремизму, который она долгое время разводила, хотя в ближайшие дни, вероятно, будет проверена ее новая политика защиты.