FDA должно регулировать алгоритм Instagram как лекарство

Wall Street Journal во вторник сообщил о самом страшном секрете Кремниевой долины: вредит психическому здоровью подростков; на самом деле его воздействие настолько негативно, что вызывает мысли о самоубийстве.


Тридцать два процента девочек-подростков, которым плохо о своем теле, сообщают, что заставляет их чувствовать себя хуже. Согласно отчету WSJ, среди подростков с суицидальными мыслями 13% британских и 6% американских пользователей отслеживают эти мысли в Instagram. Это внутренние данные Facebook. На самом деле правда еще хуже.

Президент Теодор Рузвельт и Конгресс сформировали Управление по санитарному надзору за качеством пищевых продуктов и медикаментов в 1906 году именно потому, что Big Food и Big Pharma не смогли защитить общее благосостояние. В то время как его руководители проводят парад на Met Gala в честь недостижимых 0,01% образов жизни и тел, которых мы, простые смертные, никогда не достигнем, нежелание делать то, что правильно, является громким призывом к регулированию: FDA должно отстаивать свое кодифицированное право регулировать алгоритм, на котором работает наркотик Instagram.

FDA должно рассматривать алгоритмы как лекарство, влияющее на психическое здоровье нашей страны: Федеральный закон о пищевых продуктах, лекарствах и косметических средствах дает FDA право регулировать лекарства, частично определяя лекарства как «предметы (кроме продуктов питания), предназначенные для воздействия на структуру или любую функцию. тела человека или других животных ». Внутренние данные показывают, что его технология – это статья, которая меняет наш мозг. Если эти усилия не увенчаются успехом, Конгресс и президент Джо должны создать FDA по психическому здоровью.

Исследователи могут изучить приоритеты Facebook и влияние этих решений на наше сознание. Откуда нам это знать? Потому что Facebook уже делает это – они просто хоронят результаты.

Общественность должна понимать, какие приоритеты имеют алгоритмы Facebook и Instagram. Наше правительство имеет все необходимое для изучения клинических испытаний продуктов, которые могут причинить физический вред населению. Исследователи могут изучить, какие привилегии Facebook и какое влияние оказывают эти решения на наше сознание. Откуда нам это знать? Потому что Facebook уже делает это – они просто хоронят результаты.

В ноябре 2020 года, как сообщают Сесилия Канг и Шира Френкель в «Уродливой истине», Facebook внес срочное изменение в свою ленту новостей, сделав больший акцент на показателях «Качество экосистемы новостей» (NEQ). Источники с высоким NEQ были надежными источниками; низкие были ненадежными. Facebook изменил алгоритм, чтобы получить высокие баллы NEQ. В результате за пять дней до выборов пользователи увидели «лучшую новостную ленту» с меньшим количеством фейковых новостей и меньшим количеством теорий заговора. Но Марк Цукерберг отменил это изменение, потому что оно привело к снижению вовлеченности и могло вызвать консервативную реакцию. Общественность за это пострадала.

Facebook также изучил, что происходит, когда алгоритм отдает предпочтение контенту, который «хорош для мира», а не контенту, который «вреден для мира». И вот, вовлеченность уменьшается. Facebook знает, что его алгоритм оказывает огромное влияние на умы американской общественности. Как может правительство позволить одному человеку определять стандарт, исходя из его деловых требований, а не общего благосостояния?

Аптон Синклер незабываемо раскрыл опасные нарушения в «Джунглях», что вызвало общественный резонанс. Свободный рынок рухнул. Потребители нуждались в защите. Закон 1906 года о пищевых продуктах и ​​лекарствах впервые провозгласил стандарты безопасности, регулирующие расходные материалы, влияющие на наше физическое здоровье. Сегодня нам необходимо регулировать алгоритмы, влияющие на наше психическое здоровье. Уровень подростковой депрессии вызывает тревогу с 2007 года. Аналогичным образом, количество самоубийств среди детей от 10 до 24 выросло почти на 60% в период с 2007 по 2018 год.

Конечно, невозможно доказать, что именно социальные сети несут ответственность за это увеличение, но абсурдно утверждать, что они не способствовали этому. Пузырьки фильтров искажают наши взгляды и делают их более экстремальными. Издевательства в Интернете проще и постояннее. Регулирующие органы должны проверять алгоритм и подвергать сомнению выбор Facebook.

Когда дело доходит до самой большой проблемы, которую ставит Facebook – какой продукт делает нам – регуляторы изо всех сил пытались сформулировать проблему. Раздел 230 верен по своему назначению и применению; Интернет не может функционировать, если платформы несут ответственность за каждое высказывание пользователя. А такая частная компания, как Facebook, теряет доверие своего сообщества, если применяет произвольные правила, нацеленные на пользователей на основе их прошлого или политических убеждений. Facebook как компания не имеет явных обязательств поддерживать Первую поправку, но общественное ее справедливости имеет важное значение для бренда.

Таким образом, Цукерберг на протяжении многих лет проявлял двусмысленность, прежде чем с опозданием запретил отрицателей Холокоста, Дональда Трампа, активистов, выступающих против вакцинации, и других злоумышленников. Принимая решение о том, какое выступление является привилегированным или разрешенным на своей платформе, Facebook всегда будет слишком медленным, слишком осторожным и неэффективным. Цукерберга заботит только вовлеченность и рост. Наши сердца и умы находятся на волоске.

Самой пугающей частью «Уродливой правды», отрывка, о котором заговорили все в Кремниевой долине, была одноименная записка: «Уродливый» Эндрю «Боз» Босворта 2016 года.

В записке Босворт, давний заместитель Цукерберга, пишет:

«Так что мы объединяем больше людей. Это может быть плохо, если они сделают это отрицательным. Может быть, подвергая кого-то хулиганам, это стоит кому-то жизни. Может быть, кто-то погибнет в результате теракта, скоординированного с помощью наших инструментов. И все же мы соединяем людей. Уродливая правда заключается в том, что мы настолько глубоко верим в объединение людей, что все, что позволяет нам чаще объединять больше людей, оказывается де-факто хороший.”

Цукерберг и Шерил Сандберг заставили Босворта отказаться от своих заявлений, когда сотрудники возражали, но для посторонних меморандум представляет собой неприкрашенный идентификатор Facebook, уродливую правду. Монополия Facebook, его мертвая хватка над нашей социальной и политической структурой, его рост любой ценой, мантра «связи» де-факто не годится. Как признает Босворт, Facebook вызывает самоубийства и позволяет террористам организовываться. Эта огромная власть, сосредоточенная в руках одной корпорации, управляемой одним человеком, представляет собой угрозу нашей демократии и образу жизни.

Критики регулирования социальных сетей FDA будут утверждать, что это вторжение Большого Брата в наши личные свободы. Но какая альтернатива? Почему нашему правительству было бы плохо требовать, чтобы Facebook открывал публике свои внутренние расчеты? Безопасно ли, чтобы количество сеансов, затраченное время и рост доходов были единственными важными результатами? А как насчет коллективного психического здоровья страны и мира?

Отказ от изучения проблемы не означает, что ее не существует. В отсутствие действий мы остаемся с одним человеком, решающим, что правильно. Какую цену мы платим за «подключение»? Это не до Цукерберга. Решение должно принять FDA.