Токсичная культура, смертоносные заговоры и организованная ненависть резко выросли в Интернете в последние годы. На TechCrunch Sessions: Justice мы говорили о том, насколько социальные сети несут ответственность за возникновение этих явлений и о том, как создавать здоровые онлайн-сообщества, которые делают общество лучше, а не хуже, с Рашадом Робинсоном из Color of Change, Джесси Леричем из Accountable Tech и Надж Остин из Где-то добро и клуб Этель.
О создании преднамеренных социальных пространств, способствующих развитию позитивного поведения
Когда мы думаем о социальных сетях, мы думаем об огромных платформах, которые сегодня доминируют в этом разговоре. Но это не единственные модели роста цифровых сообществ. Альтернативные социальные сети, разработанные с учетом конкретных сообществ, могут способствовать развитию более здорового и позитивного опыта для людей, которые больше всего нуждаются в этих пространствах.
Остин: Одним из аспектов, который был действительно важен для нас, когда мы только начинали, был размер. Таким образом, одним из факторов хорошего положения является связь людей с меньшими, более интимными сообществами, потому что люди, как правило, лучше ведут себя в небольших сетях. Одна из вещей, которые мы используем на наших встречах по продукту, чтобы как бы основывать множество наших решений, – это имитация ужина в реальной жизни. Кого бы вы пригласили на вечеринку? Как люди взаимодействуют, когда они находятся в таких небольших интимных пространствах, опять же, как правило, в большей степени соответствует лучшему поведению. И тогда, вы знаете, это наша точка зрения с точки зрения множества способов, которыми социальные сети могут быть как бы более удобными для пользователя, и множеством способов. (1:26)
«… Даже с Клубом Этель, физическим местоположением в Бруклине, мы построили его, так что это потребовало меньшего, более близкого взаимодействия с нашими членами. Итак, мы взяли тот же самый маленький кусочек знаний и использовали его в цифровом виде, и теперь Somewhere Good – наша технологическая платформа, которая позволяет нам развивать это в гораздо большем и быстром масштабе, но все же на том уровне намерений, что люди хотят быть на связи. в более интимной манере друг с другом ». (2:49)
Об исключительности технологической индустрии
Технологии, несмотря на их историческое богатство и мощь, лоббистские усилия, вызывающие зависимость продукты и глобальные эффекты, никогда не будут сравнивать себя с чем-то вроде нефтегазовой или табачной промышленности. Но теперь, когда мы видим некоторые общественные беды, которые сеет Кремниевая долина, исключительность технологий выглядит более ошибочной, чем когда-либо.
Робинсон: Я действительно думаю, что в Кремниевой долине есть … тенденция к тому, что люди, может быть, гораздо больше впечатляются самими собой, впечатляются своей политикой и впечатляются своим подобием, способностью верить во что-то большее …
Иногда намного проще иметь дело с кока-колой, где, как я, захожу, и я знаю, что эти люди думают, что они делают газировку, а не создают новое общество для всех нас. И мне нравится справляться с последствиями того, что они делают. И мы все можем быть на одной волне, потому что они не думают, что им следует получить Нобелевскую премию мира. Но в мире технологий люди думают, что они могут кодировать, мы можем закодировать наш выход из структурного расизма, тогда как на самом деле код просто усиливает структурный расизм. (8:15)
Об уроках ненависти и дезинформации в Интернете из кампании Клинтона
В мире, разоренном пандемией 2021 года, 2016 год кажется далеким миром, но успешная президентская кампания Дональда Трампа, российский скандал с дезинформацией и открытое признание превосходства белых в основной политике дали красноречивое представление о том, что должно было произойти в следующие четыре года. и дальше.
Лерих: Я ожидал появления QAnon? Возможно нет. Но видел ли я это, вроде, ужасающее ползание к все более и более явному, понимаете, расизму, который, очевидно, всегда был, но был, по крайней мере, отодвинут на второй план … быть частью открытого, будучи частью такого рода сообществ? Это было то, что мы определенно видели на горизонте.
И я не думаю, что мы обязательно правильно с этим справились. Я не знаю, в то время было действительно сложно ориентироваться, но я очень чувствовал, что надвигается что-то действительно уродливое. И я определенно вкладывал каждый час своего бодрствования в течение полутора лет в эту кампанию, отчасти потому, что я был в ужасе от того, куда пойдет страна, если мы не выиграем выборы, и всего, и даже больше, чем я поделился. определенно осуществилась. (13:07)
О том, как социальные платформы отражают укоренившийся в обществе расизм
Как и в более традиционных секторах, в индустрии высоких технологий доминируют белые мужчины, которые создали богатство, создавая то, что они знают. Индустрия может быть антиисторической по определению, но, не оглядываясь назад и не пытаясь бороться с уродливыми сторонами социальных структур власти, такими как женоненавистничество и превосходство белых, технологии обречены увековечивать то же неравенство в масштабе.
Остин: Я не думаю, что проблемы, которые мы наблюдаем, связаны с тем, что Интернет и социальные платформы бесплатны. Я думаю, что это глубоко укоренившиеся системные проблемы, которые, как упомянул Рашад, преследуют эту страну с нулевого дня, думаю, люди, которые создают эти платформы, создают то, что они знают, а именно создание патриархальных систем, которые живут внутри платформ. которые выглядят глянцево, имеют иллюстрации и используют забавный, ориентированный на человека язык, но в их основе не остается места для того, что маргинальные сообщества чувствуют на этих платформах. И поэтому я думаю, что это встроено почти в каждую платформу, которую мы используем. Как сказал Рашад, у нас есть … тот факт, что [Zoom] не осознавали, что есть люди, которые хотят просто вызвать ужас у чернокожих и цветных людей, для развлечения – это большая проблема. (16:35)
О том, как жизненный опыт влияет на дизайн
Один из способов создания социальных сетей, которые позволят процветать разнообразным сообществам, – это пригласить этих людей в комнату с самого начала, чтобы вместе строить их в первый же день. Представление социальных пространств в Интернете, которые кажутся безопасными и обогащающими, – естественный процесс, когда вашему сообществу годами приходилось сталкиваться с ненавистью и домогательствами в Интернете повсюду.
Остин: Как решить эти проблемы, что моя команда, состоящая из чернокожих, латиноамериканцев, американцев азиатского происхождения, гомосексуалистов, небинарных людей, вещей, с которыми мы сталкиваемся каждый отдельный момент нахождения в сети, и своего рода более обширное объяснение этого, правда? Это может быть Tumblr, это может быть Twitter, это может быть почти на любой платформе. Все, что мы пережили, мы говорим: а что, если бы нам не пришлось? (16:35)
О том, как правительство должно обеспечивать подотчетность социальных платформ
Федеральное правительство и правительства штатов заинтересованы в том, чтобы впервые обуздать чрезмерную мощь технологий. Хорошим началом может быть изучение технологий, как если бы мы уже рассматривали регулирование по таким вопросам, как безопасность пищевых продуктов.
Робинсон: Нам нужна какая-то CFPB, версия инфраструктуры FDA на государственном уровне. Поскольку любой, кто наблюдал за некоторыми слушаниями, знает, что слушания по ядерной энергетике или даже по обеспечению безопасности нашего молока, выглядели бы так же, если бы у нас на самом деле не было государственной инфраструктуры, люди, которых мы выбираем в Конгресс или Сенат, могут не быть экспертами по всем этим вопросам.
Таким образом, часть инфраструктуры – это то же самое, что я говорил о зданиях, отвечающих нормам. Это не из-за наших выборных должностных лиц или экспертов. Это потому, что мы строим инфраструктуру на государственном уровне, и что у нас есть штрафы и ответственность в масштабе, чтобы убедиться, что они есть, что есть последствия. (22:19)
Большая проблема в регулировании крупных технологических компаний заключается в том, что они стали настолько большими и могущественными, что финансовые наказания уже не могут повлиять на них. Необходимо провести значимые изменения, чтобы перестроить стимулы в отрасли путем изучения структур, которые позволили этим компаниям стать настолько могущественными без какого-либо надзора с самого начала.
Лерих: Фундаментальная структура стимулов вокруг крупных социальных сетей прямо сейчас настолько извращена, что их стимулируют распространять наиболее токсичный контент, дезинформацию, язык вражды – так, как эти вещи стимулируют вовлеченность. И до тех пор, пока у них есть платформы, за которые они не несут ответственности … говоря о реформе Раздела 230, нет никакого способа привлечь их к ответственности с юридической точки зрения, Федеральная торговая комиссия не налагает на них штрафов, которые действительно причиняют им вред. У них нет концов и просто нигде нет трений.
… Пока мы фундаментально, коренным образом не перевернем эту структуру стимулов, они будут продолжать извлекать выгоду из ненависти, искажений, обмана, заблуждения и дискриминации. И это просто реальность ». (24:39)
Вы можете прочитать всю стенограмму здесь.