Instagram запускает инструменты для фильтрации оскорбительных DM на основе ключевых слов и смайликов, а также для блокировки людей даже в новых учетных записях.

Facebook и его семейство приложений давно пытаются решить вопрос о том, как лучше управлять – и искоренить – издевательства и другие домогательства на своей платформе, обращаясь как к алгоритмам, так и к людям в своих усилиях по более эффективному решению проблемы. Сегодня анонсирует несколько новых собственных инструментов.

Во-первых, он представляет новый способ для людей еще больше защитить себя от преследований в своих личных сообщениях, особенно в запросах сообщений, с помощью нового набора слов, фраз и иков, которые могут сигнализировать о оскорбительном контенте, который также будет включать в себя распространенные орфографические ошибки. ключевые , которые иногда используются для обхода фильтров. Во-вторых, это дает пользователям возможность активно блокировать людей, даже если они пытаются связаться с этим пользователем через новую учетную запись.

Инстаграм сообщил, что функция блокировки учетных записей будет запущена во всем мире в ближайшие несколько недель, и это подтвердило мне, что функция фильтрации оскорбительных DM начнет развертываться в Великобритании, Франции, Германии, Ирландии, Канаде, Австралии и Новой Зеландии. через несколько недель, прежде чем стать доступным в других странах в течение следующих нескольких месяцев.

Примечательно, что эти функции внедряются только в Instagram, а не в Messenger и не в WhatsApp, двух других чрезвычайно популярных приложениях Facebook, которые позволяют отправлять прямые сообщения. Представитель подтвердил, что Facebook надеется добавить его в другие приложения в стабильной версии позже в этом году. (Instagram и другие регулярно выпускают обновления для отдельных приложений, прежде чем задумываться о том, как их развернуть более широко.)

Instagram сообщил, что функция сканирования DM на предмет оскорбительного контента будет основана на списке слов и смайликов, который Facebook составляет с помощью организаций по борьбе с дискриминацией и запугиванием (не уточняется, какие именно), а также с условиями и смайлики, которые вы можете добавить в себя, должны быть включены заранее, а не доступны по умолчанию.



Почему? Похоже, больше пользовательской лицензии и для сохранения конфиденциальности разговоров, если пользователи этого хотят. «Мы хотим уважать неприкосновенность частной жизни людей и дать людям возможность управлять своим опытом таким образом, который лучше всего подходит для них», – сказал представитель, отметив, что это похоже на то, как работают его фильтры комментариев. Он будет находиться в «Настройки»> «Конфиденциальность»> «Скрытые слова» для тех, кто захочет включить управление.

Существует ряд сторонних сервисов, которые сейчас создают инструменты модерации контента, которые выявляют оскорбления и разжигание ненависти – они включают такие, как Sentropy и Hive, – но что было интересно, так это то, что до сих пор более крупные технологические компании решили сами создавать эти инструменты. Компания подтвердила, что и здесь.

Система полностью автоматизирована, хотя Facebook отметил, что просматривает любой контент, о котором сообщают. Хотя он не хранит данные об этих взаимодействиях, он подтвердил, что будет использовать сообщенные слова для продолжения создания своей более крупной базы данных терминов, которые будут вызывать блокировку контента, а затем удалять, блокировать и сообщать о людях, которые его отправляют.

Что касается этих людей, то уже давно Facebook начал становиться умнее в том, как обрабатывать тот факт, что люди с действительно злыми намерениями не теряли времени зря на создание нескольких учетных записей, чтобы восполнить пробелы, когда их основные профили заблокироваться. Людей раздражала эта лазейка с тех пор, как появились DM, хотя политика преследований Facebook уже запрещала людям неоднократно связываться с кем-то, кто не хочет получать от них известия, и компания уже запретила рецидив, который, как и Facebook описывает это так: «Если чья-то учетная запись отключена за нарушение наших правил, мы удалим все новые учетные записи, которые они создают, когда нам станет об этом известно».

Подход компании к личным сообщениям был чем-то вроде шаблона для того, как другие компании, работающие в социальных сетях, построили их.

По сути, по умолчанию они являются открытыми: один почтовый ящик зарезервирован для реальных контактов, а второй – для всех, кто может с вами связаться. В то время как некоторые люди просто игнорируют этот второй ящик, природа того, как работает и построен Instagram, заключается в большем, а не меньшем контакте с другими, а это означает, что люди будут использовать эти вторые почтовые ящики для своих DM больше, чем они могли бы, например, копаться в их почтовых ящиках со спамом.

Однако более серьезной проблемой по-прежнему остается игра в «ударь крота», и не только пользователи просят ее решить. Поскольку Facebook продолжает находиться под пристальным вниманием регулирующих органов, притеснения – и более эффективное управление ими – стали очень важной областью, которую ему необходимо будет решить, прежде чем другие сделают это.