Если вы известны в различных социальных сетях, скорее всего, вы сталкиваетесь с разжиганием ненависти в своих ответах или комментариях. Французский стартап Bodyguard недавно запустил свое приложение и сервис на английском языке, чтобы скрыть токсичный контент от ваших глаз. Он был доступен на французском языке в течение нескольких лет, и на данный момент компания привлекла 50 000 пользователей.
«Мы разработали технологию, которая обнаруживает разжигание ненависти в Интернете с точностью от 90 до 95% и только 2% ложных срабатываний», – сказал мне основатель и генеральный директор Чарльз Коэн.
Компания начала с мобильного приложения, которым может пользоваться каждый. После того, как вы загрузите приложение и подключите приложение к любимым социальным сетям, вы выбираете уровень модерации. Есть несколько категорий, таких как оскорбления, позор тела, моральные домогательства, сексуальные домогательства, расизм и гомофобия. Вы можете выбрать для каждой категории низкий или высокий приоритет.
После этого вам не нужно снова открывать приложение. Bodyguard просматривает ответы и комментарии со своих серверов и принимает решение, в порядке что-то или нет. Например, он может скрывать комментарии, отключать пользователей, блокировать пользователей и т. Д. Когда вы открываете Instagram или Twitter опять же, похоже, что этих ненавистных комментариев никогда не существовало.
В настоящее время приложение поддерживает Twitter, YouTube, Instagram и Twitch. К сожалению, он не может обрабатывать контент на Snapchat и TikTok из-за ограничений API.
За кулисами большинство служб модерации в значительной степени полагаются на машинное обучение или модерацию на основе ключевых слов. Телохранитель избрал другой подход. Он алгоритмически очищает комментарий и пытается проанализировать его содержание в контексте. Он может определить, является ли комментарий оскорбительным для вас, для стороннего лица, для группы лиц и т. Д.
Совсем недавно стартап запустил продукт B2B. Другие компании могут использовать API на базе Bodyguard для модерации комментариев в реальном времени на своих социальных платформах или в собственных приложениях. Компания взимает плату со своих клиентов, используя традиционный подход «программное обеспечение как услуга».