Вы знаете это чувство; вы находитесь в приложении для знакомств, и вы начинаете разговор с кем-то, и кажется, что вещи не складываются полностью. Вы видели The Tinder Swindler на Netflix и вдруг задаетесь вопросом: не собирается ли кто-нибудь попросить у меня денег? Команда сайта видеознакомств Filter Off решила применить новый подход: каждый обнаруженный мошенник добавлялся в дополнительный пул претендентов на знакомства, который содержал только их собственных чат-ботов, изображающих из себя очаровательных одиноких людей, и других мошенников. Как и следовало ожидать, последовало веселье.
Как платформа, Filter Off — это первое приложение для знакомств с видео, запущенное в начале карантина из-за COVID-19. По мере того, как знакомства перешли от баров, галерей и пикников к тому, чтобы в первую очередь общаться в чате и видео, компания взлетела, предлагая виртуальные мероприятия для быстрых свиданий на различные темы; Свидание Гарри Поттера, свидание любителей собак, свидание в Нью-Йорке — что угодно. Платформа насчитывает сотни тысяч пользователей, и по мере роста ее популярности среди людей, ищущих любви, основатели обнаружили, что она привлекает и вторую группу людей — людей, ищущих деньги.
«Впервые я заметил проблему, когда увидел, что Джордж Клуни присоединился к Filter Off. Я подумал: «Черт возьми, это дико, я не могу поверить…», но потом я более внимательно посмотрел на его профиль», — смеется Брайан Вайнрайх, руководитель отдела продуктов в Filter Off, в интервью TechCrunch. Он понял, что Клуни, вероятно, не будет на сайте знакомств, и даже если бы он был, он не был бы 34-летним из Лагоса, Нигерия. «Я удалил их профиль, чтобы убрать их из приложения. Затем я начал замечать все эти профили, которые выглядят как настоящие люди, но это были все эти разные профили, которые не складывались».
Команда разработчиков решила попытаться решить проблему с помощью алгоритмов и создала часть программного обеспечения, которое будет сортировать пользователей на людей и «основываясь на определенных характеристиках, которые я начинаю замечать, на том, как люди регистрируются, как они используют приложение». «Они, скорее всего, мошенники. Команда продолжала удалять профили, но на каждого вырубленного мошенника появлялось еще пять, в стиле Медузы.
«Я подумал: хорошо, нам нужен способ избавиться от мошенников, но он должен быть таким, чтобы они не могли просто вернуться и снова присоединиться к платформе», — сказал Вайнрайх. «Я вспомнил, что Reddit и другие платформы имеют форму «теневого бана», когда пользователи могут продолжать публиковать сообщения, но обычные пользователи не видят их контент».
Итак, работа началась. Команда использовала GPT-3 для создания ряда чат-ботов в сочетании со скриптом, который генерирует человеческие лица, чтобы создать несколько поддельных профилей. Предостережение: эти профили не видят «обычные» пользователи, только люди, которых алгоритм определил как мошенников. Они помещают их в пул из тысяч ботов, которые выглядят и разговаривают как настоящие люди.
«ТСамое смешное, что происходят две вещи. Во-первых, мошенники натолкнутся на других ботов, но они также натолкнутся на других мошенников и попытаются обмануть друг друга», — смеется Вайнрайх. «Они говорят: «Я хочу 40 долларов за подарочную карту Google Play», а другой мошенник отвечает: «Нет, нет, вы дарите подарочную карту мне‘ и они просто продолжали спорить. Это просто забавная вещь: в настоящее время в нашем приложении у нас есть, вероятно, более 1000 мошенников, о которых я знаю, которые активно общаются только с ботами. Это великолепно. Они тратят свое время, и им не нужно иметь дело с нашими реальными пользователями».
Платформа имеет функции отчетов и блокировки, с помощью которых реальные пользователи могут сообщать о потенциальных мошенниках. Получив сообщение, команда может улучшить свой алгоритм, а также вручную поместить мошенников в пул ботов.
«ТСамое смешное в нашей функции отчетов — это количество отчетов, которые я получаю от мошенников, сообщающих, что они разговаривают с ботом. Я такой: «Да, я знаю, в этом суть», — пожимает плечами Вайнрайх.
Компания собрала некоторые из самых абсурдных разговоров, которые мошенники вели друг с другом и с ботами, в своем собственном блоге, который также стоит просмотреть.