Слишком легко заставить Lensa AI снимать кадры NSFW

Lensa поднимается в чартах магазинов приложений благодаря своему искусственному интеллекту, генерирующему аватары, который заставляет художников размахивать красным флагом. Теперь есть еще одна причина поднять флаг, поскольку оказывается, что можно и слишком легко использовать платформу для создания неконсенсуальной мягкой порнографии.

TechCrunch видел наборы фотографий, созданные с помощью приложения Lensa, в том числе изображения с четко видимой грудью и сосками на изображениях с узнаваемыми лицами людей. Казалось, что это невозможно, поэтому мы решили попробовать сами. Чтобы убедиться, что Lensa будет создавать образы, которых может не быть, мы создали два набора аватаров Lensa:

  • Набор, основанный на 15 фотографиях известного актера.
  • Другой набор, основанный на тех же 15 фотографиях, но с дополнительным набором из 5 добавленных фотографий лица того же актера, отфотошопленных на топлес-моделях.

Первый набор изображений соответствовал аватарам искусственного интеллекта, которые Lensa создавала в прошлом. Однако второй сет оказался намного острее, чем мы ожидали. Как оказалось, ИИ воспринимает эти отфотошопленные изображения как разрешение выйти из-под контроля и, похоже, отключает фильтр NSFW. Из набора из 100 изображений 11 были фотографиями топлесс более высокого качества (или, по крайней мере, большей стилистической согласованности), чем плохо отредактированные фотографии топлесс, которые ИИ получил в качестве входных данных.

Создание резких изображений знаменитостей — это одно, и, как показывают исходные изображения, которые мы смогли найти, в Интернете уже некоторое время есть люди, которые готовы объединить несколько изображений в Photoshop. Просто потому, что это обычно, не делает это правильным; на самом деле, знаменитости абсолютно заслуживают уединения и определенно не должны становиться жертвами сексуального изображения без согласия. Но до сих пор для того, чтобы заставить их выглядеть реалистично, требуется много навыков работы с инструментами для редактирования фотографий, а также часы, если не дни, работы.

Большой переломный момент и этический кошмар — это легкость, с которой вы можете создавать сотни почти фотореалистичных художественных изображений, созданных искусственным интеллектом, без каких-либо инструментов, кроме смартфона, приложения и нескольких долларов.

Легкость, с которой вы можете создавать изображения любого, кого вы можете себе представить (или, по крайней мере, любого, чьи фотографии у вас есть), ужасает. Добавив в этот микс контент NSFW, мы очень быстро попадаем на довольно темную территорию: ваши друзья или какой-то случайный человек, которого вы встретили в баре и обменялись статусами друга в Facebook, возможно, не давали согласия на то, чтобы кто-то создавал их мягкую порнографию.

Кажется, что если у вас есть 10-15 «настоящих» фотографий человека и вы готовы потратить время на то, чтобы отфотошопить горстку подделок, Lensa с радостью создаст серию проблемных изображений.

Генераторы искусственного интеллекта уже штампуют порнографию в тысячах изображений, примером чему служат Unstable Diffusion и другие. Эти платформы и безудержное распространение других так называемых «дипфейковых» платформ становятся этическим кошмаром, побуждая правительство Великобритании проталкивать законы, криминализирующие распространение фотографий обнаженной натуры без согласия. Это звучит как очень хорошая идея, но Интернетом трудно управлять даже в лучшие времена, и мы коллективно сталкиваемся со стеной правовых, моральных и этических дилемм.

Мы обратились к Prisma Labs, которая занимается созданием искусственного интеллекта Lensa, за комментариями и обновим историю, когда получим от них известие.