Изображения, созданные искусственным интеллектом, сейчас находятся на пути к раскрытию нашего понимания визуальной истины так, как это не удалось сделать ни одной другой визуальной инновации.
- Не иллюстрация пером и тушью
- Не фотография
- Не фильмы
- Не спецэффекты и компьютерная графика
- Нет даже Adobe Photoshop прошлого века.
Все эти предыдущие инновации меркнут перед лицом таких инструментов, как MidJourney, DALL-E и Adobe Firefly.
Эти генеративные системы изображений искусственного интеллекта, которые легко воспроизводят изображение затопленного центра Манхэттена внизу, являются ткачами снов, которые делают буквальное из воображаемого.
Когда Midjourney создает изображение, нет легко идентифицируемых источников, посредников или художников. Каждый пиксель может выглядеть настолько воображаемым или реальным, насколько вы хотите, и когда они покидают цифровую фабрику, эти изображения (и видео) быстро путешествуют по всему миру, оставляя истину ждать где-то в пустыне.
В то, что мы видим, уже нельзя поверить. Непреднамеренно изображения генеративного ИИ разрушили концепцию «Увидеть — значит поверить». Эта избитая фраза, которую часто приписывают священнослужителю 17-го века Томасу Фуллеру, пережила 400 лет, но не имеет шансов в нашу современную эпоху.
И этот переломный момент в изображениях генеративного ИИ не мог наступить в худший момент. Истина и распространители реальности уже много лет подвергаются нападкам. Мало кто принимает средства массовой информации за чистую монету. Даже чиновникам, которые когда-то были родительскими фигурами общества, больше не доверяют. Люди теперь хотят иметь свою собственную реальность и факты, которые можно получить с трудом благодаря целенаправленным исследованиям или легко получить благодаря предвзятости подтверждения: поиску того, что подтверждает ваши ранее существовавшие представления и убеждения.
В этот вакуум истины входит современный и почти зрелый Генеративный ИИ. Если нет изображения или видео, подтверждающих желаемую реальность, это можно сделать с помощью подсказки в Midjourney на Discord:
«/Представьте себе, что Джо Байден и Дональд Трамп играют в шахматы в Розовом саду Белого дома. Байден держит палец на своем ферзе и просто кричит «Шах», но Трамп не сдается и, похоже, готов двинуть ладьей и контратакой. «
Этого никогда не происходило и вряд ли когда-нибудь произойдет, но Midjourney подготовила эти четыре версии изображения (вверху) менее чем за минуту.
Итак, я рассказал вам, что собираюсь сделать и построить, чтобы вы знали, что это фейк, но не все так делают.
Генерация изображений с помощью ИИ на этом уровне, несомненно, увлекательна, увлекательна, интересна и опасна. Это такой же инструмент, как и любой другой, и он, как правило, является отражением того, кто его использует. Люди с добрыми намерениями будут использовать изображения генеративного ИИ во благо. Это инструмент повышения производительности. Те, у кого плохие намерения, будут использовать его для распространения дезинформации и лжи.
И мы им поверим.
Ошибочные люди
Люди не созданы для признания истины. Мы реагируем на то, что видим, слышим, трогаем и чувствуем. Большая часть информации поступает к нам через зрение. То, что мы видим, — это то, во что мы верим. Если бы это было не так, такая простая вещь, как фильмы, потерпела бы неудачу. Фильм — это кадры, и наш мозг объединяет все это в правдоподобное целое. Никто не движется плавно перед нами, когда мы смотрим телевизор и фильмы. Вместо этого они заикаются при частоте кадров. Чем выше FPS, тем плавнее действие. Но это не реально.
Мы смотрим фильмы и знаем, что динозавры созданы компьютером, но это не мешает какой-то обезьяньей части нашего мозга испытывать эмоции, когда умирает любимый трицератопс или тираннозавр Рекс спасает положение. Нами всеми легко манипулировать, поэтому мы платим хорошие деньги и соглашаемся на этот опыт.
Генеративные изображения ИИ используют нашу уязвимость без разрешения. Он представляет образы, которые, какими бы неправдоподобными они ни были, выглядят совершенно реальными и поэтому становятся для нас правдоподобными.
Каждое утро я открываю Google News, чтобы узнать о событиях дня. В последние годы значительная часть страницы посвящена разоблачению фейковых новостей. Часто речь идет конкретно о фальшивых видео и изображениях, хотя обычно они относятся к изображениям одного реального события, искажённого под другое.
Несмотря на это, в год выборов в США мы будем завалены правдоподобными изображениями встреч между соперниками, которых никогда не было, кандидатов, выставляющих себя дураками на мероприятиях, которые они никогда не посещали, и сомнительных модных решений в одежде, которую они никогда не носили.
Опасные обходные пути
В большинстве инструментов создания изображений, которые я использовал в течение последних 12 месяцев, очень мало средств защиты. Да, они мешают вам создавать откровенный контент для взрослых или подвергать общественных деятелей насильственным или компрометирующим ситуациям, но довольно легко создать подсказку, которая может обойти эти гарантии (один комментатор отметил, что, хотя вы не можете изображать некоторых политиков, залитых кровью , вы можете попросить Midjourney полить их красным сиропом).
Здесь речь идет не только о статических изображениях. Midjourney сейчас обучает свой искусственный интеллект созданию видео. Процесс создания правдоподобных видеороликов с генеративным искусственным интеллектом на несколько порядков сложнее, чем статичных изображений, но в течение 6 месяцев вполне вероятно, что 10-секундные клипы будут неотличимы от реальных.
В конечном счете, увидеть больше не значит поверить. То, что вы видите на экране, может отражать или не отражать правду. Как правило, если вы видите что-то, что подтверждает то, что вы уже предполагали, было правдой, посмотрите еще раз. Изучите изображение на предмет аномалий или даже слишком большого совершенства. Ищите поры на коже (или их отсутствие). Посчитайте пальцы. Изучите предысторию: я заметил, что именно здесь генеративный ИИ может выполнять свою самую небрежную работу. Если ничего не помогает, начните проводить собственные исследования.
В наш век генеративных изображений ИИ мы не можем ничего принимать за чистую монету. Чтобы защитить себя и друг друга, мы должны стать охотниками за правдой. подвергайте сомнению все.