Хотя концепция «дипфейков» или синтетических изображений, генерируемых ИИ, осуждается в первую очередь в связи с непроизвольным изображением людей, технология опасна (и интересна) и в других отношениях. Например, исследователи показали, что с его помощью можно манипулировать спутниковыми изображениями для создания реальных – но полностью поддельных – карт городов с высоты птичьего полета.
Исследование, проведенное Бо Чжао из Вашингтонского университета, не призвано кого-либо встревожить, а скорее показать риски и возможности, связанные с применением этой печально известной технологии в картографии. Фактически, их подход имеет столько же общего с техниками «переноса стиля» – перерисовкой изображений в импрессионистической, цветной и произвольной манере – чем с дипфейками, как их обычно понимают.
Команда обучила систему машинного обучения на спутниковых снимках трех разных городов: Сиэтла, близлежащей Такомы и Пекина. У каждого свой неповторимый облик, как и у художника или медиума. Например, Сиэтл, как правило, имеет большую нависающую зелень и более узкие улицы, в то время как Пекин более монохромен и – на изображениях, использованных для исследования, – более высокие здания отбрасывают длинные темные тени. Система научилась связывать детали карты улиц (например, Google или Apples) со спутниковым обзором.
Получившийся агент машинного обучения, получив карту улиц, возвращает реалистичное искусственное спутниковое изображение того, как эта область выглядела бы в любом из этих городов. На следующем изображении карта соответствует верхнему правому спутниковому снимку Такомы, а нижние версии показывают, как он может выглядеть в Сиэтле и Пекине.
Кредиты изображений: Zhao et al.
Внимательный осмотр покажет, что поддельные карты не такие четкие, как настоящие, и, вероятно, есть некоторые логические несоответствия, такие как улицы, которые никуда не ведут и тому подобное. Но на первый взгляд изображения Сиэтла и Пекина выглядят вполне правдоподобно.
Достаточно подумать всего несколько минут, чтобы понять, как можно использовать такие поддельные карты, как законные, так и иные. Исследователи предполагают, что эту технику можно использовать для имитации изображений мест, для которых нет спутниковых снимков – например, одного из этих городов в те дни, когда такие вещи еще не были возможны, или для запланированного расширения или изменения зонирования. Система не должна полностью имитировать другое место – ее можно обучить в более густонаселенной части того же города или в более широких улицах.
Вполне возможно, что его даже можно было использовать, как этот довольно причудливый проект, для создания реалистичных современных карт из древних, нарисованных от руки.
И если подобные технологии будут направлены на менее конструктивные цели, в документе также будут рассмотрены способы обнаружения таких смоделированных изображений с помощью тщательного изучения цветов и характеристик.
Работа ставит под сомнение общее предположение об «абсолютной надежности спутниковых изображений или других геопространственных данных», – сказал Чжао в новостной статье UW, и, конечно же, как и в случае с другими СМИ, такое доброе мышление должно уйти на второй план по мере появления новых угроз. Вы можете прочитать полный текст статьи в журнале «Картография и географическая информатика».