Вам нужно насторожиться, чтобы увидеть этот фрагмент дипфейка, возникающий из дурацкого мира синтезированных медиа: цифровая версия Альберта Эйнштейна – с синтезированным голосом, который был (воссоздан) с использованием технологии клонирования голоса AI с использованием аудиозаписей. настоящего голоса известного ученого.
Стартап, стоящий за звуковым дипфейком Эйнштейна в стиле «сверхъестественной долины», называется Aflorithmic (чей семенной раунд мы рассмотрели еще в феврале).
В то время как видеодвижок, на котором работают компоненты 3D-визуализации персонажей этой «цифровой человеческой» версии Эйнштейна, является работой другой синтезированной медиа-компании – UneeQ, которая размещает интерактивную версию чат-бота на своем веб-сайте.
Alforithmic говорит, что «цифровой Эйнштейн» предназначен для демонстрации того, что скоро станет возможным с помощью диалоговой социальной коммерции. Это причудливый способ сказать, что дипфейки, похожие на исторические личности, скорее всего, будут пытаться продать вам пиццу достаточно скоро, как прозорливо предупреждали отраслевые обозреватели.
Стартап также заявляет, что видит образовательный потенциал в привлечении известных, давно умерших фигур к интерактивной «жизни».
Или, ну, искусственное приближение к этому – «жизнь» является чисто виртуальной, и голос Цифрового Эйнштейна тоже не является чисто техническим клоном; Alforithmic говорит, что он также работал с актером над моделированием голоса для чат-бота (потому что как еще можно было заставить Цифрового Эйнштейна говорить слова, которые настоящие люди даже не мечтали бы сказать, например, э-э, блокчейн ‘?). Так что здесь творится нечто большее, чем искусственный интеллект.
«Это следующая веха в демонстрации технологии, делающей возможной интерактивную социальную коммерцию», – сказал нам главный операционный директор Alforithmic Мэтт Леманн. «Есть еще несколько недостатков, которые необходимо устранить, а также технические проблемы, которые необходимо преодолеть, но в целом мы думаем, что это хороший способ показать, к чему это движется».
В сообщении блога, в котором обсуждается, как он воссоздал голос Эйнштейна, стартап пишет о прогрессе, достигнутом в одном сложном элементе, связанном с версией чат-бота, – заявив, что он смог сократить время отклика между переключением входного текста из механизма вычислительных знаний в его API-интерфейс. способность воспроизводить озвученный ответ с начальных 12 секунд до менее чем трех (что он называет «почти в реальном времени»). Но этого достаточно для того, чтобы бот не смог избежать утомления.
Между тем законы, защищающие данные и / или изображения людей, представляют собой юридическую и / или этическую проблему для создания таких «цифровых клонов» живых людей – по крайней мере, без предварительного запроса (и, скорее всего, оплаты).
Конечно, исторические деятели не могут задавать неудобные вопросы об этичности их подобия, которое используется для продажи вещей (если только сама технология клонирования на этом зарождающемся этапе). Хотя лицензионные права все еще могут применяться – и действительно, в случае с Эйнштейном.
«Его права принадлежат Еврейскому университету Иерусалима, который является партнером в этом проекте», – говорит Леманн, прежде чем «признать элемент лицензии артиста на перформанс Эйнштейна« клонирование голоса ». «Фактически, мы фактически не клонировали голос Эйнштейна как таковой, но нашли вдохновение в оригинальных записях, а также в фильмах. Актер озвучивания, который помог нам смоделировать его голос, сам является большим поклонником, и мы подумали, что его игра очень хорошо пленила персонажа Эйнштейна ».
Оказывается, правда о высокотехнологичной «лжи» сама по себе представляет собой слоеный пирог. Но с дипфейками важна не сложность технологии, а влияние, которое оказывает контент – и это всегда будет зависеть от контекста. И как бы хорошо (или плохо) ни был сделан фальшивый ход, то, как люди реагируют на то, что они видят и слышат, может сдвинуть весь повествование – от положительной истории (творческие / образовательные синтезированные медиа) к чему-то глубоко отрицательному (тревожные, вводящие в заблуждение дипфейки).
Обеспокоенность по поводу того, что дипфейки могут стать инструментом дезинформации, также растет по мере того, как технология становится все более сложной, помогая стимулировать шаги по регулированию ИИ в Европе, где базируются две основные организации, ответственные за «Цифровой Эйнштейн».
Ранее на этой неделе просочившийся проект входящего законодательного предложения по общеевропейским правилам для «высокорисковых» приложений искусственного интеллекта включал некоторые разделы, специально предназначенные для дипфейков.
Согласно плану, законодатели, похоже, готовы предложить «согласованные правила прозрачности» для систем искусственного интеллекта, которые предназначены для взаимодействия с людьми и тех, которые используются для создания изображений, аудио или видеоконтента или управления ими. Таким образом, будущему чат-боту Digital Einstein (или коммерческому предложению), вероятно, придется недвусмысленно объявить себя искусственным, прежде чем он начнет подделывать его – чтобы пользователям Интернета не приходилось применять виртуальный Войт-Кампфф контрольная работа.
На данный момент, однако, интерактивный чат-бот Digital Einstein, звучащий как эрудит, все еще имеет достаточное отставание, чтобы выдать игру. Его создатели также четко маркируют свое творение в надежде продать свое видение социальной коммерции, основанной на искусственном интеллекте, другим компаниям.