С развитием обобщенного ИИ, что значит человек?

Для следующего выпуск неофициального книжного клуба , мы читаем четвертую историю Теда Чанга выдыхание, Цель этого книжного клуба состоит в том, чтобы расширить наши умы к новым мирам, идеям и перспективам, и Жизненный цикл программных объектов не разочаровывает Сосредоточенный в будущем мире, где виртуальные миры и обобщенный ИИ стали обычным явлением, это фантастический пример умозрительной выдумки, которая заставляет нас противостоять всевозможным фундаментальным вопросам.

Если вы пропустили предыдущие части этой серии книжных клубов, обязательно ознакомьтесь с:

Несколько вопросов к пятому рассказу в сборнике, Патентная автоматическая няня Дейси, включены ниже.


И как всегда, еще несколько заметок:

  • Хотите присоединиться к беседе? Не стесняйтесь, напишите мне свои мысли на danny+bookclub@techcrunch.com или присоединяйтесь к некоторым дискуссиям на Reddit или Twitter.
  • Следуйте этим неформальным статьям книжного клуба здесь https://techcrunch.com/book-review/, На этой странице также имеется встроенный RSS-канал для публикаций исключительно в категории «Книжное обозрение», объем которой очень мал.
  • Не стесняйтесь добавлять свои комментарии в нашем разделе комментариев TechCrunch ниже этого поста.

Думать о Жизненный цикл программных объектов

Это гораздо более обширная история, чем предыдущие рассказы в выдыханиес гораздо большим количеством линейного графика, чем фрактальные коаны, которые мы испытывали ранее. Этот более широкий холст предлагает нам огромный набор тем для обсуждения: от эмпатии, смысла человечества и ценностей, за которые мы ручаемся, до искусственных образований, экономики цифрового будущего и далее до будущего романа, секса, детей, и смерть. У меня есть страницы заметок из этой истории, но мы не можем охватить все это, поэтому я хочу увеличить только две темы, которые я нашел особенно глубокими и полезными.

Одна из основных целей этой истории — по-настоящему исследовать значение слова «человек». Чианг называет нашу главную героиню Ану матерью цифровой сущности («дигиент»), которая была зоопарком в прошлой жизни. Эта история карьеры дает нам хорошее оформление: она позволяет нам через Ана сравнивать людей с животными и, следовательно, контекстуализировать споры о личностях, связанных с дигиентами на протяжении всей истории.

С одной стороны, люди однозначно ценят себя как вид, и даже самый преданный владелец дигента в конечном итоге уходит. В одном особенно ярком отрывке говорится о том, когда владелец сайта сообщает, что его жена беременна:

«Очевидно, у тебя будут полные руки, — говорит Ана, — но что ты думаешь об усыновлении Лолли?» Было бы интересно увидеть реакцию Лолли на беременность.

«Нет», — говорит Робин, качая головой. «Я уже давно перешел на другую тему»

"Вы прошли их?"

«Я готов к реальному, понимаешь, о чем я?»

Осторожно, Ана говорит: «Я не уверена, что делаю».

«… Кошки, собаки, дигитанты, они просто заменяют то, о чем мы должны заботиться».

Этот владелец провел четкое различие: есть только одна форма сущности, о которой стоит заботиться, только одна вещь, которую человек может считать человеком, и это другой человек.

Действительно, на протяжении всего этого рассказа Чан постоянно отмечает, что вкусы, ценности, нормы, правила и законы человеческого общества разработаны почти исключительно с учетом интересов людей. Тем не менее, история никогда не занимает определенную позицию, и даже Ана вообще не убеждена ни в одной точке зрения, даже вплоть до конца истории. Тем не менее, повествование действительно предлагает нам одну модель для размышления, которую я считал ценным, и это вокруг опыта.

Что отличает людей от других животных, так это то, что мы принимаем решения на основе нашего собственного опыта. Мы собираем этот опыт и используем его, чтобы направлять наши действия и направлять нас к правильным результатам, которых мы — также исходя из опыта — желаем. Мы могли бы хотеть зарабатывать деньги (потому что опыт подсказывает нам, что деньги хороши), и поэтому мы решили поступить в колледж, чтобы получить правильный вид обучения для эффективной конкуренции на рынке труда. Важным для этого решения является жизненный опыт.

Чианг делает очень четкое замечание, когда дело доходит до компании под названием Exponential, которая заинтересована в поиске «сверхчеловеческого ИИ», который идет без работы, которую Ана и другие владельцы дигитантов вложили в создание своих сущностей. Ана в конце концов понимает, что они никогда не смогут найти то, что ищут:

Они хотят что-то, что отвечает как человек, но не имеет таких же обязательств, как человек, и это то, что она не может им дать.

Никто не может дать им это, потому что это невозможно. Годы, которые она провела, воспитывая Джекс, не только заставляли его весело общаться, но и не давали ему увлечений и чувства юмора. Именно они дали ему все атрибуты, которые ищет Экспонента: беглость в навигации по реальному миру, креативность в решении новых проблем, суждение, которое вы могли бы доверить важному решению. Каждое качество, которое делало человека более ценным, чем база данных, было результатом опыта.

Она хочет сказать им, что Голубая Гамма была более правильной, чем она знала: опыт — не просто лучший учитель; это единственный учитель … опыт алгоритмически несжимаем.

Действительно, когда владельцы начинают задумываться о том, когда они могут предложить своим независимым сторонникам возможность самостоятельно принимать решения, ключевым словом становится опыт. Их способность принимать собственные решения в контексте прошлого опыта является что определяет их личность.

И поэтому, когда мы думаем об обобщенном искусственном интеллекте и надежде создать разумную искусственную жизнь, я думаю, что этот лакмусовый тест начинает сталкиваться с реальной проблемой, какой может быть эта технология. Можем ли мы обучить ИИ исключительно с помощью алгоритмов, или нам придется руководить этими ИИ с их открытыми, но пустыми умами на каждом этапе пути? Чан обсуждает это чуть раньше в истории:

Они слепы к простой истине: сложные умы не могут развиваться сами по себе. Если бы они могли, дикие дети были бы такими же, как все остальные. И умы растут не так, как сорняки, процветая под безразличным вниманием; в противном случае все дети в детских домах будут процветать. Чтобы ум даже приблизился к своему полному потенциалу, он нуждается в совершенствовании другими умами.

Действительно, Ана и другой главный герой Дерек вынуждены продолжать продвигать свои дигиенты, назначая им домашнюю работу и направляя их к новым действиям, чтобы продолжать подталкивать их к тому, чтобы получить опыт, необходимый им для успеха в мире. Почему мы должны предполагать, что обобщенный ИИ не будет сегодня менее ленивым, чем ребенок? Почему мы ожидаем, что он может учить сам, когда люди не могут учить себя?

Говоря о детях, я хочу перейти к другой теме в этой истории, которую я нашел особенно плачевной. Ясно, что существует целая параллель с воспитанием детей в реальной жизни, которая является неотъемлемой частью всей истории. Я думаю, что это очевидно, и хотя это и интересно, многие выводы и значения этой концепции очевидны.

Что более интересно, это то, что любовь и связь означают в мире, где сущности не должны быть «реальными». Ана — зоопарк, которая испытывала глубокую привязанность к животным, находящимся под ее опекой («Ее глаза все еще слезятся, когда она вспоминает, когда в последний раз видела своих обезьян, желая объяснить им, почему они больше ее не увидят, надеясь чтобы они могли приспособиться к своим новым домам ».) Она энергично защищает свои отношения с этими животными, как и с дигитантами на протяжении всей истории.

Но почему некоторые сущности любят больше, чем другие, если все они — просто код, работающий в облаке? Основные дигиенты, представленные в книге, были буквально разработаны, чтобы быть привлекательными для людей. Поскольку Blue Gamma просматривает тысячи алгоритмически сгенерированных цифровых материалов, она тщательно отбирает те из них, которые привлекут владельцев. «Это был частично поиск интеллекта, но в то же время это был поиск темперамента, личности, которая не разочарует клиентов».

Причина, конечно, очевидна: эти существа нуждаются во внимании, чтобы процветать, но они не получат его, если не будут очаровательны и желанны. Дерек тратит свое время на анимацию аватаров дигитентов, чтобы сделать их более привлекательными, генерируя спонтанные и счастливые выражения лица, чтобы создать связь между их владельцами и людьми.

Тем не менее, история так сильно толкает эту тему в слоях, которые связаны друг с другом. Дерек увлекается Аной на протяжении всей истории, даже несмотря на то, что Ана остается сосредоточенной на развитии собственного дигиента и поддержании отношений с парнем Кайлом. Дерек в конце концов понимает, что его собственная одержимость Аной стала несостоятельной, что является тонкой параллелью собственной одержимости Аны ее дигистами:

У него больше нет жены, которая могла бы жаловаться на это, и парень Аны, Кайл, похоже, не возражает, поэтому он может вызвать ее без обвинений. Это болезненное удовольствие — проводить с ней столько времени; для него было бы здоровее, если бы они меньше общались, но он не хочет останавливаться.

Действительно, самый сильный тезис книги может заключаться в том, что такого рода любовь просто не воспроизводима. Ана хочет присоединиться к компании под названием Polytope, чтобы привлечь финансирование, чтобы перевести ее на новую цифровую платформу. В рамках соглашения с работодателем ожидается, что она будет носить «умный трансдермальный», называемый InstantRapport, в котором используются химические изменения в мозге, чтобы перемонтировать центры вознаграждения человека, чтобы автоматически любить конкретного человека. Любовь Анны к ее усвоению заставляет ее задуматься о перестройке собственного мозга, чтобы получить ресурсы, в которых она нуждается.

И все же у дигиентов в итоге развиваются похожие мыслительные процессы. Марко и Поло, два дигента, принадлежащие Дереку, в конечном итоге соглашаются копировать их в качестве секс-игрушек, чтобы обеспечить финансирование порта. У их клонов будут перемонтированы «карты наград», чтобы они полюбили покупателя, который их покупает.

Эта история дает нам навязчивое напоминание о том, что в конечном итоге мы являемся группой нейронов, которые реагируют на раздражители. Некоторые из этих стимулов находятся под контролем, но большая их часть не запрограммирована нашим опытом без нашего сознательного вмешательства. И там мы видим, как эти две нити переплетаются друг с другом — только благодаря опыту мы можем создать привязанность, и именно привязанность и, следовательно, опыт создают человека в первую очередь.

Некоторые вопросы для Патентная автоматическая няня Дейси

  • Могут ли машины играть значимую роль в воспитании детей?
  • Работал ли научный метод в этом случае?
  • Соединяя эту историю с Жизненный цикл программных объектовЧто Чан пытается сказать о воспитании детей? Есть ли сходство или различие между этими двумя историческими представлениями о детях и родителях?
  • Должны ли мы беспокоиться о том, хочет ли ребенок разговаривать только с машиной? Мы заботимся о том, с какими объектами человек чувствует себя комфортно в общении?