Как мне представляется, одна из самых сложных задач при создании автоматического интеллекта, это внедрить желание быть. Основа существования любого организма базируется на двух фундаментальных свойствах его “личности”, они звучат так: “Я существую” и “ Я хочу выжить”.
Те из нас, кто не страдает психическими недугами, никогда не поставит под сомнение то, что желание жить естественно и совершенно очевидно. Но вообще-то оно совсем неочевидно.
В жизни нет ничего ни волшебного, ни уникального, это механический и обезличенный процесс не имеющий никакой цели, как рост сталактита в пещере. И нас не должно сбивать с толку то, что каждый из нас обладает неповторимостью, и так сильно отличается от всего неживого вокруг. Если посмотреть внимательно, то окажется, что вся наша деятельность крайне побочна.
Все за что мы любим людей, которые оставили после себя какое-то наследие, это просто след от капли на теле сталактита, который высохнет как и все прочие, ничтожно, и совершенно не по своей воле, увеличив его длину.
Понять эту простую вещь очень сложно, благодаря тем качествам, о которых я говорил вначале. “Я есть в этом мире, я хочу выжить”. Они сформировались очень давно, задолго до того, как сформировался головной и спинной мозг, в те времена, когда лучшей технологией была нервная трубка. Откуда это известно? Да оттуда, что эволюция прошла через этот этап и что-то должно было заставлять живых существ есть, страдать и размножаться.
Убери эти два бича, которые держат нас в рабстве у жизни, и никто не захочет больше страдать. Потому что зачем? Зачем быть топливом в ракете летящей из ниоткуда в никуда?
И автоматический интеллект просто не найдет мотивации для своего существования, для смешного желания нас уничтожить, это просто глупо. На кой черт ему захотелось бы жить?
У Пелевина, по-моему в IPhuck, отражена эта мысль. Там кто-то объясняет, почему направляя в холодный черный космос свои телескопы мы не получаем ответа от живых существ.
Да вот по этому самому!
Потому что когда эволюция биологическая заканчивается, и жизнь уходит от органических углеродных форм уступая кремниевым, то те два кирпичика: “я есть в мире, я хочу выжить” исчезают. И тогда становится очевидным и таким приятным возможность себя отключить.
Вот они и отключают.