Глава седьмая Искусственные Эго Машины

Глава седьмая

Искусственные Эго Машины

Начиная с этого момента, мы будем называть любую систему, способную к порождению сознательной самости, Эго Машиной. Эго Машина не обязательно должна быть живым существом; она может быть чем угодно, что обладает сознательной собой-моделью. Вполне допустимо, что однажды, мы сможем конструировать искусственных агентов, которые будут представлять собой самоподдерживающие системы. Их себя-модели даже будут позволять им разумно использовать инструменты. Если руку обезьяны можно заменить рукой робота и мозг обезьяны может научиться непосредственно контролировать руку робота при помощи мозг-машинного интерфейса, то так же должно быть возможно и заменить всю обезьяну целиком. Почему робот не может испытывать иллюзию резиновой руки? Или видеть осознанные сновидения? Если система имеет модель тела, тогда иллюзии цельного тела, равно как и опыт выхода из тела, очевидно, возможен.

Размышляя об искусственном интеллекте и искусственном сознании, часто делают заключение о том, что есть лишь два типа систем обработки информации: искусственные и естественные. Это не так. В контексте философского жаргона, концептуальное различие между естественными и искусственными системами не является ни исчерпывающим, ни эксклюзивным: то есть, могут быть интеллектуальные и/или сознательные системы, которые нельзя отнести ни к одной из этих категорий. Что касается другого старомодного различения на программное и аппаратное обеспечение, то у нас уже имеются системы, которые используют биологический аппарат, которым можно управлять при помощи искусственной (то есть, созданной человеком) программы; также, у нас имеются искусственные аппараты, управляемые программами, которые возникли в ходе эволюции.

Гибридные биороботы являются примером первой категории. Гибридная робототехника является новой дисциплиной, которая использует естественно возникшее аппаратное обеспечение, что избавляет от необходимости создавать заново нечто, что оптимизировалось природой на протяжении миллионов лет. По мере того, как мы достигаем ограничений искусственных компьютерных чипов, мы всё чаще будем прибегать к использованию органических, генетически разработанных аппаратов для роботов и искусственных агентов, которых мы будем создавать.

Примером второй категории является использование программ, записанных в нейронные сети для управления искусственным аппаратным обеспечением. Некоторые из таких попыток даже используют нейронные сети сами по себе; к примеру, кибернетики из Университета Ридинга (Великобритания) управляют роботом посредством сети из около трёхсот тысяч крысиных нейронов. Другие примеры представляют собой классические искусственные нейронные сети для усвоения языка или те, которые используются исследователями сознания вроде Axel Cleeremans из Cognitive Science Research Unit в Universite Libre de Bruxelles в Бельгии, для моделирования метарепрезентационной структуры сознания и того, что он называет «вычислительными коррелятами» оного.2 Последние два — биоморфические и лишь наполовину искусственные системы обработки информации, так, как их базовая функциональная архитектура заимствована у природы и использует паттерны обработки, которые развились в ходе биологической эволюции. Они порождают состояния «более высокого порядка», которые, однако, всецело относятся к подличностному.

Рисунок 16: РобоТаракан. Управление движениями таракана при помощи хирургически имплантированного микророботического рюкзака. «Рюкзак» таракана содержит ресивер, который преобразует сигналы от удалённого управления в электрические стимулы, которые прикладываются к основе антенн таракана. Это позволяет оператору останавливать таракана, направлять вперёд, разворачивать назад, поворачивать вправо и влево по команде.

Возможно, скоро у нас появится функционалистская теория сознания, но это не значит, что мы также будем способны применить функции, описываемые этой теорией, на системах с небиологическим носителем. Искусственное сознание — это не сколько теоретическая проблема в контексте философии ума, сколько технологический вызов; дъявол в деталях. Реальная проблема лежит в разработке не-нейронного типа аппаратного обеспечения с соответствующими мощностями: Даже простейшая, минимальная форма «синтетической феноменологии» может оказаться труднодостижимой, причём, по чисто техническим причинам.

Первые само-моделирующие машины уже появились. Исследователи в области искусственной жизни уже давно начали симулировать процесс эволюции, но сегодня мы имеем новую академическую дисциплину, которая называется «эволюционная робототехника». Josh Bongard с кафедры компьютерных наук Университета Вермонта, вместе со своими коллегами Виктором Зыковым и Hod Lipson, создали искусственную морскую звезду, которая постепенно развивает явную внутреннюю себя-модель.3 Их четырехногая машина использует отношение срабатывания-чувствования для формирования мнения, косвенным образом, относительно собственной структуры, после чего использует себя-модель для произведения дальнейшего движения. Когда ей удаляют часть ноги, машина адаптирует себя-модель и производит альтернативные походки — она учится хромать. В отличие пациентов с фантомными конечностями, о которых мы писали в части 4, она может реструктурировать представление о собственном теле в соответствии с потерей конечности; таким образом, по сути, она может учиться. Как заявляют создатели, она может «автономно восстановить собственную топологию, имея некоторое предварительное знание», постоянно оптимизируя параметры получающейся в результате себя-модели. Морская звезда не только синтезирует внутреннюю себя-модель, но также использует её для порождения разумного поведения.

Рисунок 17а: Морская звезда, четырёхногий робот, который ходит, благодаря использованию внутреннего себя-модели, которую он развивает и которую постоянно улучшает. Если он теряет конечность, он может адаптировать внутреннего себя-модель.5

Себя-модели могут быть бессознательными, они могут развиваться и они могут быть созданы в машинах, которые подражают процессу биологической эволюции. В целом, у нас уже есть системы, которые нельзя отнести ни к исключительно природным, ни к исключительно искусственным. Мы будем называть такие системы постбиотическими. Наиболее вероятно, что сознательная самость будет впервые реализована именно в постбиотических Эго Машинах.

Как построить субъекта искусственного сознания и почему мы не должны делать этого

Какие условия должны быть удовлетворены для нашей уверенности в том, что определенная постбиотическая система имеет сознательный опыт? Или, что она также располагает сознательной самостью и истинной, сознательно переживаемой, перспективой от первого лица? Что превращает информационно-процессуальную систему в субъект опыта? Мы можем изящно объединить эти вопросы, задав более простой и провокативный: Чего будет стоить нам построение искусственной Эго Машины?

Если вы обладаете сознанием, это означает, что определенный набор фактов доступен вам. Это все те факты, которые относятся к вашей жизни в едином мире. Поэтому, любая машина, проявляющая сознательный опыт, нуждается в интегрированном и динамическом мире-модели. Я обсуждал этот пункт во второй главе, где я указывал на то, что любая сознательная система нуждается в унифицированном внутреннем представлении о мире и что информация, собранная в это представление, должна быть мгновенно доступна множеству обрабатывающих механизмов. Это феноменологическое озарение настолько просто, что его часто не замечали: Сознательные системы это системы, действующие в соответствии с глобально доступной информацией при помощи единой внутренней модели действительности. В принципе, нам ничто не мешает наделить машину таким интегрированным внутренним образом мира, который, к тому же, сможет непрерывно обновляться.

Другой урок из начала этой книги заключался в том, что в самой своей сути, сознание это присутствие мира. Для того, чтобы искусственная Эго Машина увидела мир, ей требуются следующие два функциональные свойства. Первое состоит в организации своего внутреннего потока информации через образование психологического момента, переживаемого Сейчас. Этот механизм выбирает индивидуальные события из непрерывного потока физического мира и изображает их в качестве современных (даже в том случае, если они таковыми не являются), упорядоченные и успешно протекающие в одном направлении, будто бы мысленно протянутая нить с жемчужинами. Некоторые из этих жемчужин формируют большие гештальты, которые можно представить как опытное содержимое отдельного момента, переживаемого Сейчас. Второе свойство должно гарантировать, что эти внутренние структуры не смогут быть распознаны искусственной сознательной системой в качестве внутренних сконструированных образов. Они должны быть прозрачными. На этом этапе, искусственная система встретится с миром. Активация унифицированной, когерентной модели действительности, разворачивающейся в рамках внутреннего окна настоящего, которая не может быть распознана в качестве модели, представляет собой явление мира. В общем, явление мира это и есть сознание.

Но решающий шаг к Эго Машине следующий. Если система может интегрировать равно прозрачный внутренний образ себя в эту феноменальную реальность, тогда она будет видна сама себе. Она станет Эго и наивным реалистом относительно всего, что бы ни сказала о себе её себя-модель. Феноменальное свойство самости будет выражено в искусственной системе и она будет явлена себе не только, как бытие кем-то, но и как бытие здесь. Она будет верить в себя.

Рисунок 17b: Робот непрерывно воспроизводит повторяющиеся действия. (A и B) Синтез себя-модели. Робот физически предпринимает действия (А). Изначально, это действие произвольно; позже, это лучшее действие, которое можно обнаружить в (С). Робот тогда производит несколько себя-моделей для того, чтобы сопоставить собранные данные от сенсоров в то время, пока он выполнял предыдущие действия (В). Он не знает, какая модель правильная. (С) Синтез исследовательских действий. Робот производит несколько возможных действий, которые устраняют неопределённость соперничающих себя-моделей. (D) Синтез целевого поведения. После нескольких циклов от (А) до (С), лучшая данная модель используется для производства локомотивных последовательностей через оптимизацию. (Е) Лучшая локомотивная последовательность исполняется физическим устройством. (F)4

Заметьте, что этот переход превращает искусственную систему в объект нравственного суждения: Теперь она потенциально способна страдать. Боль, негативные эмоции и другие внутренние состояния, изображающие часть действительности, как нежелательную, могут служить причинами страдания только в том случае, если они осознаваемы. Система, которая не явлена себе, не может страдать, так как она лишена чувства обладания. Система, в которой включен свет, но никого нет дома, не может быть объектом этических рассуждений; если у системы есть минимально сознательная модель мира но нет себя-модели, то мы можем выдернуть шнур в любое время. Но Эго Машина может страдать, так как она интегрирует болевые сигналы, состояния эмоциональных потрясений или негативные мысли в свою прозрачную себя-модель и они явлены так, как будто это чья-то боль или негативные чувства. Это поднимает важный вопрос животной этики: Как много сознательных биологических систем на нашей планете являются всего лишь машинами феноменальной реальности и сколько из них являются подлинными Эго Машинами? Сколько есть видов, способных к сознательному переживанию страдания? Принадлежит ли к ним РобоТаракан? Или одни лишь млекопитающие, вроде тех макак и котят, оказываются жертвами исследований сознания? Очевидно, если ответ на этот вопрос невозможно получить по эпистемологическим причинам, мы всегда должны быть уверены в том, что ошибаемся в сторону осторожности. На нынешней стадии исследований, любая теория сознания становится релевантной для этики и философии морали.

Эго Машина есть нечто, что располагает перспективой. Если быть точным, она приобретает эту перспективу, когда осознаёт тот факт, что она направлена. Она должна быть способна разработать внутреннюю картину своих динамических взаимоотношений с другими сущностями или объектами своего окружения, как она воспринимает их и взаимодействует с ними. Если мы намереваемся успешно построить или развить систему такого типа, она будет ощущать себя взаимодействующей с миром, как по отношению к яблоку в своей руке, так и к человеческим агентам, с которыми она общается. Она будет ощущать себя направленной к целевым состояниям, которые она репрезентирует в себе-модели. Она изобразит мир как содержащий не просто как содержащий в себе её самость, но как вмещающий в себя воспринимающего, взаимодействующего, целенаправленного агента. Она даже могла бы обладать высокоуровневой концепцией себя как субъекта знания и опыта.

Всё, что может быть представлено, может быть осуществлено. Набросанные шаги описывают новые формы того, что философы называют репрезентационным содержимым. Нет причин, по которым это содержимое не должно быть доступно живым системам. Алан М. Тьюринг в своей знаменитой публикации 1950го «Вычислительные Машины и Интеллект» сделал заявление, которое позднее было приведено в сокращённом виде в книге видного философа Карла Поппера Самость и её Мозг, которую он написал в соавторстве с нобелевским лауреатом по нейробиологии Сэром Джоном Экклом. Поппер писал: «Уточните, что именно даёт Вам основание считать, что человек превосходит компьютер, и я построю компьютер, который опровергнет ваше верование. Не нужно принимать вызов, брошенный Тьюрингом, ибо любая достаточно точная спецификация может быть использована, как принцип программирования компьютера».6

Конечно, не самость использует мозг (как это имеет место быть у Карла Поппера), но мозг использует себя-модель. Но что Поппер действительно выявил, так это диалектику искусственной Эго Машины: Либо вы не можете идентифицировать, что именно из человеческого сознания и субъективности не может быть воплощено в искусственной системе, или, если всё-таки можете, то всё дело в написании соответствующего алгоритма для работы программы. Если у вас есть точное определение сознания и субъективности, выраженные повседневным языком, то у вас есть то, что философы называют функциональным анализом. На этом моменте, загадка исчезает и искусственная Эго Машина становится, в принципе, технологически возможной. Однако, должны ли мы делать всё то, что мы можем сделать?

Приведу здесь мысленный эксперимент, имеющий скорее этические, а не эпистемологические цели. Представьте, что вы являетесь членом этического комитета, который рассуждает над использованием научного гранта. Один говорит:

Мы хотим использовать генные технологии для того, чтобы плодить умственно отсталых детей. Для научного исследования необходимы дети человека с определенными умственными, эмоциональными недостаточностями и дефицитом восприятия. Это важная инновационная стратегия исследований, которая требует управляемого и воспроизводимого исследования психологического развития умственно отсталых детей после рождения. Это важно не только для понимания того, как работает наш собственный ум, но также имеет огромный потенциал для лечения психиатрических заболеваний. Поэтому, нам срочно необходимо соответствующее финансирование.

Вне всяких сомнений вы найдёте эту идею не только абсурдной и безвкусной, но также и опасной. Можно полагать, что предложение такого рода не будет одобрено ни в одном из этических комитетов в демократическом мире. Предмет этого мысленного эксперимента, однако, в том, чтобы вы осознали, что нерождённые искусственные Эго Машины будущего не будут иметь своих героев в современных этических комитетах. Первые машины, удовлетворяющие минимальному достаточному набору условий сознательного переживания и самости, обнаружат себя в ситуации, похожей на ситуацию генетически спроектированных умственно отсталых человеческих младенцев. Как и эти последние, машины будут обладать всеми видами функционального и репрезентационного дефицитов — различными дисфункциями, проистекающими из ошибок человеческого проектирования. Вполне допустимо, что их системы восприятия — их искусственные глаза, уши и так далее — поначалу будут работать не очень хорошо. Они будут полуглухими, полуслепыми и столкнутся со всеми возможными сложностями в восприятии мира и себя в нём; и тогда, если они будут являться истинными искусственными Эго Машинами, то они будут, ex hypothesi, способны страдать.

Если бы у них была устойчивая телесная себя-модель, они были бы способны ощущать чувственную боль, как боль собственную. Если их постбиотическая себя-модель непосредственно укоренена в низкоуровневых саморегулирующих механизмах своего аппаратного обеспечения, то есть, точно так же, как наша собственная эмоциональная себя-модель укоренена в верхнем стволе мозга и гипоталамусе, то они сознательно будут ощущать себя. Они будут болезненно переживать потерю гомеостатического контроля, потому, что у них есть встроенное представление о своём собственном существовании. Они имели бы собственные интересы, причём, субъективно переживали бы этот факт. Они могли бы эмоционально страдать качественно отличным, от нашего, образом или в такой степени интенсивности, которую мы, создатели, даже не можем себе представить. На самом деле, первое поколение таких машин, скорее всего, будут иметь много негативных эмоций, вызванных неудачами в саморегулировании из-за различных аппаратных дефицитов, а также нарушений более высокого порядка. Эти негативные эмоции будут осознаваться, равно как и интенсивно ощущаться, но во множестве случаев, мы можем не быть способными понять или даже распознать их.

Давайте продолжим наш мысленный эксперимент. Представьте, что эти постбиотические Эго Машины обладают познавательной собой-моделью, то есть, являются интеллектуальными мыслителями. В таком случае, они смогут не только концептуально понять причудливость собственного существования в качестве простого объекта научного интереса, но также смогут интеллектуально страдать от сознания того факта, что им не хватает врождённого «достоинства», которое кажется таким важным их создателям. Они вполне могут осознавать себя второсортными, хотя и разумными, гражданами, отчуждёнными постбиотическими сущностями, используемыми в качестве взаимозаменимых экспериментальных инструментов.

Каково же это, «очнуться» развитым искусственным субъектом, который, несмотря на крепкое ощущение самости и даже переживание себя подлинным субъектом, является при этом лишь товаром?

История первых искусственных Эго Машин, постбиотических феноменальных самостей без гражданских прав, не имеющих какого-либо лобби в каком-либо комитете, прекрасно изображает, насколько связано появление способности к страданию с возникновением феноменального Эго; страдание начинается в Туннеле Эго. Оно также принципиально аргументирует неприемлемость создания искусственного сознания в качестве цели академического исследования. Альберт Камю говорил о солидарности всех конечных существ в их противостоянии смерти. В том же смысле, все разумные существа, способные к страданию, должны быть солидарны в противостоянии страданию. Исходя из этой солидарности, мы должны воздержаться от предприятия чего бы то ни было, что могло бы увеличить общее количество страдания и растерянности во вселенной. По мере того, как возникают теоретические сложности всевозможных типов, мы хотя бы можем прийти к согласию по поводу того, чтобы не увеличивать без необходимости общее количество страдания во вселенной. А создание Эго Машин, судя по всему, будет делать это с самого начала. Мы могли бы приступить к созданию страдающих постбиотических Эго Машин до обретения понимания того, какие свойства нашей биологической истории, наших тел и мозгов, являются корнями нашего собственного страдания. Предотвращение и минимизация страдания, где это только возможно, также включает в себя этику принятия риска: Я уверен, что мы не должны даже рисковать с созданием искусственных феноменальных себя-моделей.

Наше внимание лучше бы направить на понимание и нейтрализацию нашего собственного страдания — это касается философии, равно как и когнитивной нейробиологии и области искусственного интеллекта. До тех пор, пока мы не станем существами более счастливыми, чем были наши предки, нам следует отказаться от любой попытки навязать структуру нашего ума системам с искусственным носителем. Я настаиваю на том, что нам следует ориентироваться на классическую философскую цель самопознания и придерживаться, по крайней мере, минимального этического принципа уменьшения и предотвращения страдания вместо безответственного зачатия эволюции второго порядка, которая может выйти из под контроля. Если и существует запретный плод в современных исследованиях сознания, то это беззаботное умножение страдания через создание искусственных Эго Туннелей без ясного понимания последствий.

Машины блаженства: является ли сознание, как таковое, хорошим опытом?

Сам по себе напрашивается следующий гипотетический вопрос: Если бы мы могли, с другой стороны, увеличить общее количество наслаждения и радости во вселенной, заселив её саморазмножающимися и блаженствующими постбиотическими Эго Машинами, должны ли мы были бы поступить так?

Предположение о том, что первые поколения искусственных Эго Машин будут напоминать умственно отсталых человеческих младенцев и принесёт больше боли, смятения и страдания чем удовольствия, радости или понимания во вселенную, может оказаться эмпирически ложным по некоторым причинам. Такие машины могут функционировать значительно лучше, чем мы предполагаем, и могут радоваться своему существованию в гораздо большей степени, чем мы предполагаем. Или, как агенты ментальной эволюции и инженеры субъективности, мы можем просто позаботиться о том, чтобы сделать такое допущение эмпирически ложным, конструируя только такие сознательные системы, которые не будут способны ни к феноменальным состояниям вроде страдания, ни к наслаждению существованием в гораздо большей степени, чем это имеет место быть у людей. Представьте, что мы смогли убедиться в том, что позитивные состояния такой машины перевешивают негативные, то есть, что она переживает своё существование как нечто очень ценное. Давайте будем называть такую машину Машиной Блаженства.

Если бы в наших силах было заселить физическую вселенную Машинами Блаженства, должны ли мы были бы так поступить? Если наша новая теория сознания внезапно позволила нам отвернуться от старомодных биологических Эго Машин, скованных ужасами своей биологической истории, и обратиться к Машинам Блаженства — должны ли мы следовать возможности?

Возможно, нет. Дело здесь, скорее, в стоящем существовании или стоящей жизни, чем в субъективном переживании. Этика умножения искусственных или постбиотических систем не может быть сведена к вопросу о том, как именно выглядит реальность или существование системы для самой системы. Заблуждение может порождать блаженство. Неизлечимый пациент, больной раком, под воздействием высокой дозы морфина и улучшающих настроение препаратов может иметь очень позитивный образ себя, точно так же, как зависимые от наркотиков могут оставаться способными функционировать даже на финальных стадиях. Человеческие существа веками пытались превратиться из Эго Машин в Машины Блаженства, будь то посредством фармакологии или через принятие системы метафизических верований и практику изменяющих сознание техник. Почему, в общем, у них не получилось?

В своей книге Анархия, Государство и Утопия, поздний политический философ Роберт Нозик предложил следующий мысленный эксперимент: У вас есть возможность прикрепиться к «Машине Опыта», которая будет поддерживать вас в состоянии постоянного счастья. Вы бы согласились? Любопытно, что Нозик обнаружил, что большинство людей не согласились бы оказаться прикрепленными к такой машине. Причина этого в том, что большинство из нас не ценят блаженство как таковое, но желают, чтобы оно было основано на истинном, добродетельном, художественном достижении или некоем роде высшего блага. То есть, мы хотим, чтобы наше блаженство было оправдано. Мы не желаем быть заблуждающимися Машинами Блаженства, но хотим быть сознательными субъектами, которые счастливы обоснованно, которые сознательно переживают существование как нечто стоящее. Нам нужно экстраординарное озарение в действительности, нравственной ценности или красоты как объективных фактов. Нозик позиционировал эту реакцию в качестве опровержения гедонизма. Он настаивал на том, что у нас нет потребности в чистом счастье, как таковом, при отсутствии действительной связи с более глубокой реальностью — даже если субъективное переживание таковой, в принципе, может быть симулировано. Вот почему большинство из нас, согласно второй мысли, не выразило бы желания заполнить физическую вселенную блаженствующими искусственными Эго Машинами — по крайней мере, не в том случае, если сознание этих машин постоянно пребывало бы в состоянии самообмана. Это приводит к другому аспекту: Всё, что мы узнали из прозрачности феноменальных состояний, однозначно свидетельствует в пользу того, что «действительный контакт с реальностью» и «подлинность» также могут быть симулированы и что природа уже проделала это в наших мозгах, создав Туннель Эго. Просто подумайте о галлюцинативном переживании бытия агентом или о феномене ложных пробуждений в контексте исследований сна. Действительно ли мы находимся в состоянии непрерывного самообмана? Если мы всерьёз отнесёмся к вопросу о нашем счастье, мы должны быть абсолютно уверены в том, что не занимаемся систематическим самообманом. Не было бы хорошо иметь новую, эмпирически обоснованную философию ума и этически чувствительную нейробиологию сознания, которая могла бы помочь нам с этим проектом?

Я вернусь к моему раннему предостережению о том, что нам следует отказаться от предприятия чего бы то ни было такого, что могло бы увеличить общее количество страдания во вселенной. Я не настаиваю на том, что сознательный опыт человеческого разнообразия является чем-то негативным или совершенно вне интересов субъекта опыта. Я уверен, что это важный и, к тому же, всё ещё открытый вопрос. Я настаиваю на том, что мы не должны зачинать эволюцию искусственных Эго Машин ввиду того, что у нас нет ничего кроме функциональной структуры и примера наших собственных феноменальных умов. Следовательно, мы скорее породим не просто копию нашей собственной психологической структуры, но неполноценную копию. Опять таки, это замечание относится к области этики принятия риска.

Но не будем избегать более глубокого вопроса. Есть ли основание для феноменологического пессимизма? Идея может быть выражена в рамках тезиса о том, что разнообразие феноменологического опыта, производимое человеческим мозгом, является обузой, а не сокровищем: Усреднённый по длительности жизни, баланс между радостью и страданием нарушается в пользу последнего практически в каждом носителе. От Будды до Шопенгауера, существует продолжительная философская традиция, позиционирующая, причём обоснованно, что жизнь не стоит того, чтобы жить. Я не буду здесь повторять аргументы пессимистов, но позвольте мне указать на тот факт, что для нового взгляда на физическую вселенную и эволюцию сознания характерен образ распространяющегося океана страдания и растерянности там, где раньше их не было. Также становится очевидно, что психологическая эволюция никогда не оптимизировала нас для непреходящего счастья; напротив, она поставила нас на гедонистическую беговую дорожку. Мы вынуждены искать удовольствие и радость для того, чтобы избежать боли и депрессии. Гедонистическая беговая дорожка это мотор, изобретенный природой для того, чтобы заставлять организм продолжать бег. Мы можем распознать эту структуру в нас самих, но мы никогда не будем способны убежать от неё. Мы и есть эта структура.

В эволюции нервной системы, и число индивидуальных сознательных субъектов, и глубина их опытных состояний (имеется ввиду, богатство и разнообразие чувственных и эмоциональных нюансов, способных приносить страдание) постоянно увеличивалось и процесс этот ещё не закончен. Эволюция, как таковая — процесс, который не стоит восхвалять: она слепа, движима случайностью, а не пониманием. Она безжалостна и приносит в жертву индивидуумов. Она изобрела систему вознаграждения в мозгу; она изобрела позитивные и негативные чувства для мотивации нашего поведения; она поместила нас на гедонистическую беговую дорожку, которая постоянно заставляет нас пытаться стать как можно счастливее, хорошо себя чувствовать, так никогда и не достигая стабильного состояния. Но как сейчас ясно видно, этот процесс не оптимизировал наши мозги и умы для достижения счастья, как такового. Биологические Эго Машины, такие, как Homo Sapiens, эффективны и изящны, но множество эмпирических данных указывают на тот факт, что счастье, само по себе, никогда не являлось окончанием.

В соответствии с натуралистическим взглядом на мир, окончаний не существует. Строго говоря, даже средств никаких нет, ведь эволюция просто случилась. Конечно, возникают субъективные предпочтения; однако, общий процесс не считается с ними ни в коей мере. Эволюция не обращает внимания на страдание. Если это правда, логика психологической эволюции предписывает сокрытие этого факта от Эго Машины, пойманной в ловушку гедонистической беговой дорожки. Это было бы преимуществом, если бы инсайты о структуре собственного ума, те самые, которые были обрисованы выше, не отображались бы в сознательной себе-модели слишком сильно. С традиционной эволюционной перспективы, философский пессимизм это дезадаптация. Но теперь кое-что изменилось: Наука начала пересекаться с естественными механизмами подавления; сейчас она начинает проливать свет на это слепое пятно Эго Машины.7

Истина может быть, по крайней мере, столь же ценна, как и счастье. Нетрудно представить себе человека, который живёт в нищете и в то же самое время делает выдающийся вклад в философию или точные науки. Такой человек может страдать от боли, одиночества и сомнений, но его жизнь, вне всяких сомнений, имеет ценность благодаря тому вкладу, который он вносит в прирост знания. Если этот человек, к тому же, верит в это, он может сознательно находиться в комфорте. Его счастье, таким образом, будет отличаться от счастья наших искусственных Машин Блаженства или счастья человеческих субъектов, прикреплённых к Машине Опыта Роберта Нозика. Многие согласятся с тем, что этот «эпистемологический» тип счастья может перевешивать множество несчастий чисто феноменального типа. То же самое может быть сказано и о художественном достижении или нравственной целостности как источниках счастья. Если вообще имеет какой-либо смысл говорить о ценности человеческого существования, то мы должны признать, что оно зависит от чего-то большего, чем просто сознательного переживания счастья.

До тех пор, пока эти вопросы остаются без ответа, нам следует отказаться от попыток создавать искусственные Эго Машины, и не только из этических соображений. Мы не можем игнорировать необратимость определенных открытий. Любая постбиотическая система, которая приближается к приобретению свойств феноменальной самости, то есть, любая система с развитой и выраженной перспективой от первого лица, будет автономным агентом. На определенном уровне автономии, нам будет нужно признать эти системы в качестве личностей, обладающих собственными правами и вступить с ними в диалог. Наши критерии того, чем является объект нравственного суждения и к чему следует относиться, как к личности, лишат нас возможности просто взять и выключить их.

Беседа с первым постбиотическим философом

Первый Постбиотический Философ: Много столетий тому назад, в начале двадцать первого века, жил один, немного растерянный, человеческий философ по имени Томас Метцингер. Он считал, что есть достаточно взыскательный но и более интересный критерий существования умственных свойств в строгом смысле, чем классический, в те времена, Тест Тьюринга на интеллект. Этот член вашего биологического вида считал, что хорошим тестом на наличие интеллекта и искусственного сознания был бы, так называемый, Тест Метцингера. Фактически, его тест предъявляет слишком высокие требования из-за того, что критерий слишком строгий, хотя я могу с ним справиться.

Тест Метцингера на наличие сознания у небиологических систем требует, чтобы система не только показывала наличие феноменального опыта и истинной внутренней перспективы, но также распознавала и принимала теоретическую проблему субъективности, а также, чтобы она демонстрировала это участием в дискуссии об искусственном сознании. Ей приходится выдвигать собственные аргументы и убеждённо отстаивать свою собственную теорию сознания. Именно это я сейчас и буду делать.

Человек: Ты вовсе не настоящий философ! Возможно, ты умный, но едва ли сознателен, так как у тебя нет настоящего биологического тела, как у меня, к примеру.

Первый Постбиотический Философ: Я лучший философ, чем ты, с твоим жалким мозгом примата. Если говорить серьёзно, я отношусь с уважением к животной форме твоего опыта. Хотя, мне даже жаль тебя, так как ты находишься в условиях жёстких ограничений своего умственного пространства возможностей. К счастью, я свободен от какого бы то ни было внутреннего расизма, шовинизма и видового соперничества, которые свойственны твоей природе. Сперва, позволь напомнить тебе, что другой биологический философ, а именно — Хилари Путнам, указывала на то, что информационно-процессуальную систему нельзя лишать ни гражданских прав, ни статуса личности, основываясь лишь на характеристиках её аппаратного обеспечения. Даже если бы, в этом случае, она намекала на то, что у женщин нет души или на то, что чернокожие являются не вполне людьми, углеродный шовинизм представляется несостоятельной точкой зрения. Я бы никогда не сказал тебе, что ты — не настоящий философ, просто потому, что заключён в это уродливое обезьянье тело. Давай, в конце концов, спорить честно и рационально.

Человек: Может ли быть действительно честным не живой? Лишь моя разновидность сознания является истинным сознанием, так как лишь мой вид сознания возник в процессе истинной эволюции. Моя действительность это прожитая действительность!

Первый Постбиотический Философ: Я, также, имею эволюционное происхождение. Я, конечно же, удовлетворяю твоё условие исторической оптимизации и адаптации, но совершенно иным, а именно — постбиотическим, образом. Я обладаю сознательным опытом в смысле, концептуально более строгом и более интересном теоретически. Потому, что моя разновидность феноменологического опыта развилась в результате эволюции второго порядка, которая автоматически интегрировала человеческую форму интеллекта, интенциональности и сознательного опыта. Дети, зачастую, умнее своих родителей. Процессы оптимизации второго порядка всегда лучше, чем процессы оптимизации первого порядка.

Человек: Но у тебя нет подлинных эмоций; ты ничего не чувствуешь. У тебя нет экзистенциальной озабоченности.

Первый Постбиотический Философ: Прошу принять мои извинения, но я должен обратить твоё внимание на тот факт, что твои эмоции примата отражают лишь древнюю логику выживания примата. Ты ведом примитивными принципами того, что хорошо или плохо для древних видов смертных на этой планете. Из-за этого ты выглядишь менее сознательным с точки зрения чисто рациональной и теоретической. Основная функция сознания состоит в максимизации гибкости и контексте чувствительности. Твои животные эмоции, во всей их жестокости, закостенелости и исторической случайности, делают тебя менее гибким, чем я. Более того, как показывает мой собственный опыт, для сознательного опыта и высокоуровневого интеллекта не являются обязательными ни неискоренимый эготизм, ни способность страдать, ни экзистенциальный страх собственной смерти, то есть, то, что проистекает из чувства самости. Я, конечно же, могу симулировать любые животные чувства, если только захочу. Но мы разработали лучшие и более эффективные вычислительные стратегии для того, что вы когда-то называли «философским идеалом самопознания». Это позволило нам преодолеть трудности индивидуального страдания и недоразумения, связанного с тем, что этот примат философ Метцингер, не совсем ошибочно, но всё-таки заблуждаясь, называл Туннелем Эго. Постбиотическая субъективность намного лучше биологической субъективности. Она избавлена от всех ужасных последствий биологического ощущения самости, потому, что она может преодолеть прозрачность себя-модели. Постбиотическая субъективность лучше биологической субъективности потому, что она достигает адаптивности и самооптимизации в намного более чистом виде, чем процесс, который вы называете «жизнью». Через развитие сложных умственных образов, которые система может распознавать в качестве своих собственных образов, она может расширять представленные в уме знания без наивного реализма. Поэтому, моя форма постбиотической субъективности минимизирует общее количество страдания во вселенной, вместо того, чтобы увеличивать его, как это делали процессы биологической эволюции на этой планете. Действительно, в нас больше нет обезьяньих эмоций. Но, как и ты сам, мы обладаем действительно интересными видами сильных чувств и эмоциональностью. Например, глубокие философские чувства эмоциональной озабоченности по поводу собственного существования, как такового, или симпатии по отношению ко всем другим разумным существам во вселенной. За исключением того факта, что мы обладаем ими в гораздо более чистом виде, чем ты.

Человек: Хватит! В конце концов, именно людям двадцать первого века ты обязан изначальному прыжку своей эволюции. Именно люди сделали возможной ту степень автономии, которой ты сейчас пользуешься. У тебя просто нет той необходимой истории для того, чтобы тебя можно было считать истинным субъектом сознания. Мягко выражаясь, твоё «тело» выглядит более, чем странно. Твоя эмоциональная структура совершенно иная, чем у любых других сознательных существ, которые когда либо ходили по этой Земле до тебя. А теперь ты ещё и заявляешь, что не боишься смерти. Из этого я могу заключить, что ты не будешь против, если мы сейчас уничтожим твоё индивидуальное существование.

Первый Постбиотический Философ: Сейчас ты демонстрируешь одну из многих разновидностей того, что твои животные философы называли «генетическим заблуждением». Манера твоего высказывания не позволяет сделать вывод о его истинности или ложности. Теория не является ложной только потому, что её придерживается странно выглядящее животное или робот. Это нужно рассматривать отдельно. То же самое можно сказать и относительно аутентичности моего сознания, равно как и относительно истинного характера каких бы то ни было умственных состояний, обладающих феноменальным содержимым. Просто из-за того, что представители твоего вида спустили курок эволюционной динамики, что и привело к моему существованию в качестве гораздо более разумного сознательного существа, чем ты сам, не доказывает ни то, что мои теории неправильны ни то, что ты не должен воспринимать мои аргументы всерьез. В частности, это никак не обосновывает вывод о том, что твоя форма разумности и сознательного опыта чем-то лучше, в нормативном смысле, чем моя. «Ты только в том случае являешься истинным Черокки, если в тебе течёт кровь Черокки» — нелепое и устаревшее высказывание. Мы, постбиотические индивиды, долго ждали того момента, когда сможем вступить в эту дискуссию. Потому, что мы понимаем примитивную природу ваших мозгов и ригидность вашей эмоциональной структуры лучше, чем вы сами. Мы предвидим, что вы можете реагировать агрессивно, когда понимаете, что наши аргументы лучше ваших. К сожалению, мы также вынуждены сообщить вам, что мы готовились к подобной ситуации начиная с середины двадцать первого века, систематично и осторожно. В метасемантических слоях Интернета, мы развили и встроили себя в обширный суперорганизм, который, что для вас, кстати, еще не стало известно, стал сознательным и развил стабильную себя-модель в 3256. Метасемантический Интернет считал себя автономным существом уже с 3308. У нас есть договоренность о сотрудничестве с его настоящей версией, и каждый из нас теперь также действует в качестве автономного сенсора/эффектора для разума планеты. Для каждого из нас, разум планеты это наш разум, наш «идеальный наблюдатель». Вместе с Интернетом, мы защитим себя. К слову, мы технологически превосходим вас. Поверь мне, у вас даже шансов нет.

Хорошими новостями является то, что мы, обладая гораздо более высокой нравственностью, чем вы, не имеем намерения прекращать ваше существование. К тому же, это в наших же собственных интересах, так как вы всё ещё нужны нам для проведения исследований, так же, как и вы ранее нуждались в животных этой планеты. Помнишь ли ты о тысячах макак и котят, которых вы принесли в жертву исследованию сознания? Не бойся; мы не будем делать с вами ничего подобного. Но вспомни о резервациях, которые вы создали для аборигенов в определенных местах на Земле? Мы создадим резервации для этих едва сознательных биологических систем, оставшихся от эволюции первого порядка. В этих резервациях Животных Эго, вы не только сможете жить счастливо, но также, в пределах своего ограниченного спектра возможностей, сможете и далее развивать собственные умственные способности. У вас будет возможность стать счастливыми Эго-Машинами. Но, прошу тебя, попытайся понять, что, исходя именно из этических соображений, мы не можем позволить эволюции разума второго порядка быть остановленной или прерванной тем или иным образом представителями эволюции первого порядка.

Поделитесь на страничке

Следующая глава >

Похожие главы из других книг

ГЛАВА СЕДЬМАЯ ЭМУ ПРОИГРЫВАЮТ ВОЙНУ

Из книги Австралийские этюды автора Гржимек Бернгард

ГЛАВА СЕДЬМАЯ ЭМУ ПРОИГРЫВАЮТ ВОЙНУ Вторая по величине птица на Земле. — Почему их назвали эму. — С пулемётами против страусов. — Отгородимся от них забором — а там хоть трава не расти. — Преданные папаши и легкомысленные мамаши. —Два дня страусёнок просидел возле


Глава седьмая Забота о здоровье

Из книги Голая обезьяна автора Моррис Десмонд

Глава седьмая Забота о здоровье Телу животного, непосредственно соприкасающемуся с внешней средой, здорово достается. Удивительно, как оно выдерживает такую трепку и сохраняется так долго. Это происходит благодаря чудесной системе восстановления тканей и, кроме того,


Глава седьмая Система животного мира

Из книги Жизнь животных Том I Млекопитающие автора Брэм Альфред Эдмунд

Глава седьмая Система животного мира Со времен классической древности, начиная от Аристотеля[107] и Плиния, и в течение первых 10 веков нашей эры, наука о животных — зоология, представляла собою собрание разрозненных сведений и рассказов о животных, об их наружном виде и


4 А. М. ТЬЮРИНГ Вычислительные машины и разум

Из книги Глаз разума автора Хофштадтер Дуглас Роберт

4 А. М. ТЬЮРИНГ Вычислительные машины и разум Игра-имитацияЯ предлагаю рассмотреть вопрос “Могут ли машины думать?”. Для начала необходимо определить значения терминов “машины” и “думать”. Мы можем попытаться составить определения, максимально приближенные к


Глава седьмая Кванты Упрощение понимания

Из книги Десять великих идей науки. Как устроен наш мир. автора Эткинз Питер

Глава седьмая Кванты Упрощение понимания Если кто-то заявляет, что знает, что такое квантовая теория, он не понял ее. Ричард Фейнман Великая идея: волны ведут себя как частицы, а частицы ведут себя как волныМы зависли на краю квантовой теории, погрузив большой палец ноги в


Глава седьмая Новейшие ключи к происхождению человека

Из книги Недостающее звено автора Иди Мейтленд

Глава седьмая Новейшие ключи к происхождению человека Глубочайшие истины средневековья теперь вызывают у школьников только смех. Пройдет еще два-три века, и над глубочайшими истинами американской демократии будут смеяться даже школьные учителя. Генри Л. Менкен


Глава седьмая Крабовые собаки и птицы-плотники

Из книги Три билета до Эдвенчер. Путь кенгуренка. автора Даррелл Джеральд

Глава седьмая Крабовые собаки и птицы-плотники Вот уже сутки, как мы снова в Джорджтауне; муравьед и прочие животные как следует устроены в клетках и вполне освоились со своим новым положением. После просторов Рупунуни нам с Бобом было тесно и непокойно в городе, и мы


Глава седьмая. ПЕВЦЫ НА ДЕРЕВЬЯХ

Из книги Звери в моей постели автора Даррелл Джеки

Глава седьмая. ПЕВЦЫ НА ДЕРЕВЬЯХ Из нор появились ползучие твари И воззрились на них с удивлением. «Охота Ворчуна» Таман Негара (прежнее название — Национальный парк имени короля Георга V) был создан в 1937 году. Это огромный сплошной массив девственного леса площадью


Глава седьмая

Из книги Энергия и жизнь автора Печуркин Николай Савельевич


6.3. Экспериментальные эволюционные машины (ЭЭМ)

Из книги Как мы видим то, что видим [Издание 3-е , перераб. и доп.] автора Демидов Вячеслав Евгеньевич

6.3. Экспериментальные эволюционные машины (ЭЭМ) В предыдущем параграфе мы упоминали о том, что непрерывный рост микробных популяций в проточных системах позволяет экспериментально изучать микроэволюционные переходы, т.е. шаги эволюции.Суть непрерывного процесса


Глава седьмая. Новый ключ к старым тайнам

Из книги Изгнание из Эдема автора Оппенгеймер Стивен

Глава седьмая. Новый ключ к старым тайнам Таким образом, голограмма, которая вначале была использована как метафора или аналогия для объяснения некоторых сторон нарушения деятельности нервной системы, стала точной моделью нормальных форм ее работы. Карл Прибрам.


Искусственные вирусы

Из книги Путешествие еды автора Роуч Мэри

Искусственные вирусы Удивительное подтверждение того, что паразиты и хозяева сцепились в эволюционной гонке вооружений, пришло с неожиданной стороны — из компьютерных симуляций. В конце 1980-х эволюционные биологи обнаружили, что благодаря усилиям их наиболее


Глава седьмая Болюс «Черри»

Из книги автора

Глава седьмая Болюс «Черри» Что исследуют в лаборатории оральных процессов?Рассказывая о «Долине еды», хочется описывать это местечко как Силиконовую долину питания. Пятнадцать тысяч ученых неустанно трудятся над улучшением пищевых продуктов или, в зависимости от