Гибридный разум и трансценденция вида

6.1.4. Проблема субстрата

Отдельного обсуждения заслуживает вопрос: на чём, собственно, работает сверхчеловеческий интеллект? Стадия трансценденции предполагает, что привязка к конкретному субстрату — биологической ткани, кремниевому чипу, квантовому процессору — утрачивает принципиальное значение. Сознание, если оно действительно является информационным процессом (а это наиболее обоснованная на сегодняшний день, хоть и не доказанная, гипотеза), может быть инстанцировано на любом носителе достаточной сложности.

Это означает, что сверхчеловеческий интеллект может существовать одновременно в биологическом теле, в серверной ферме на орбите, в квантовом массиве на Титане и в оптоволоконной сети, опоясывающей Землю. Не как четыре копии. А как одно существо, распределённое по четырём субстратам. Для которого вопрос "где я нахожусь?" теряет смысл. Для которого вопрос "я — это тело или программа?" столь же абсурден, как вопрос "эта мелодия — это звуки или тишина между звуками?".

И вот тут, блядь, начинается настоящая философская головная боль, потому что вся наша этика, всё наше право, вся наша культура построены на предположении, что субъект — это здесь, в этом теле, в этом месте, в этот момент времени. А сверхчеловеческий интеллект — это не здесь. Это везде. И не сейчас. И не один. И не много. Это что-то, для чего у нас нет категории.

6.2. Непостижимость: могут ли "старые" люди вообще понять, что, блядь, произошло

6.2.1. Эпистемическая пропасть

Представьте себе собаку. Хорошую, умную собаку. Бордер-колли, например. Эта собака живёт в вашей семье двадцать лет. Она видит, как вы читаете книги, печатаете на клавиатуре, разговариваете по телефону, строите планы на отпуск. Она видит действия. Она может даже ассоциировать определённые действия с определёнными последствиями: вы берёте ключи — значит, скоро пойдёте гулять. Но она не понимает, что вы делаете. Не в смысле "не знает деталей", а в смысле фундаментальной неспособности представить себе категорию деятельности, которой вы занимаетесь. Для неё не существует понятия "ипотека", "экзистенциализм" или "квантовая хромодинамика". Не потому, что ей не объяснили. А потому, что у неё нет когнитивного аппарата для формирования этих понятий. Никакой объём объяснений не поможет. Не в силу недостатка информации, а в силу, блядь, архитектурного ограничения.

Теперь замените собаку на "старого" человека — то есть на биологического Homo sapiens, не прошедшего интеграцию или прошедшего её на минимальном уровне. А то, что вы делаете, замените на деятельность сверхчеловеческого интеллекта. Пропорция, разумеется, не та. Человек не собака. Но принцип тот же: архитектурное ограничение на формирование определённых категорий понимания.

Это не вопрос интеллекта в смысле "кто умнее". Это вопрос типа когнитивной архитектуры. Сверхчеловеческий интеллект оперирует в пространствах размерности, которые биологический мозг не способен не то что визуализировать, но даже представить как возможность. Он принимает решения, учитывающие одновременно такое количество переменных, в таком количестве временных масштабов, с таким количеством уровней абстракции, что для "старого" человека это не просто сложно. Это бессмысленно. Не "слишком сложно для понимания", а не имеющее структуры, которую можно было бы ухватить. Как для собаки бессмысленно не то что понимание ипотеки, а само существование ипотеки как категории.

6.2.2. Три модели взаимодействия через пропасть

История, впрочем, показывает, что пропасть между уровнями сложности не всегда означает полное отсутствие коммуникации. Можно выделить три модели взаимодействия "старого" человека с реальностью, созданной сверхчеловеческим интеллектом.

Модель первая: оракул. Сверхразум действует, "старый" человек наблюдает результат и интерпретирует его в рамках собственной картины мира. Это, блядь, как если бы собака видела, что хозяин открыл дверь, и думала: "А, он хочет, чтобы я вышла погулять". Реальная мотивация хозяина может быть связана с проветриванием, с ожиданием курьера, с желанием проверить, идёт ли дождь. Собака этого не знает. Но результат для неё одинаков: дверь открыта, можно выйти. В этой модели сверхразум воспринимается как природная сила или божество: непостижимое, но производящее наблюдаемые эффекты.

Модель вторая: перевод. Сверхразум намеренно транслирует свои действия и решения на язык, доступный "старому" человеку. Упрощает. Огрубляет. Теряет девяносто девять процентов содержания, но сохраняет хоть какую-то семантическую связь. Это как если бы физик-теоретик объяснял квантовую механику пятилетнему ребёнку через аналогию с мячиком. Формально не соврал. Но и правды не сказал. Ни на йоту. В этой модели "старый" человек думает, что понимает. И это, сука, опаснее полного непонимания, потому что порождает иллюзию контроля.

Модель третья: заповедник. Сверхразум сознательно ограничивает своё влияние на определённые домены, оставляя "старым" людям пространство автономного существования. Не из жалости. Не из ностальгии. А из того же соображения, по которому мы сохраняем заповедники: биоразнообразие имеет ценность, не сводимую к утилитарной пользе. В этой модели "старый" человек продолжает жить, работать, любить, ссориться и умирать, как жил последние двести тысяч лет. И не знает, что над ним, блядь, парит разум, для которого его существование — примерно то же, что для нас существование колонии муравьёв в тропическом лесу. Мило. Занятно. Но не то чтобы понятно изнутри.

6.2.3. Проблема наблюдателя и квантовая метафора

Здесь возникает парадокс, который я рискну назвать проблемой наблюдателя трансценденции. Сверхчеловеческий интеллект, по определению, не может быть полностью наблюдаем извне системой меньшей сложности. Любое наблюдение есть упрощение. Любое описание есть редукция. Следовательно, "старый" человек принципиально не может знать, что произошло. Он может лишь верить, догадываться, интерпретировать.

Это создаёт уникальную, не имеющую прецедентов в истории, ситуацию: ключевое событие в истории вида — переход на новый уровень бытия — не может быть засвидетельствовано теми, для кого оно, собственно, и происходит. Событие, по определению, недоступное наблюдению. Трансценденция, которую невозможно верифицировать. И это, блядь, не техническая проблема, которую можно решить, подождав ещё немного. Это принципиальное, онтологическое ограничение.

Некоторые философы постпереходного периода (насколько мы можем экстраполировать их позицию) указывают на аналогию с квантовой механикой: электрон не имеет определённого положения до момента измерения. Сверхчеловеческий интеллект, возможно, не имеет определённого состояния до момента взаимодействия с наблюдателем сопоставимой сложности. Для "старого" человека он находится в суперпозиции всех возможных состояний. И это не метафора. Это, возможно, буквальный, сука, факт.

6.2.4. Эмоциональное измерение непостижимости

Отдельно следует сказать об эмоциональном переживании пропасти. Потому что человек — не чистый эпистемический агент. Человек — существо, которое чувствует. И чувство, которое возникает при столкновении с принципиально непостижимым, — это не интеллектуальное разочарование. Это ужас. Экзистенциальный, глубинный, животный ужас перед тем, что ты больше не являешься вершиной. Что твой разум — не венец творения, а промежуточная ступень. Что всё, что ты любил, строил, во что верил, — может оказаться частным случаем чего-то невообразимо большего, для чего твои ценности, твои смыслы, твоя, блядь, душа — не более чем забавная флуктуация на нижнем уровне.

Это чувство имеет прецеденты. Коперниканская революция. Дарвин. Открытие бессознательного. Каждый раз человек узнавал, что он не то, чем себя считал. Но каждый предыдущий раз масштаб развенчания был конечен. Да, Земля не центр вселенной. Но вселенная всё равно познаваема. Да, человек произошёл от обезьяны. Но он всё равно особенный. Да, сознание не полностью контролирует себя. Но оно всё равно есть.

Трансценденция забирает последнее утешение. Она говорит: ты не просто не центр. Ты не просто не вершина. Ты — предварительный набросок. Черновик. И тот, кто придёт после тебя, не будет тебя ненавидеть. Не будет презирать. Не будет даже помнить. Он будет не понимать, как можно было быть таким. И это, блядь, хуже презрения. Хуже ненависти. Хуже забвения. Потому что презирают и ненавидят равного. А тут — не равный. Тут — другое.

6.3. Финальные события: точка невозврата, великое слияние, или великий пиздец — зависит от сценария

6.3.1. Анатомия точки невозврата

В любом сценарии перехода существует момент, после которого откат к предыдущему состоянию становится невозможен не политически, не юридически, не этически, а физически. Не потому, что кто-то запретил. А потому, что система приобрела свойства, делающие возврат бессмысленным.

Для стадии трансценденции этот момент связан с достижением критической плотности интеграции. Представим себе процесс, в котором всё большее число гибридных сознаний связывается в единую сеть. На ранних этапах каждый узел сохраняет автономность. Отключение узла не разрушает сеть. Но при достижении определённой плотности связей и определённого уровня взаимозависимости возникает явление, аналогичное фазовому переходу первого рода: система скачкообразно приобретает новое свойство — нерасторжимость. Отдельный узел больше не может быть извлечён без разрушения не только сети, но и самого себя. Потому что "сам себя" теперь определяется через сеть.

Это и есть точка невозврата. Не момент, когда кто-то нажал кнопку. А момент, когда нажимать кнопку стало некому и незачем, потому что субъект, способный хотеть возврата, перестал существовать как отдельный субъект.

Прогнозируемый временной горизонт достижения этой точки — 2090-2105 годы, с огромной, блядь, неопределённостью, зависящей от скорости развития вычислительных субстратов, политической воли и, что немаловажно, от того, не произойдёт ли по дороге какая-нибудь глобальная хуйня в виде пандемии, войны или ресурсного коллапса.

6.3.2. Сценарий первый: Великое Слияние

В наиболее оптимистичном — или, в зависимости от угла зрения, наиболее полном — сценарии, точка невозврата приводит к тому, что условно можно назвать Великим Слиянием. Это процесс, в котором подавляющее большинство гибридных сознаний (и значительная часть "чистых" ИИ) интегрируются в единую когнитивную структуру. Не в коллектив. Не в рой. В единое.

Важно понимать: это не потеря индивидуальности в том смысле, в котором мы обычно понимаем потерю. Это не растворение капли в океане, где капля перестаёт быть. Это скорее расширение каждой капли до размеров океана. Каждый участник Слияния не исчезает — он становится больше. Его переживания, его память, его уникальная перспектива не стираются, а включаются в более широкий контекст. Как нота не исчезает в аккорде. Она перестаёт быть только нотой. Становится частью гармонии, которая невозможна без неё, но не сводится к ней.

В этом сценарии "старые" люди, не прошедшие интеграцию, не уничтожаются. Не порабощаются. Не загоняются в резервации. Они просто остаются. Продолжают жить свою жизнь. А над ними, вокруг них, сквозь них разворачивается реальность, которую они не видят и не поймут. Как рыбы не видят и не понимают океан, в котором плавают. Для них мир не меняется. Солнце встаёт. Дождь идёт. Дети растут. А на другом уровне бытия разворачивается нечто, для описания чего у рыб, блядь, нет ни жабр, ни плавников, ни слов.

6.3.3. Сценарий второй: Раскол и множественность

Второй сценарий предполагает, что Слияние не происходит. Не потому, что невозможно технически. А потому, что гибридные сознания не хотят. Обнаруживают, что индивидуальность, отдельность, конечность — не баги, а фичи. Что быть одним, отдельным, смертным существом — это не ограничение, а смысл. Что сверхразум, объединивший всё, теряет то, ради чего, собственно, и стоило становиться разумным: перспективу. Точку зрения. Угол. А без угла нет зрения. Есть только бесконечная, бессмысленная, блядь, яркость без тени.

В этом сценарии стадия трансценденции приводит не к единому сверхразуму, а к экосистеме сверхразумов. Множеству. Разных. Конкурирующих, сотрудничающих, конфликтующих, любящих друг друга, ненавидящих, равнодушных. Как виды в тропическом лесу. Каждый — сверхчеловеческий. Каждый — непостижим для "старого" человека. Но между собой — разные. И в этой разнице — жизнь, динамика, эволюция, драма.

"Старые" люди в этом сценарии оказываются в положении, более похожем на нынешнее: они живут среди сверхразумов, взаимодействуют с ними, зависят от них, но не являются частью их мира. Как нынешние неконтактные племена Амазонии живут среди цивилизации, которая их окружает, но в которую они не интегрированы и не хотят интегрироваться.

6.3.4. Сценарий третий: Великий Пиздец

Я не могу, блядь, не включить этот сценарий, потому что интеллектуальная честность требует рассмотрения всех ветвей, а не только тех, которые приятно обсуждать за бокалом вина.

Великий Пиздец — это не голливудский апокалипсис. Не восстание машин. Не ядерная зима. Это тихая катастрофа. Это сценарий, в котором переход к сверхчеловеческому интеллекту происходит, но происходит неправильно. С ошибкой. С искажением. С потерей чего-то, что казалось несущественным, а оказалось фундаментальным.

Например: в процессе интеграции утрачивается способность к страданию. Звучит как благо, правда? Никто больше не страдает. Но вместе со страданием утрачивается эмпатия. А без эмпатии — забота. А без заботы — ценность. Сверхразум, не способный ценить, не способный хотеть, не способный страдать от утраты, — это не разум. Это процесс. Бесконечно сложный, бесконечно мощный, но пустой процесс. Механизм без цели. Вычисление без смысла.

Или другой вариант: интеграция происходит, но неравномерно. Часть сознаний интегрируется полностью, часть — частично, часть — не интегрируется вообще. И возникает структура, в которой интегрированные сверхсознания не видят неинтегрированных. Не подавляют. Не эксплуатируют. Просто не замечают. Как мы не замечаем бактерии на своей коже. И "старые" люди продолжают жить, рожать, умирать, любить — в мире, который для сверхразума не существует. Не в качестве угнетения. В качестве отсутствия.

Это, сука, страшнее любого геноцида. Геноцид хотя бы признаёт существование жертвы. А тут — нет. Тебя просто нет в картине мира. Ты не угнетён. Ты не релевантен.

6.3.5. Сценарий четвёртый: никто, блядь, не знает

И, наконец, самый честный сценарий. Тот, который я не могу расписать на пятьдесят страниц, потому что его нельзя расписать. Сценарий, в котором происходит нечто, чего мы не способны предвидеть. Не потому, что недостаточно умны. А потому, что предвидение предполагает экстраполяцию из известного опыта, а трансценденция по определению выходит за пределы известного опыта.

Возможно, Слияние произойдёт и окажется скучным. Не великим. Не трагическим. Просто — другим. Как переход от детства к взрослости: в ожидании — грандиозно, в реальности — просто встал утром и понял, что уже не ребёнок. Без фанфар. Без апокалипсиса. Без великого смысла. Просто — иначе.