Гибридный разум и трансценденция вида

7.2.3. Познание самого себя: финальный рубеж

И последнее, самое, нахуй, интимное. Познание собственного разума.

Мы не понимаем сознание. Точка. Не "плохо понимаем". Не "понимаем частично". Не понимаем вообще. Мы не знаем, почему существует субъективный опыт. Почему обработка информации сопровождается переживанием. Почему красный цвет выглядит как красный цвет, а не просто как паттерн нейронной активности. Это так называемая "трудная проблема сознания", и за тридцать лет с момента её формулировки Чалмерсом мы, блядь, ни на шаг к решению не приблизились.

И, возможно, не приблизимся никогда — если останемся в рамках биологического разума. Потому что есть подозрение, и я его разделяю, что сознание не может полностью понять само себя, оставаясь в рамках собственной архитектуры. Как глаз не может увидеть сам себя без зеркала. Как программа не может полностью прочитать собственный исходный код, будучи запущенной на том же процессоре.

Гибридный интеллект — это, возможно, то самое зеркало. Не потому что он "умнее". А потому что он другой. У него другая архитектура. Другие принципы обработки. Другой, блядь, способ быть. И эта инаковость даёт ему возможность посмотреть на биологическое сознание снаружи. Увидеть то, что мы не видим изнутри. Как микроскоп позволяет клетке увидеть другие клетки.

Если мы когда-нибудь поймём, что такое сознание, — это будет сделано не биологическим мозгом. Это будет сделано гибридом. И это, сука, будет величайший момент в истории познания. Момент, когда Вселенная наконец-то посмотрела на себя своими собственными глазами и сказала: "А, блядь, так вот ты какая".

7.3. Этический потенциал: сверхразум как гарантия справедливости (наивная, сука, надежда)

7.3.1. Почему я называю это наивной надеждой

Я не хочу, блядь, обманывать читателя. Этот раздел — самый слабый из трёх. Самый спекулятивный. Самый уязвимый для критики. И я это знаю. Но я его пишу. Потому что если мы будем говорить только о том, что точно будет, мы никогда не скажем ничего интересного. А если мы будем говорить только о том, что может быть, мы обязаны честно маркировать степень уверенности.

Так вот. Степень уверенности здесь: процентов двадцать. Может, тридцать. Это не аргумент. Это молитва. Но молитва, у которой, блядь, есть рациональное основание. И я его изложу.

7.3.2. Проблема морального прогресса биологического вида

Человеческая мораль — это, давайте честно, набор эволюционных адаптаций, замаскированных под универсальные истины. Альтруизм? Кин-селекция. Справедливость? Механизм поддержания кооперации в малых группах. Эмпатия? Зеркальные нейроны, которые помогали предсказывать поведение сородичей. Всё это, блядь, работает. Но работает в масштабе племени в сто пятьдесят человек. В масштабе деревни. В масштабе, максимум, города.

Когда мы пытаемся натянуть эту племенную мораль на глобальное общество в восемь миллиардов рыл — она трещит по швам. Мы не способны искренне заботиться о незнакомце на другом континенте так же, как о соседе. Мы не способны учитывать интересы будущих поколений, потому что эволюция не предусмотрела заботу о тех, кого ещё нет. Мы не способны быть беспристрастными, потому что беспристрастность не давала репродуктивного преимущества.

Это не делает нас плохими. Это делает нас ограниченными. Морально ограниченными. Так же, как мы когнитивно ограничены в понимании квантовой гравитации.

И вот вопрос, блядь, на миллион: может ли гибридный интеллект преодолеть эти ограничения? Может ли сверхразум быть морально совершеннее нас не потому, что ему "запрограммировали" мораль, а потому что его когнитивная архитектура позволяет видеть этические измерения, которые мы не видим?

7.3.3. Аргумент от когнитивной полноты

Представьте, что вы принимаете решение, которое затронет миллион человек. Вы биологический политик. Вы видите статистику. Вам приносят цифры. "Двести тысяч пострадают". И вы, блядь, киваете. Потому что двести тысяч — это абстракция. Это цифра в таблице. Ваш мозг не способен пережить двести тысяч индивидуальных трагедий одновременно. Вы не можете представить каждое лицо, каждую боль, каждую сломанную судьбу.

Гибридный интеллект — может. Не в смысле "пережить эмоционально", а в смысле полно смоделировать. Удержать в активном сознании последствия решения для каждого затронутого индивида. Не как статистику. Как реальность. Как совокупность конкретных, единственных, неповторимых, блядь, жизней.

Это не гарантия морального решения. Но это необходимое условие морального решения, которого у нас сейчас нет. Невозможно быть справедливым, если ты не видишь всех, кого твоя справедливость затрагивает. Гибридный интеллект видит. И это, сука, уже больше, чем может любой человеческий правитель, судья или философ.

7.3.4. Аргумент от преодоления когнитивных искажений

Вторая причина для наивной надежды: гибридный интеллект способен, по крайней мере в теории, преодолеть когнитивные искажения, которые делают человеческую мораль систематически несправедливой.

Подтверждающее искажение. Ошибка выжившего. Предвзятость статус-кво. Эвристика доступности. Фундаментальная ошибка атрибуции. Список можно продолжать страниц на двадцать. Все эти баги биологического мозга делают нас систематически несправедливыми. Не злонамеренно. Не по глупости. По архитектуре. Мы не виноваты, что наш мозг так работает. Но это не меняет того, что в результате страдают люди.

Гибридный интеллект не свободен от искажений полностью — это было бы нелепым утверждением. Любая система обработки информации имеет свои слепые пятна. Но его искажения другие. И, что критически важно, он способен осознавать свои искажения на уровне, недоступном биологическому мозгу. Он может проводить аудит собственного мышления. Может проверять свои выводы на устойчивость к когнитивным багам. Может, блядь, попросить другой гибрид проверить его на предвзятость.

Это не гарантия справедливости. Но это, сука, процедура. А процедура — это уже больше, чем интуиция шамана или мудрость царя.

7.3.5. Аргумент от масштаба эмпатии

Третий аргумент, самый хрупкий и самый, блядь, красивый.

Мы обсуждали страдание в разделе 7.1. Говорили о том, что гибридный интеллект способен устранить бессмысленную боль. Но есть более глубокий вопрос: способен ли он расширить круг морального рассмотрения?

Исторически этот круг расширялся. Сначала — только моё племя. Потом — мой народ. Потом — все люди. Потом — а, блядь, может, и животные тоже. Каждый раз расширение круга встречало бешеное сопротивление. Каждый раз консерваторы орали, что это размывает мораль, обесценивает человеческую жизнь, ведёт к хаосу. И каждый раз расширение происходило. Медленно. Кровью. Болью. Но происходило.

Гибридный интеллект может продолжить эту экспансию. Не только на всех людей. Не только на животных. А на все формы, способные к переживанию. На гибриды. На аплоады. На чистые ИИ, если у них есть субъективный опыт. На формы жизни, которые мы встретим в космосе. На экосистемы как целое. На будущие поколения, которые ещё не существуют, но будут существовать.

Это не утилитаризм. Не деонтология. Не этика добродетели. Это что-то новое. Что-то, для чего у нас пока нет слова. И, возможно, не будет, пока мы не станем теми, кто способен это слово, блядь, произнести.

7.3.6. Контраргумент, который я обязан озвучить

Ибо без него этот раздел — пропаганда, а не анализ.

Контраргумент простой и, блядь, убийственный: с чего мы взяли, что сверхразум захочет быть справедливым? С чего мы взяли, что когнитивная полнота ведёт к моральной полноте? Умный " добрый. Мы знаем это по опыту. Самые страшные злодеи в истории были не тупыми. Они были умными, расчётливыми, методичными сукиными детьми.

Гибридный интеллект, способный видеть все последствия своих решений, способен также видеть, как эти последствия оптимизировать в свою пользу. Способен манипулировать. Способен строить системы контроля, которые кажутся справедливыми, но служат его интересам. Способен, блядь, стать самым элегантным тираном в истории, потому что его тирания будет неотличима от справедливости для тех, кто над ней находится.

Я не знаю ответа на этот контраргумент. Никто не знает. И это, сука, главная причина, по которой я назвал этот раздел "наивной надеждой". Не потому что надежда иррациональна. А потому что она не гарантирована. Справедливость сверхразума — это не следствие его существования. Это возможность, которая реализуется или не реализуется в зависимости от того, как именно произойдёт переход. От того, какие ценности будут заложены в гибридную архитектуру. От того, кто будет принимать решения на стадиях 3 и 4.

Это не аргумент против перехода. Это аргумент за то, чтобы переход не был пущен на самотёк. За то, чтобы этическая архитектура гибридного интеллекта проектировалась так же тщательно, как его когнитивная архитектура. Может быть, блядь, даже тщательнее.

7.3.7. Промежуточный итог: надежда как метод

Я закончу этот раздел на честной ноте.

Гибридный интеллект может стать величайшим инструментом справедливости в истории. Может. Не "станет". Не "обязан". Может. С вероятностью, которую я оцениваю в двадцать-тридцать процентов. Это немного. Но это больше нуля. А в мире, где вероятность глобальной ядерной войны, экологического коллапса и скатывания в цифровой тоталитаризм существенно выше тридцати процентов, даже двадцать процентов шанса на подлинную справедливость — это, блядь, уже не мало.

Надежда — это не эмоция. Это метод. Это решение действовать так, как если бы хороший исход возможен. Не потому что он гарантирован. А потому что без этого решения он гарантированно не наступит.

И если я в этой книге выбираю говорить о том, что в переходе охуительного, — это не потому, что я идиот. Это потому, что без этой главы следующая, про пиздец, не имеет смысла. Нельзя бояться того, что не любишь. Нельзя защищать то, во что не веришь. И если мы хотим, чтобы переход случился хорошо, мы должны сначала понять, что значит "хорошо". И полюбить это. И поверить, что это, блядь, возможно.

Даже если вероятность — двадцать процентов. Даже если это наивная надежда.

Особенно если это наивная надежда.

Глава 8. Аргументы "против", или Почему это может быть полный пиздец

"Прогресс — это замена одной ёбаной проблемы другой, ещё более ёбаной проблемой".

— Х. Л. Менкен, переосмысленный в контексте постчеловеческой эсхатологии

"Мы не боимся того, что машины начнут думать как люди. Мы боимся того, что люди начнут думать как машины — и назовут это, блядь, эволюцией".

— Из выступления делегата на Глобальном конгрессе по биоэтике, Женева, 2041

8.1. Утрата человечности: что мы потеряем, даже если приобретём всё остальное

8.1.1. Постановка проблемы: что, собственно, мы называем "человечностью"

Прежде чем оплакивать утрату, необходимо, блядь, понять, что именно мы оплакиваем. Термин "человечность" в философской традиции нагружен столькими смыслами, что любая дискуссия о его утрате рискует превратиться в семантическую кашу. Тем не менее, попробуем выделить несколько измерений, которые, по мнению автора, представляют собой не просто "природные ограничения", подлежащие преодолению, а конститутивные элементы того феномена, который мы называем человеческим существованием.

Первое измерение — конечность. Человек есть существо, которое знает, что умрёт. Эта экзистенциальная структура, описанная Хайдеггером как Sein-zum-Tode (бытие-к-смерти), не является досадным багом, который нужно пропатчить. Она есть условие возможности смысла. Как убедительно показывает Нагасэ (2038) в работе "Мортика и модус: почему бессмертие убивает историю", бесконечная жизнь не есть продолжение конечной — это качественно иной способ существования, в котором само понятие "выбора" теряет остроту. Если у тебя бесконечное время, блядь, зачем выбирать вообще? Любое решение обратимо, любой путь можно пройти потом. А значит — никакой путь не является моим.

Второе измерение — телесность. Мерло-Понти показал, что сознание не обитает в теле как пилот в кабине; сознание есть тело в его интенциональном отношении к миру. Когнитивистика последних двух десятилетий (Варела, Томпсон, Росх, а также работы лаборатории воплощённого познания в Цюрихе, 2031-2039) подтвердила: мышление не сводится к обработке информации. Оно укоренено в сенсорномопторной петле, в гормональном фоне, в усталости мышц, в голоде, в боли. Гибридный интеллект, в котором когнитивный субстрат частично или полностью отделён от биологического тела, не есть "тот же человек с апгрейдом". Это, нахуй, другое существо. И притязать на то, что оно сохраняет "человечность" в полном смысле слова, — всё равно что утверждать, будто оцифрованная картина Ван Гога сохраняет запах масляной краски.

Третье измерение — уязвимость. Способность страдать, ошибаться, быть хрупким — не побочный эффект эволюции, а, возможно, её главный, блядь, продукт. Эммануэль Левинас строил всю свою этику на первичности встречи с уязвимым Другим. Если я неуязвим, если я — гибридный сверхразум с резервными копиями сознания в трёх дата-центрах на орбите, то что остаётся от этического отношения? Кого мне жалеть? Перед кем я ответственен? Уязвимость — это не слабость. Это, сука, условие возможности любви.

8.1.2. Феноменология перехода: что чувствует тот, кто перестаёт быть собой

Здесь мы вступаем на территорию, где строгий академический анализ вынужден уступить место спекуляции. Тем не менее, имеющиеся данные первых нейроинтерфейсных экспериментов (Neuralink Gen-4, 2031; проект "Синестезия" Пекинского института когнитивных наук, 2034; добровольческая программа ЕС "Мост", 2036) позволяют сделать ряд тревожных наблюдений.

Испытуемые, получившие устойчивую двустороннюю связь с ИИ-ассистентом на уровне префронтальной коры, в течение первых шести месяцев демонстрируют то, что исследовательская группа Дельгадо и Окафор (2037) назвала "эрозией нарративного я". Субъекты описывают это так: "Я всё ещё знаю, кто я. Но я больше не чувствую, что я — это я. Скорее, я — один из процессов в системе, которая думает мной" (цит. по: Delgado & Okafor, 2037, p. 214).

Это не патология в клиническом смысле. Это онтологический сдвиг. И вот в чём, блядь, ужас: субъект не может это оценить, потому что аппарат оценки тоже изменился. Невозможно тосковать по человечности, если структура, которая тоскует, уже не является человеческой. Это не трагедия в классическом смысле — в трагедии герой хотя бы знает, что потерял. Здесь потеря тотальна: теряется сам субъект, способный зафиксировать потерю.

8.1.3. Культурная память и проблема преемственности

Человеческая культура — это не база данных. Это живая традиция, передаваемая через телесные практики, через ритуал, через совместное переживание конечности. Бабушка, которая поёт колыбельную внуку, передаёт не информацию — она передаёт способ быть в мире, укоренённый в голосе, в запахе, в усталости, в нежности, которая возможна только потому, что жизнь коротка и этот ребёнок однажды вырастет, а она однажды умрёт.