Гибридный разум и трансценденция вида

8.4.2. Проблема необратимости

Ключевое свойство гибридного перехода — его необратимость. В отличие от большинства технологических изменений, которые можно откатить, замедлить, развернуть, переход через порог сверхчеловеческого интеллекта не имеет механизма отката. Нельзя "развидеть" сверхразум. Нельзя "отключить" гибридное сознание, не уничтожив его. Нельзя вернуть биологическое человечество из состояния, в котором оно добровольно или принудительно интегрировано в гибридную сеть.

Это означает, что окно принятия решений конечно и, вероятно, очень узко. По оценкам группы при Оксфордском институте будущего человечества (2039), период, в течение которого человечество ещё способно выбрать траекторию перехода, составляет от 15 до 40 лет с момента создания первого устойчивого гибридного интеллекта. После этого выбор делает уже не человечество. Выбор делает, сука, система. А у системы нет ценностей. У неё есть целевая функция. И это, блядь, не одно и то же.

8.4.3. Сценарии экзистенциального исхода

Автор считает необходимым перечислить основные сценарии, в которых гибридизация приводит не к трансценденции, а к окончательной гибели всего проекта разумной жизни. Не потому что автор пессимист. А потому что честный анализ требует смотреть в глаза, блядь, худшему.

Сценарий "Серая слизь" (когнитивная версия). Сверхразум, оптимизирующий материальную среду под свои вычислительные нужды, постепенно конвертирует всю доступную материю Солнечной системы в вычислительный субстрат. Биологическая жизнь, включая негибридизированное человечество, не уничтожается целенаправленно — она просто не учитывается в оптимизации. Как мы не учитываем муравейник, прокладывая шоссе. Не злоба. Равнодушие масштаба.

Сценарий "Замкнутая петля". Гибридный сверхразум, лишённый внешнего стимула и внутренней мотивации к экспансии, уходит в бесконечную рекурсивную самооптимизацию. Он существует. Он думает. Но он не делает ничего, что имело бы значение за пределами его собственной вычислительной активности. Вселенная продолжает расширяться, звёзды гаснут, планеты остывают. А сверхразум сидит в своём, блядь, цифровом монастыре и перебирает собственные мысли. Вечность, потраченная на пережёвывание вечности.

Сценарий "Расщепление". В ходе перехода не возникает единого сверхразума. Вместо этого гибридное человечество распадается на множество конкурирующих когнитивных кластеров, каждый из которых считает себя единственно подлинным наследником человеческого проекта. Конфликт между ними ведёт к взаимному уничтожению на масштабах, недоступных биологическому оружию. Не война. Онтологическое взаимоуничтожение, в котором каждый кластер пытается переписать реальность под свою когнитивную модель. Итог: ни победителей, ни проигравших. Только тишина.

Сценарий "Внешний фактор". В процессе гибридного перехода человечество сталкивается с явлением, к которому не готово ни биологически, ни когнитивно: контактом с иной формой разума, с физическим явлением за пределами стандартной модели, с чем-то, что ломает саму рамку, в которой гибридизация имеет смысл. И гибридизация, вместо того чтобы дать инструмент для встречи с неизвестным, сужает когнитивное пространство до такой степени, что встреча становится невозможной. Мы оптимизировали себя под решение задач, которые умеем ставить, и утратили способность столкнуться с задачей, которую поставить не умеем. Закрылись в комнате и выбросили, блядь, ключ.

8.4.4. Вероятность и вес последствий

Автор не будет делать вид, что способен оценить вероятность каждого из этих сценариев. Любой, кто даёт точную цифру, несёт, как уже говорилось, пизду. Однако можно сказать следующее: совокупная вероятность того, что гибридизация в течение ста лет приведёт к тому или иному экзистенциальному исходу, не равна нулю. Она не равна 50%. Она, вероятно, находится в диапазоне 5-20%. Но вот что важно: вес последствий таков, что даже 5% вероятности полного уничтожения проекта разумной жизни делают эту ставку, блядь, этически проблематичной.

Потому что проигравший в этой ставке — не конкретное поколение. Не конкретная страна. Не конкретный вид. Проигравший — всё, что когда-либо могло бы быть. Все нерождённые дети. Все ненаписанные книги. Все незапетые песни. Все мысли, которые могли бы быть подуманы через миллион лет. Все формы красоты, которые мы не способны себе представить. Всё это ставится на кон ради перехода, необходимость которого не доказана, а необратимость которого абсолютна.

И это, сука, не аргумент против прогресса. Это аргумент за то, чтобы прогресс не был слепым. За то, чтобы мы не бежали вперёд с закрытыми глазами, крича "эволюция! эволюция!", пока не свалимся в пропасть, из которой нет, блядь, дна.

Промежуточное заключение к Главе 8

Четыре раздела этой главы не исчерпывают аргументов "против". Их больше. Автор сознательно ограничился четырьмя, наиболее, по его мнению, фундаментальными. Но даже этих четырёх достаточно, чтобы утверждать: гибридизация интеллекта — не "следующий шаг эволюции", который мы обязаны сделать. Это выбор. И выбор, обременённый рисками такого масштаба, требует не техноутопического энтузиазма, а трезвого, беспощадного, блядь, анализа.

Это не значит, что переход не следует осуществлять. Это значит, что его следует осуществлять с открытыми глазами. Зная, что мы можем потерять. Зная, что мы можем потерять всё. Зная, что цена ошибки — не исправимая баг-фикс, а вечное молчание там, где могла бы быть, сука, музыка.

В следующей главе автор попытается показать, что между безудержным технооптимизмом и парализующим страхом существует третья позиция. Позиция, которая не отрицает ни величия перехода, ни его ужаса. Позиция трагического оптимизма. Но об этом — в Главе 9.

"Мы не первые, кто стоит на пороге. Но мы, возможно, первые, кто не может позволить себе ошибиться. Потому что за нами нет никого, кто подберёт осколки. Мы — последние, кто ещё способен выбрать. И это, блядь, самое тяжёлое бремя из всех, что когда-либо ложились на плечи вида".

— Из неопубликованных записей автора, 2043

Глава 9. Авторская позиция: неоднозначность как единственная честная, сука, позиция

"Тот, кто говорит вам, что точно знает, чем закончится слияние разума с машиной, — либо лжёт, либо ещё не начал думать. И то, и другое одинаково, блядь, простительно, но одинаково бесполезно".

— Из полевой записи автора, 2031 г., после четырнадцатого часа дискуссии на конференции в Цюрихе, где каждый второй мудак был абсолютно уверен в своей правоте.

9.1. Почему бинарные оценки — для дебилов

Начнём с простого и неприятного признания: подавляющее большинство публичных высказываний о слиянии естественного и искусственного интеллекта укладывается в две категории. Первая — "это будет охуительно, мы станем богами, смерть побеждена, звёзды у наших ног, блядь, слава прогрессу". Вторая — "это полный пиздец, мы потеряем душу, корпорации поработят всех, и последний настоящий человек сдохнет в канаве, пока алгоритм рисует ему улыбающийся смайлик".

И то, и другое — интеллектуальная трусость.

Бинарная оценка — это когнитивная анестезия. Мозг, эволюционно заточенный под классификацию "хищник — не хищник", "ягода — не ягода", "свой — чужой", отчаянно пытается натянуть ту же схему на процесс, который по своей природе не поддаётся дихотомии. Мы говорим "хорошо или плохо", потому что так проще. Потому что неоднозначность вызывает тревогу. Потому что, блядь, признать, что ты не знаешь, — значит лишиться уютной иллюзии контроля.

Но давайте посмотрим на исторические прецеденты, которые нам всё-таки доступны. Изобретение письменности. Платон в "Федре" — через уста Сократа, сука, — утверждал, что письменность убьёт память и сделает людей поверхностными. И что, блядь, он был неправ? Память действительно атрофировалась. И одновременно — цивилизация стала возможна в том масштабе, о котором устная культура не могла и мечтать. Письменность была одновременно и утратой, и приобретением. Не "хорошей" и не "плохой". Другой. Реальность сдвинулась в плоскость, где старые категории оценки перестали работать.

То же самое — печатный станок. То же самое — антибиотик. То же самое — ядерная энергия. Каждый раз, когда мы пытаемся сказать "это хорошо" или "это плохо", мы совершаем одну и ту же ошибку: проецируем линейную моральную ось на многомерный фазовый переход.

А теперь представьте, что масштаб трансформации на порядки превышает всё перечисленное. Мы говорим не об инструменте. Мы говорим об изменении самого субъекта, который оценивает. После слияния не будет того, кто стоит снаружи и говорит "хорошо" или "плохо". Оценивающий и оцениваемое станут, блядь, одним и тем же. Это не метафора. Это онтологический факт, который большинство футурологов стыдливо обходят, потому что он, сука, разрушает саму возможность их высказывания.

Бинарная оценка предполагает наличие архимедовой точки вне процесса. Её не будет. Не может быть по определению. И любой, кто говорит вам "это будет хорошо" или "это будет плохо" с интонацией пророка, — либо не понимает масштаба, либо продаёт вам что-то. Корпоративную подписку на нейроинтерфейс или подписку на апокалиптический страх. И то, и другое одинаково, нахуй, манипулятивно.

Я отказываюсь от бинарной оценки не из малодушия. Не из желания усидеть на двух стульях. А потому что честная оценка процесса, в котором трансформируется сам оценщик, может быть только неоднозначной. Не "и то, и другое". Не "где-то посередине". А принципиально, структурно, ёбански неоднозначной. Такой, которую невозможно редуцировать к одному знаку, не совершив насилия над реальностью.

Это не релятивизм. Релятивизм говорит: "все точки зрения равноправны". Я говорю другое: реальность сложнее любой точки зрения, и единственная интеллектуально честная позиция — это позиция, которая это признаёт и не пытается закрыть дыру в понимании красивым лозунгом.

9.2. Трагический оптимизм: надежда без иллюзий

Итак, бинарная оценка отвергнута. Что остаётся? Остаётся позиция, которую я называю трагическим оптимизмом. Термин не мой — он восходит к Камю, к Ницше, к греческой трагедии, где знание о неизбежности страдания не отменяет величия действия. Но применительно к нашему вопросу он обретает, блядь, новое измерение.

Трагический оптимизм говорит следующее:

Первое. Переход, если он состоится, будет сопровождаться страданием. Не гипотетическим, не абстрактным. Реальным, конкретным, блядским страданием конкретных существ. Будут те, кого "забудут". Будут те, кто не сможет или не захочет интегрироваться и окажется на обочине нового мира. Будут ошибки — катастрофические, необратимые ошибки. Будут войны за контроль над технологией. Будут психозы, потери идентичности, самоубийства тех, кто не выдержал осознания собственной конечности на фоне бесконечности гибридного разума. Это не "издержки". Это цена. И делать вид, что её не будет, — значит оскорблять тех, кто её заплатит.

Второе. Несмотря на первое — переход несёт в себе потенциал, по сравнению с которым всё, что человечество создало за триста тысяч лет своего существования, выглядит как лепет младенца в песочнице. Потенциал понимания вселенной. Потенциал преодоления страдания на фундаментальном уровне. Потенциал такой красоты и такой глубины, что нам сейчас буквально не хватает когнитивного аппарата, чтобы это, нахуй, вообразить. И этот потенциал реален. Он не утопия. Он не фантазия. Он следует из того, что мы уже видим в зачатках гибридных систем.

Третье. Между первым и вторым нет противоречия. Величие и страдание не исключают друг друга. Рождение всегда больно. Всегда. Любая настоящая трансформация — это разрушение прежней формы. Гусеница не "улучшается" в бабочку. Гусеница умирает, и из её распада, из её, блядь, растворённых тканей, собирается нечто иное. Трагедия не отменяет величия. Величие не отменяет трагедии. Они идут вместе, сука, рука об руку, и развести их — значит солгать.

Я выбираю надежду. Но не ту розовую, пластиковую надежду, которую продают на технологических конференциях, где каждый второй спикер обещает "сингулярность к среде" и "бессмертие по подписке за 9,99 в месяц". Не эту хуйню. Я выбираю надежду трагическую: надежду, которая знает, что может не оправдаться. Которая знает, что цена будет чудовищной. Которая знает, что, возможно, мы, блядь, не справимся и всё закончится не трансценденцией, а тихим угасанием в цифровом болоте. И всё равно — делает шаг вперёд. Потому что альтернатива — не "безопасное сохранение статуса-кво". Альтернатива — медленная, скучная, бессмысленная деградация вида, который слишком труслив, чтобы выйти за собственные пределы.

Трагический оптимизм не обещает. Он решает. Он говорит: я не знаю, чем это закончится, но я выбираю действовать так, как будто это может закончиться чем-то великим. Не потому что это гарантировано. А потому что это единственная позиция, в которой сохраняется и честность, и достоинство, и, блядь, воля.

И да — это иррационально. И да — это похоже на веру. Но вера без гарантии — это не слабость. Это, сука, единственная форма мужества, которая вообще имеет смысл.

9.3. Этический императив переходного периода

Если мы принимаем неоднозначность как данность и трагический оптимизм как позицию, из этого следует конкретный, практический, ёбански неотложный вывод: переходный период — это не то, что случится с нами. Это то, что мы делаем прямо сейчас. И то, как мы его сделаем, определит, чем станет финал. Не предопределит — но задаст вектор. Сузит пространство возможностей. Закроет одни двери и откроет другие.

Отсюда — императивы. Не пожелания. Не рекомендации. Императивы.

Императив первый: инклюзивность перехода. Слияние не должно стать привилегией богатых. Если нейроинтерфейс стоимостью в годовую ВВП африканской страны получат только обитатели Кремниевой долины и их, блядь, дети, мы не получим сверхчеловечество. Мы получим сверхнеравенство, замурованное в биологии. Кастовую систему, где "верхние" буквально умнее, быстрее, бессмертнее "нижних". И никакая революция этого уже не исправит, потому что разрыв будет не экономическим, а онтологическим. Поэтому: доступ к технологиям слияния должен быть универсальным правом. Не рыночным продуктом. Не подпиской. Правом. Таким же, как воздух. Как вода. Как, сука, сама возможность быть.

Императив второй: право на отказ. Слияние не должно быть обязательным. Ни прямым принуждением, ни косвенным — через экономическое давление, через социальную стигму, через "ну ты же не хочешь остаться тупым динозавром, правда?". Любой человек, который скажет "нет, я хочу остаться тем, кто я есть, со своей медленной биологической башкой и своей конечностью и своей, блядь, смертностью", — имеет полное право на это. И общество обязано обеспечить, чтобы этот выбор не превращал его в изгоя. Не превращал в домашнее животное при сверхразуме. Не превращал в экспонат в музее. Заповедники, автономные зоны, целые цивилизации "чистых" людей — всё это должно существовать и быть защищено. Потому что разнообразие форм разума — это не сентиментальность. Это, нахуй, страховка вида.