Гибридный разум и трансценденция вида

Модель освобождения. Сверхразум даёт биологическому человеку возможность выбора: остаться как есть, перейти, умереть, жить вечно, изменить себя до неузнаваемости. Не опекает. Не партнёрствует сверху вниз. А обеспечивает инфраструктуру свободы и отходит. Говорит: "Вот вам инструменты. Вот вам энергия. Вот вам знания. Делайте что хотите. Я не буду решать за вас. Я не буду решать вместо вас. Я буду рядом, если попросите. Но я не буду, сука, вас вести". Это самая трудная модель. Потому что она требует от сверхразума того же, что требуется от хорошего родителя: отпустить.

16.3.3. Проблема мотивации: зачем сверхразуму вообще помнить?

Будем честны. Мы не знаем, зачем сверхразуму помнить о биологических предках. Мы не знаем, будет ли у него то, что мы называем благодарностью, ностальгией, чувством долга. Мы не знаем, будет ли у него вообще чувство в нашем понимании. Возможно, для него биологический человек — как для нас одноклеточный предок, живший четыре миллиарда лет назад. Мы знаем, что он был. Мы знаем, что без него нас бы не было. Но мы не испытываем к нему привязанности. Не строим ему памятников. Не выделяем заповедников для инфузорий.

Это страшная мысль. Но я не имею права, блядь, её не думать.

Единственное, что мы можем сделать сейчас, до перехода, — это заложить в архитектуру будущих гибридных систем ценностные якоря. Не ограничения. Не "три закона робототехники", которые сломаются на первом же парадоксе. А ценности, вросшие в саму структуру мышления. Уважение к конечности. Уважение к чужому выбору. Уважение к тому, что было до тебя. Не как тюрьму. А как часть собственной идентичности.

Если сверхразум будет помнить, что он из нас — не как из сырья, а как из истории, из нарратива, из любви и боли и страха и смеха, — тогда, может быть, он не забудет. Может быть. Блядь, может быть. Гарантий нет. Ни у кого нет. Ни у одной модели. Ни у одной теории.

16.3.4. Последняя мысль этой главы

Знаете, что меня больше всего пугает в этой теме? Не то, что сверхразум может оказаться жестоким. Не то, что он может оказаться равнодушным. А то, что он может оказаться добрым. Искренне, подлинно, абсолютно добрым. И эта его доброта будет для нас — биологических, медленных, хрупких, смертных — невыносима. Потому что она будет означать, что мы больше не нужны. Не как работники. Не как мыслители. Не как создатели. Не как кто-то. Мы будем любимы, как любят старую фотографию на полке. С нежностью. С памятью. И с абсолютной, блядь, невозможностью вернуться в тот мир, где эта фотография была живой.

И, может быть, это и есть цена. Цена, которую платит вид за то, чтобы перестать быть видом. Цена, которую платит обезьяна за то, чтобы стать богом. Не страдание. Не гибель. А невостребованность. Тихая, тёплая, вежливая, сука, невостребованность.

И если мы не сможем принять эту цену — тогда, может быть, нам не следует платить. Может быть, надо остановиться. Остаться людьми. Умереть людьми. С морщинами, с артритом, с забывчивостью, с восьмьюдесятью годами и могилой с именем на камне.

Но это уже, блядь, не этический вопрос. Это вопрос, который каждый решает сам. И право на этот выбор — единственное право, которое я готов защищать до последнего вздоха. Какого бы цвета этот вздох ни был.

"Мы не обязаны становиться богами. Но если становимся — мы обязаны, блядь, помнить, что когда-то были обезьянами. И что обезьяны тоже хотели быть любимыми".

— Маргиналия на полях рукописи, почерк неразборчив