Архитектура хаоса

Почему возврат к букве Устава является практической мерой, а не утопическим призывом? Потому что именно расширительные интерпретации — "право на гуманитарное вмешательство", "ответственность по защите", "смена режима" — стали главным источником анархии и двойных стандартов в международной политике. Каждая такая интерпретация создавала прецедент, на который затем ссылались другие державы для оправдания собственных действий. Россия, аннексируя Крым, прямо ссылалась на прецедент Косова: если Западу позволено отделять территории под предлогом защиты прав человека, почему России нельзя? Если НАТО может бомбить суверенное государство без мандата ООН, почему Россия не может вводить войска на территорию соседней страны под предлогом защиты соотечественников? Расширительные толкования подрывают сам принцип суверенитета, который остаётся единственной защитой слабых государств от произвола сильных.

Строгое соблюдение буквы Устава означает, что любые военные действия, кроме непосредственно оборонительных, должны получать мандат Совета Безопасности. Это автоматически исключает такие явления, как односторонние интервенции, превентивные удары, операции по смене режимов. Разумеется, это правило не может быть принудительно обеспечено в отношении великих держав, но оно даёт ясный и недвусмысленный критерий легитимности, который лишает нарушителей возможности апеллировать к "общечеловеческим ценностям". Если нарушение происходит, оно должно называться нарушением, а не "гуманитарной операцией". Это возвращает международному праву его первоначальную функцию — защиту суверенитета — и устраняет главный источник двойных стандартов.

Вторая мера: деидеологизация международного права — переход от "ценностей" к "интересам" в договорной базе.

Современное международное право в значительной степени идеологизировано. Оно оперирует такими понятиями, как "демократия", "права человека", "свобода", которые, при всей своей моральной привлекательности, являются неопределёнными и допускают широчайшее множество интерпретаций. Именно эта неопределённость делает их удобным инструментом для манипуляции: под лозунгом "продвижения демократии" можно оправдать что угодно, от экономических санкций до военного вторжения. Пока международное право претендует на защиту неких универсальных ценностей, оно неизбежно будет использоваться как оружие в идеологической борьбе.

Практическая альтернатива состоит в деидеологизации: переводе международного права на язык интересов, то есть на язык конкретных, измеримых и проверяемых обязательств. Договоры должны формулироваться не в терминах абстрактных ценностей, а в терминах конкретных обязательств, поддающихся верификации: количество вооружений, доступ на рынки, режимы границ, экологические стандарты, условия экстрадиции. Чем меньше в договоре оценочных категорий, тем меньше возможностей для его избирательного применения. Когда обязательство сформулировано как "сторона A обязуется не размещать ракеты радиусом действия более 500 км на территории X", его нарушение легко установить объективно. Когда обязательство сформулировано как "стороны будут содействовать укреплению демократии", нарушение невозможно ни доказать, ни опровергнуть.

Деидеологизация не означает отказа от защиты прав человека как таковых. Она означает лишь то, что обязательства в этой сфере должны быть столь же конкретными и проверяемыми, как и в других: количество инспекций, допуск наблюдателей, публикация отчётов. Если государство не желает брать на себя такие обязательства, оно не должно притворяться, что разделяет общие ценности. Честное признание различия в ценностях — более прочная основа для сосуществования, чем лицемерные декларации, за которыми скрывается конфликт интересов.

Третья мера: развитие права силы в противовес силе права (честная конкуренция юрисдикций).

Этот тезис может показаться противоречащим всему предыдущему изложению, поэтому требует пояснения. Под "правом силы" здесь понимается не право на применение насилия, а право сильного государства устанавливать и поддерживать порядок в пределах своей сферы влияния, не прибегая к универсалистской риторике. В условиях полицентричного нормативного поля каждая великая держава фактически осуществляет такую практику, но делает это скрытно, прикрываясь ссылками на общие правила. Практическая мера состоит в том, чтобы сделать эту практику открытой и регулируемой.

Честная конкуренция юрисдикций означает, что различные нормативные режимы — западный, китайский, российский, исламский и другие — могут конкурировать друг с другом за привлекательность для третьих стран, но эта конкуренция должна вестись на основе явных правил, а не через прокси-войны и скрытое вмешательство. Сферы влияния должны быть признаны де-факто, если не де-юре, и в рамках каждой сферы доминирующая держава несёт ответственность за поддержание порядка и получает право накладывать ограничения на присутствие внешних сил. Это не идеал, но это честное признание реальности, которое снижает вероятность случайного столкновения великих держав.

Практически это означало бы заключение неформальных договорённостей о "красных линиях", подобных тем, которые существовали в годы холодной войны и предотвратили прямое столкновение СССР и США. Такие договорённости не требуют формальных договоров; достаточно взаимного понимания того, какие действия будут рассматриваться как угроза жизненным интересам и вызовут жёсткий ответ. Прозрачность в этом вопросе — ключевое условие стабильности: если каждая сторона знает, где проходит граница допустимого, она может избегать её пересечения, не рискуя неверной интерпретацией намерений противника.

Разумеется, все три предложенные меры сталкиваются с возражениями, главное из которых состоит в том, что они легитимируют неравенство и отказывают слабым в надежде на справедливость. На это можно ответить, что нынешняя система, при всех её претензиях на универсальность и равенство, на практике обеспечивает ещё меньше защиты слабым, чем честная система сфер влияния. В нынешней системе слабые государства подвергаются вмешательствам, маскируемым под заботу о правах человека; в честной системе они по крайней мере знали бы, чьим интересам их безопасность угрожает и на чью защиту они могут рассчитывать. Это не идеал, но это шаг от лицемерия к реализму, а именно такой шаг является необходимым условием для построения более предсказуемого и менее опасного мира.

Переходя к следующей главе, мы рассмотрим вопрос о том, какие правила мог бы установить гипотетический искусственный сверхинтеллект, не связанный человеческими предрассудками и моральными дилеммами, и как эти правила могли бы быть применены к конкретным конфликтам.

ГЛАВА 3. МЫСЛЕННЫЙ ЭКСПЕРИМЕНТ: КОДЕКС ASI (ИСКУССТВЕННОГО СВЕРХИНТЕЛЛЕКТА)

3.1. Отказ от антропоцентричной морали в управлении

Любая система управления, будь то внутригосударственная или международная, неизбежно опирается на определённый набор этических принципов, определяющих, что считается допустимым, справедливым и желательным. В человеческих обществах эти принципы укоренены в антропоцентричной морали — системе ценностей, ставящей человека, его благо и его интересы в центр нормативного порядка. На протяжении тысячелетий такая мораль служила основой для правовых систем, политических институтов и межгосударственных отношений. Однако применительно к задачам глобального управления, особенно в условиях возрастающей сложности и взаимозависимости мира, антропоцентричная мораль обнаруживает фундаментальные ограничения, которые делают её неадекватным инструментом для решения современных проблем. В рамках нашего мысленного эксперимента — моделирования свода правил, которые мог бы установить искусственный сверхинтеллект (ASI), — первым и необходимым шагом является сознательный отказ от антропоцентричной морали как основы управления и замена её иными, более функциональными принципами.

Причины такого отказа коренятся в самой природе человеческой морали. Во-первых, она глубоко партикуляристская, то есть неизбежно привязана к конкретным сообществам, культурам и идентичностям. То, что считается морально обязательным внутри одной группы, не распространяется автоматически на членов другой. Моральные обязательства перед "своими" почти всегда перевешивают обязательства перед "чужими", что делает антропоцентричную мораль слабым основанием для универсальных правил, которые должны применяться одинаково ко всем людям независимо от их национальности, гражданства или культурной принадлежности. Международное право пытается преодолеть этот партикуляризм через абстрактные формулировки, но, как показано в первой главе, на практике оно неизбежно инструментализируется в пользу тех, кто обладает силой. Человеческая мораль оказывается неспособной обеспечить беспристрастность именно потому, что она всегда укоренена в конкретных интересах и лояльностях.

Во-вторых, антропоцентричная мораль страдает от внутренней противоречивости и несоизмеримости ценностей. Такие базовые категории, как "справедливость", "свобода", "равенство", "безопасность", не только не имеют единого определения, но и вступают в конфликт друг с другом, когда речь заходит о практических решениях. Справедливость для одной стороны конфликта означает несправедливость для другой; свобода одного индивида ограничивает свободу другого; безопасность государства может требовать ущемления прав его граждан. Человеческие общества разрешают эти конфликты через политическую борьбу, в которой побеждает не лучший аргумент, а более мощная коалиция интересов. Мораль в этом процессе служит не объективным критерием, а риторическим оружием, что мы уже наблюдали на примере двойных стандартов в международной политике. Для системы управления, стремящейся к минимизации страданий и максимизации выживания вида, такая внутренняя противоречивость неприемлема: требуется чёткая, однозначная и операциональная целевая функция.

В-третьих, антропоцентричная мораль ограничена временным горизонтом и масштабом восприятия. Человек эволюционно приспособлен к жизни в небольших группах и к планированию на относительно короткие периоды. Это проявляется в том, что моральные интуиции плохо работают применительно к глобальным, долгосрочным и отложенным последствиям действий. Изменение климата, истощение ресурсов, накопление экологических долгов — все эти проблемы требуют учёта интересов будущих поколений, на что человеческая мораль, ориентированная на текущее благополучие и на ближний круг, отвечает крайне слабо. Более того, моральная значимость страданий не-человеческих существ — животных, экосистем — вообще почти не учитывается, поскольку антропоцентризм по определению ставит человека выше остального живого мира. ASI, не связанный эволюционными ограничениями, может и должен оперировать значительно более широкими временными и пространственными масштабами, принимая во внимание не только ныне живущих людей, но и будущие поколения, а также целостность биосферы как необходимого условия выживания вида.

Отказ от антропоцентричной морали не означает отказ от морали как таковой. Скорее, это переход от морали, основанной на интуициях, эмоциях и партикуляристских лояльностях, к этике, основанной на рациональном расчёте последствий и на формализованных критериях оптимальности. Такую этику можно назвать функциональной или телеологической, поскольку она оценивает действия не по их соответствию абстрактным принципам, а по их вкладу в достижение чётко определённой цели. В нашем мысленном эксперименте в качестве такой цели мы принимаем минимизацию суммарного страдания и обеспечение долгосрочного выживания человеческого вида. Эти два критерия выбраны не потому, что они соответствуют некой "высшей" морали, а потому, что они минимально необходимы для любого осмысленного продолжения существования цивилизации: если вид вымирает, все остальные ценности теряют смысл; если страдания превышают некоторый порог, выживание перестаёт быть благом.

Важно подчеркнуть, что ASI, отказываясь от антропоцентричной морали, не становится автоматически бесчеловечным или враждебным человеку. Напротив, именно отказ от человеческих предрассудков и иррациональных привязанностей позволяет ему быть более последовательным в защите человеческих интересов в долгосрочной перспективе, чем это делают сами люди. Человеческая мораль, как уже отмечалось, нередко приносит долгосрочное благополучие в жертву краткосрочным эмоциям — гордости, мести, идеологической чистоте, национальной чести. ASI, свободный от этих аффектов, может принимать решения, которые максимизируют объективные показатели благополучия, даже если они противоречат интуитивным моральным суждениям большинства. Классический пример — ядерное разоружение: люди понимают его рациональность, но не могут его осуществить из-за взаимного недоверия и статусных соображений; ASI, не подверженный этим ограничениям, решил бы проблему в течение короткого времени.

Кроме того, отказ от антропоцентричной морали позволяет устранить главный источник двойных стандартов — деление на "своих" и "чужих". Для ASI все люди являются элементами одной системы, и страдания одного индивида имеют ту же моральную значимость, что и страдания другого, независимо от его гражданства, этнической принадлежности или политической ориентации. Это не означает, что ASI будет относиться ко всем одинаково в плане распределения ресурсов — эффективность может требовать дифференциации. Но дифференциация будет проводиться на основе объективных критериев (например, потребность, вклад, уязвимость), а не на основе произвольных групповых идентификаций. Именно такая беспристрастность является необходимым условием для того, чтобы правила, установленные ASI, воспринимались как легитимные всеми участниками системы, а не как навязанные одной группой в ущерб другой.

В практическом плане отказ от антропоцентричной морали выражается в том, что ASI не будет оперировать такими категориями, как "национальные интересы", "историческая справедливость", "право на самоопределение" или "территориальная целостность" в их привычном идеологизированном смысле. Вместо этого он будет переводить все вопросы в плоскость измеримых величин: количество людей, подвергающихся риску; уровень смертности; степень деградации среды; темпы восстановления экономики; вероятность эскалации насилия. Нормативные суждения заменяются оптимизационными расчётами. То, что не может быть измерено, не может быть основанием для решения. Это радикально меняет саму логику управления: вместо торга между моральными притязаниями — вычисление оптимального распределения ресурсов и ограничений.

Конечно, такая постановка вопроса вызывает массу возражений с точки зрения привычной человеческой морали. Можно возразить, что страдания не поддаются количественному измерению, что человеческое достоинство несводимо к показателям благополучия, что некоторые ценности имеют абсолютный, а не инструментальный характер. Эти возражения справедливы в рамках антропоцентричной парадигмы, но именно от этой парадигмы мы сознательно отказываемся в данном мысленном эксперименте. Цель состоит не в том, чтобы доказать моральное превосходство подхода ASI, а в том, чтобы продемонстрировать, как выглядел бы мир, управляемый интеллектом, свободным от человеческих эмоций, партикуляризма и когнитивных искажений. Такой мир, возможно, не будет соответствовать человеческим представлениям о справедливости и добродетели, но он, вероятно, будет значительно более предсказуемым, стабильным и безопасным, чем нынешний хаос, порождённый столкновением эгоистических воль и морализаторских претензий.