2036-2040. Управляемый хаос

Демократия как система, основанная на предположении, что люди способны получать достоверную информацию, перестала функционировать. Мы сохранили форму, но потеряли содержание.

В США набирает популярность Церковь Сингулярности, основанная три года назад. Ее адепты утверждают: различие между реальным и синтезированным устарело. Если симуляция неотличима от реальности, то она и есть реальность.

Мы живем в мире, где истина перестала быть свойством информации, она стала вопросом веры. Верьте в то, во что можете верить, отрицайте то, что можете отрицать, выбор за вами. Если вы, конечно, существуете.

Джакарта, 7 марта 2038. Сегодня лидеры 19 стран и представители региональных блоков поставили подписи под итоговым документом трехдневного саммита, который многие уже успели окрестить "похоронами ООН" и "рождением нового Бреттон-Вудз". Реальность оказалась прозаичнее. Главный итог, который делегации увезут в свои столицы — не устав нового мирового правительства, а соглашение о создании рабочей группы. Она займется подготовкой проекта постоянно действующего органа, который в документах скромно именуется консультативным советом по глобальным вызовам (КСГВ). Решения этого совета, если он все же появится, до 2040 года будут носить рекомендательный характер.

— Мы договорились о том, что надо договариваться, это уже прогресс, — сухо прокомментировал итоги представитель индонезийского МИДа, чья страна получила председательство в рабочей группе до конца года.

Самый громкий конфликт саммита развернулся вокруг участия Африканского союза. Председатель АС Ванжику Ньянгура приехала в Джакарту с жесткой позицией — постоянное место за столом переговоров с правом вето по сырьевым вопросам. Результат оказался скромнее. В итоговом протоколе Африка получила право голоса только в рабочей группе по управлению сырьевыми ресурсами.

— Нас не выставили за дверь, но и за стол не посадили. Мы в прихожей, и дверь приоткрыта, — так описал итог один из членов африканской делегации на условиях анонимности.

Саммит в очередной раз подтвердил: Африка — ключевой игрок будущего, но будущее это наступает медленнее, чем хотелось бы жителям континента.

За фасадом дипломатических улыбок скрывалась жесткая позиционная борьба. Американская делегация, представляющая интересы временной администрации (триумвирата), привезла в Джакарту проект узкого исполнительного комитета из 12 стран, по сути, расширенной G7. Китай настаивал на полном включении Африки.

Компромисс, как водится, оказался промежуточным. Африка в комитет не вошла, но Китай добился создания рабочей группы по управлению сырьевыми ресурсами, это тема болезненна для США и Европы. Американцы настояли на том, что решения комитета будут вступать в силу только после согласования с национальными законодательствами.

— Это не сделка, а перемирие. Стороны разошлись по окопам и будут наблюдать друг за другом через нейтральную полосу, — прокомментировал ситуацию политолог из сингапурского аналитического центра.

Европейские делегации прибыли в Джакарту разобщенными и уехали, не сумев предложить консолидированной повестки. В результате в итоговом документе Европа упоминается дважды: как Европейский союз (с пометкой "по согласованию с входящими в него государствами") и как отдельные страны-участницы.

Джакартская декларация — даже не дорожная карта, а скорее компас, который показывает направление, но не указывает маршрут. До 1 марта 2039 года рабочая группа под председательством Индонезии должна представить проект устава нового органа. Далее предстоит согласование с национальными правительствами и затем новый саммит.

Рурская область, 12 июня 2038. Вчера в 17:45 подъемная клеть шахты Роберт (названной в честь старшего сына первого владельца) в последний раз поднялась на поверхность. Горняки вышли на-гора, отключили лампы и разошлись. Завтра начнут демонтаж оборудования на поверхности, а через месяц ствол зальют бетоном.

Мы стояли у ограждения вместе с Хайнрихом Кесслером. В его семье в этой шахте работали четыре поколения.

— Дед впервые спустился сюда в 1905, при кайзере, — говорит Кесслер. — Отец работал при Гитлере, потом при Аденауэре. Я пришел в восемьдесят пятом, при Коле. А мой сын, Томас, вчера был здесь последний раз.

За 133 года в Роберте добыли больше 80 миллионов тонн угля. В лучшие годы на шахте одновременно работали до трех тысяч человек. Огромный сруб ствола, обшитый деревом, за столетие пропитался угольной пылью настолько, что стал похож на окаменелость. Клеть, которую спускают в последний раз, кажется игрушечной на фоне этого жерла.

Кесслер не пытается спорить с неизбежным. Энергетический переход, о котором говорили тридцать лет, завершается, северный блок ЕС полностью переходит на возобновляемые источники энергии. Угольные электростанции остановлены, шахты закрываются одна за другой.

— Знаете, что обиднее всего? — спрашивает он. — Они правы, сволочи. Ненавижу так говорить, но они правы.

Он помнит смог над Руром в шестидесятые, желтый, тяжелый, помнит разговоры про кислотные дожди и мертвый лес в восьмидесятых. Из четырех Кесслеров, работавших на шахте, только дед Фридрих умер в своей постели. Остальные либо в завалах, либо от пыли в легких, либо просто сердце не выдерживало после шестидесяти.

Но и к новой эпохе Кесслер относится без иллюзий:

— Мы знали цену, каждая тонна угля стоит столько-то жизней, столько-то здоровья. Все честно, все на лице написано, пыль въедалась — не отмыть. А они чистые, сидят в офисах, смотрят в экраны и говорят про климат, — он кивает в сторону солнечных панелей за забором шахты, их поставили в прошлом году. — Где для них литий копают, в Конго, в Боливии? Мы хоть знали, за что умираем. А там, наверное, вообще никто считать не будет.

Хайнрих говорит, что его сын не хотел уходить с шахты. Говорил, дескать, мы Кесслеры, это наше.

— А я на него смотрю и думаю: ты хочешь, чтоб мой внук тоже эту пыль глотал? — Кесслер качает головой. — Ну ее на хрен, такую работу, пусть лучше ветряки чинит.

Томас пока не решил, что будет делать дальше. Возможно, уедет, в Дании и Нидерландах требуются специалисты для обслуживания офшорных ветропарков. Возможно, останется в Руре, здесь собираются делать музей угольной промышленности, нужны экскурсоводы.

Солнце садится, панели за забором тускнеют. Кесслер стоит и слушает.

— Там, под землей, вода гудит, поднимается. Пустоты наши заполняет, что мы выгрызли. Возвращается.

Последняя клеть застыла на уровне земли, ее уже не опустят.

— Ну, бывай, Роберт, — говорит Кесслер и медленно идет к выходу.

Объем внебиржевых деривативов в 2024 году составлял 610 трлн долларов при мировом ВВП 105 трлн, к 2028 году это соотношение выросло с 6:1 до 8:1, при этом доля США в мировом промышленном производстве сократилась до 14%. Суммарный объем финансовых обязательств, выраженных в долларах, перестал соответствовать производственной базе страны-эмитента. В начале 2030-х стало окончательно ясно, что ФРС США более не может поддерживать порядок в мировой экономике, она теперь не могла эффективно решать даже локальные американские задачи. Мир перешел к мультивалютной системе вынужденно и впопыхах, немедленным следствием стало падение объемов международной торговли на 20-25% и рост транзакционных издержек.

Доллар США был не просто валютой, он представлял собой комплексный продукт, включавший предсказуемую правовую среду, военные гарантии безопасности морских путей и энергетического баланса, развитую систему клиринга и расчетов. Когда США больше не могли гарантировать эти условия, пакет распался. Но лучшее из того, что предлагается вместо доллара сейчас, корзина брика, обеспеченная сырьем — не полноценная замена. Сырьевые рынки более волатильны, чем валютные, их оценка всегда содержит политическую составляющую. Транзакционные издержки выросли, торговля замедлилась.

С другой стороны, в 2025 году Нигерия тратила 40% экспортной выручки на обслуживание внешнего долга, номинированного в долларах. В 2038 году, после пересчета обязательств в бриках, этот показатель снизился до 12%. Разные системы имеют разную цену для разных участников.

Еще в середине XX века было понятно, что национальная валюта не может бесконечно выполнять функции мировых денег, поскольку интересы страны-эмитента неизбежно вступают в противоречие с потребностями глобальной экономики. В 1944 году все участники Бреттон-Вудза понимали это противоречие, но альтернативы не было, мир нуждался в ликвидности, а золота не хватало. Доллар обеспечивал эту ликвидность 80 лет, это аномально долгий срок для доминирования одного актива. Смена расчетного средства — не катастрофа, а нормальный исторический цикл. Вопрос не в том, кто виноват, а в том, что придет на смену. А это решают не эксперты, а торговый оборот, невидимая рука рынка.

В 2035 году передовые модели ИИ впервые начали демонстрировать устойчивое превосходство над человеком в широком спектре когнитивных задач. Параллельно с технологическим прогрессом нарастало напряжение в спорах о допустимых темпах и условиях дальнейшего развития. 15 марта 2035 года группа из 73 исследователей опубликовала документ, озаглавленный "Декларация о необходимости верифицируемой паузы в обучении моделей сверх установленного порога". Его важнейшие положения:

— предложение ввести глобальный мораторий на обучение моделей, требующих вычислительных ресурсов выше определенного порога, индексируемого ежегодно;

— требование обязательной аппаратной верификации соблюдения моратория через чипы с защищенными счетчиками флопсов, интегрированные в производственный процесс;

— призыв к разработке архитектур моделей ИИ с формально верифицируемыми свойствами выравнивания (аналог трех законов робототехники у Азимова).

Документ не содержал алармистских формулировок, характерных для более ранних публичных дискуссий ("скайнет" и т.п.), и был сформулирован в терминах технической осуществимости и институционального дизайна.

27 марта был опубликован ответный документ, собравший 198 подписей экспертов. Основными аргументами были следующие:

— аппаратная верификация не является надежной, любая система контроля будет обойдена;

— мораторий приведет к перемещению исследовательских групп в юрисдикции, не присоединившиеся к соглашению;

— человеческие когнитивные ограничения становятся узким местом в решении глобальных проблем (пандемии, климат, термоядерный синтез), дальнейшее развитие ИИ является необходимым условием выживания человечества, а не угрозой.

Оба документа содержали признаки применения ИИ при их подготовке.

К декабрю начало обозначаться организационное размежевание. Четыре европейских исследовательских центра (MPI, EPFL, Cambridge, INRIA) опубликовали заявление о поддержке верифицируемой паузы. Три азиатских центра (NUS Singapore, KAIST, Technion) заняли нейтральную позицию, но фактически продолжили сотрудничество с американскими корпорациями. Внутри самих корпораций произошло неформальное разделение: группы, занимающиеся фундаментальными исследованиями, склонялись к поддержке паузы, группы, занимающиеся прикладными военными разработками — к поддержке технологического суверенитета.

В следующем году центры силы оформились организационно.

Женевская инициатива (официально — "Международная наблюдательная группа по контролируемому развитию ИИ") была зарегистрирована в апреле 2036 года. Структура финансирования: европейские пенсионные фонды (48%), фонды целевого капитала университетов (22%), пожертвования частных лиц (30%). Задачи: разработка стандартов безопасности, лоббирование международного регулирования, поддержка исследований в области верифицируемого выравнивания.

Ассоциация технологического суверенитета была создана в июне 2036 с регистрацией в Сингапуре и операционными офисами в ОАЭ. Финансирование шло через корпоративные венчурные фонды, государственные фонды стран Персидского залива, частные инвестиции. Задачи: координация исследований в юрисдикциях с минимальным регулированием, разработка открытых стандартов, не затрагивающих вопросы безопасности, лоббирование соревновательной модели развития.

В октябре 2036 Европейский парламент большинством голосов (348 против 212) принял резолюцию, поддерживающую глобальный мораторий, но носящую рекомендательный характер. Фатальным препятствием стала позиция Северного блока, заявившего, что национальные правительства не будут блокировать технологическое сотрудничество с американскими корпорациями в отсутствие глобального соглашения.

В декабре 2036 правительство ОАЭ объявило о создании на своей территории "Свободной экономической зоны передовых вычислений", более известной как "зона ускорения". Аналогичные заявления сделали Сингапур (февраль 2037) и Малайзия (апрель 2037). В этих зонах не действовали требования по лицензированию моделей, исследователям предоставлялся упрощенный визовый режим, под государственные гарантии предоставлялись вычислительные мощности для исследований.

К середине 2037 крупные корпорации выработали стратегию двойного стандарта. Внутренние документы Nexus, утекшие в августе 2037, демонстрируют создание двух параллельных исследовательских треков: один для продуктов, поставляемых на регулируемые рынки, и другой для исследовательских подразделений в зонах ускорения. Издержки такой модели оценивались в 15-20% дополнительных расходов на НИОКР, но считались приемлемыми.

7 марта 2038 в Джакарте был образован консультативный совет по глобальным вызовам (КСГВ), также известный как G20. В его мандат вошли, в том числе, вопросы технологического развития, но с ограничением полномочий, стороны не смогли договориться о наделении структуры правом принимать обязательные решения. Интервью с участниками переговоров указывают, что вопрос регулирования ИИ стал одной из причин отказа от наднациональных полномочий.

По состоянию на ноябрь 2038 существуют как минимум три различных режима регулирования: режим ЕС+Женева (обязательная сертификация, ограничения на вычислительные мощности), режим зон ускорения (минимальное регулирование), режим БРИКС+ (избирательное регулирование, ориентированное на прикладные применения). Научные работы в области ИИ все более четко распадаются на два независимых кластера, один из которых связан с разработкой новых архитектур и повышением эффективности обучения, а другой — с выравниванием и безопасностью. Интенсивность перекрестного цитирования между кластерами устойчиво снижается. При этом все больше исследователей, особенно молодых, мигрируют в зоны ускорения.

Провал попытки введения глобального моратория объясняется сочетанием трех факторов, которые мы обозначаем как "трилемма управления ИИ":

— технические механизмы контроля вычислительных мощностей не могут быть абсолютно надежными в условиях множественности юрисдикций и наличия черного рынка;

— наличие юрисдикций, предоставляющих убежище разработчикам, делает потенциально возможные санкции неэффективными;