Прошел еще год, прежде чем Юма рассказала им, что именно произошло, какой была ее жизнь, что она сделала, и почему она не хотела, чтобы кто-то об этом услышал.
Именно тогда они узнали историю, от которой тускнело очарование основательницы Черного сердца, девочки, которая невозможным образом держалась за репутацию невинности, и чье детское лицо сияло в новостных сводках и сердцах населения.
Они согласились.
Как-то раз, во время второй недели, Кёко подслушала разговор Хомуры с Юмой в комнате, что она делила с Кёко.
— Ты правда так думаешь? — спросила Юма.
— Ты не обязана мне верить, — сказала Хомура. — Но это правда. Лично я никогда бы не смогла простить Орико за то, что она сделала, но Богиня гораздо лучше меня. Для нее там найдется место. Как и для всех нас.
В тот момент Кёко подумала отчитать наедине Хомуру, за то что втягивает Юму в свои заблуждения, но так это и не сделала. В конце концов, она решила, что если Юму получится убедить поверить в подобную спасительную ложь, это будет лишь к лучшему.
Забавно, что столько лет спустя уже Кёко проповедовала с кафедры и находила утешение в перспективе жизни после смерти.
Пусть даже Хомура неоднократно на это намекала и часто говорила о своем желании вернуться к своей Богине, это был единственный случай, когда Кёко слышала, чтобы Хомура столь ясно выражала свое представление об их судьбах.
Кёко вышла из машины, подняв глаза на дождь, разбивающийся о прозрачный навес над входом на сороковом этаже штаб-квартиры «Махо-Сёдзё Ёкай: Правительственные дела» и «Управления: волшебницы». Изнутри их хозяйка, недавно восстановившая необычно юный девятилетний физический возраст, присматривала и влияла на человеческий мир.
Другие, более конспиративного типа, говорили вместо этого, что она правила.
Кёко проверила свой внутренний хронометр.
Пора было навестить Титосэ Юму.
Глава 8. Церковь и государство
Перед началом экзамена ученикам напоминается, что оценка за экзамен основывается на способности четко и сжато представить и обсудить знания, а не только на самих знаниях. Во время экзамена доступ к интернету умеренно ограничен.
Ваше имя?
〈Скрыто для конфиденциальности〉
Опишите цель структуры Управления и обсудите, добилось ли Управление этих целей.
Заявленные намерения структуры правительства содержат три цели.
Во-первых, оно предназначено для повторения преимуществ демократического правительства без его недостатков. То есть оно должно быть чувствительно к благополучию граждан, давать гражданам чувство уполномоченности и минимизировать гражданское недовольство. С другой стороны, следует избегать неоптимального сигнального механизма прямого голосования, чрезмерного влияния харизмы или особых интересов и мучительно медленного механизма демократического управления.
Во-вторых, оно призвано интегрировать интересы и силу искусственного интеллекта в человечество, не создавая разногласий или чрезмерного предпочтения того или иного. Разумность ИИ уважается, и их невероятная сила используется для смазки колес правительства.
В-третьих, по возможности, механизмы власти осуществляются понятным человеку образом, чтобы заинтересованные граждане всегда могли наблюдать понятный им процесс, вместо неинтерпретируемых проблем оптимизации полезности.
Успешность правительства в достижении трех этих целей смешана…
〈Консультативное примечание: Нисходящая тенденция внимания пользователя. Уведомляем, что избыточное содержимое отражает зарегистрированное ознакомление пользователя с обязательным обществознанием. Отмечены представляющие особый интерес исключения.〉
〈Продолжение содержимого:〉
В то время как правительство весьма успешно в предотвращении гражданских беспорядков, эффективной работе и, как правило, считается способствующим общему благосостоянию, рядовой гражданин чувствует крайне малое сродство с решениями Управления, которые часто кажутся таинственным образом взявшимися из ниоткуда.
Этот недостаток уполномоченности представляет собой сочетание двух факторов. Во-первых, огромный размер человеческой популяции легко размывает озабоченность любого индивидуума. Во-вторых, население просто не заинтересовано; даже на местном уровне участие гражданского общества на рекордно низком уровне. Население видит мало пользы в участии в политике, по сравнению с широким разнообразием гораздо более интересных мероприятий.
Также правительство не смогло сохранить свою деятельность по-настоящему понятной человеку, хотя остается открытым вопрос, может ли этого добиться какая-либо действующая в подобном масштабе организация. Главным затруднением является так называемая «проблема Ктулху», придуманный известным политологом Фредериком Эвальдом термин. Один из самых ранних критиков нынешней правительственной системы, Эвальд отмечал, что Управление настолько непонятно и чуждо, что вполне может быть «лавкрафтовским чужим богом», совершенно непостижимым как для людей, так и для ИИ.
Конкретно этот термин относится к тому, что понятное в каком-то одном аспекте правительство легко становится непостижимым, когда все его части складываются вместе, эта проблема особенно применима к Управлению, чью совокупную деятельность никто не понимает.
Стоит спросить: может ли правительство, которое никто и никогда не понимал, нести ответственность? Единственное утешение заключается в уравнениях Волохова, которые гарантируют, что система, по крайней мере, пытается содействовать благополучию человечества.
Лишь во второй цели, интеграции в человеческое общество ИИ, Управление может претендовать на почти полный успех. ИИ и люди существуют почти в полной гармонии, весьма отличаясь от представляемых многими в прошлом дистопий.
Опишите структуру Управления с особым акцентом на его Представителей.
Формально Управление является ИИ-опосредованной человечески-интерпретируемой абстрагированной демократией. Его создали как альтернативу пропагандируемой многими идеологами пре-Объединения утилитарной технократии ИИ. Как таковое, оно было предназначено для получения математически близких к технократии результатов, но с радикально иными внутренними механизмами.
Интересы избирателей правительства, как людей, так и истинно-разумных ИИ, возложены на различных представителей, каждый из которых запрограммирован или проинструктирован действовать насколько возможно в интересах своей конкретной локали. Интересы могут быть как конкретными, так и абстрактными, начиная с легко понятных «Митакихарских физиков частиц» до довольно абстрактных «науки и технологии».
Каждый представитель может слиться с другими — непосредственно либо через консультативный ИИ — чтобы сформировать супер-представителя с большей общностью, который, в свою очередь, может слиться с другими, вплоть до уровня Директората. Все, кроме представителей низшего уровня, состоят из многих других, и все, кроме высшего, являются составной частью нескольких супер-представителей.
Собравшиеся в комитеты представители формируют ядро почти всех решений. Эти комитеты могут быть постоянными, вроде Центрального экономического комитета, или разовыми, и распределение решений и состав комитетов осуществляются с помощью специальных контрольных комитетов, с рекомендациями специализированных консультативных ИИ. Эти распределения выполняются путем вычисления предельной полезности решения, накладываемого на составные части каждого участвующего представителя, и точный процесс слишком запутан, чтобы обсуждать его здесь.
В вершине принятия решений находится Директорат, который является правителем и обладает властью, ограниченной лишь несколькими основными правами. Создание — или, для людей, назначение — и отставка из представителей осуществляется Директоратом по рекомендациям МРП, Машины распределения представителей.
При необходимости ВР-заседания комитета проводятся при ускоренном времени, как правило настолько быстро, насколько позволяют вычислительные ограничения, и представители обычно посещают более одного за раз. Такая схема позволяет Управлению, поддерживаемому, по оценкам, тридцатью одним процентом вычислительной мощности Земли, принимать решения и действовать с поразительной оперативностью. Только на уровне города и ниже принятие решений передано менее сложной системе, бюрократии, задействующей правительственных чиновников и низкоуровневых разумных и полуразумных ИИ.
Общим смыслом столь запутанной организационной структуры является, по крайней мере теоретическая, понятность человеку. Гарантируется, что на каждое принятое правительством решение заинтересованный гражданин может отыскать и пересмотреть заседание принявшего решение виртуального комитета. Заседания проводятся в стандартной человеческой манере, с презентациями, обсуждением, спорами и, иногда, виртуальными драками. Даже при огромной абстракции и требуемом замедлении времени это считается очень важным, и это вопрос идеологии правительства.
Объясните, как именно люди интегрированы в структуру Управления.
〈Консультативное примечание: Этот раздел отмечен за внимание, основывающееся на указанных полях интереса пользователя («Социология: исторический контекст»; «Социология: постчеловечество»; «Философия: экзистенциализм»).〉
Для прошлых наблюдателей сосредоточение правительственной структуры на ИИ-представителях может показаться смущающим и даже вредным, учитывая, что почти 47% на самом деле люди. Интеграция всех этих людей в повседневную деятельность Управления является значительным технологическим вызовом, учитывая постоянные перекрывающиеся заседания комитетов в ускоренном времени, требование к абсолютной неподкупности и необходимость интегрироваться в более общих представителей и разделяться на более конкретных представителей.
Этот вызов был встречен и разрешен в той мере, что ИИ-ориентированная организация правительства более не считается проблемой. Люди-представители самые значительно улучшенные люди, с обширными корковыми модификациями, модулями постоянного осознания, частичным нейронным резервированием и постоянным подключением к компьютерным сетям. Каждый из них в паре с консультативным ИИ в сети для выгрузки задач, ИИ также проверяет человека на признаки коррупции или недостаточную самоотдачу. Представители выгружают воспоминания и вторичные когнитивные задачи из своих мозгов и способны присутствовать на нескольких встречах одновременно, в то же время занимаясь более человеческими задачами, вроде приема пищи.
Для решения проблемы того, что люди-представители могут стать недостаточно человечными, каждый такой представитель проходит регулярные проверки на исполнение критерия Волохова — заключающееся в том, что они все еще функционирующие, здравомыслящие люди даже без подключения к сети. Представители, которые не проходят этот тест, подвергаются частичной реинтеграции в свои тела, пока вновь не удовлетворят критерий.
Опишите уровни аварийных режимов Управления и когда, если когда-нибудь, они объявляются. Подразумеваются всеобщие режимы, а не местные.
〈Консультативное примечание: Раздел избыточен для пользователя.〉
Аварийные режимы Управления предназначены для действий правительства, армии и человеческого общества с прогрессивно большей степенью эффективности, но ценой значительной потери общественных условностей, гражданских свобод и государственной идеологии. Таким образом, их объявляют только в тяжелейших чрезвычайных ситуациях, и активирован был только самый нижний из уровней.
Аварийный режим первого уровня это полное чрезвычайное заседание всех Представителей Управления с гарантией, что каждый представитель выделит по крайней мере часть вычислительного времени решению проблемы. В последний раз был объявлен после нападения на колонию Аврору и отменен через три недели после Новых Афин.
Аварийный режим второго уровня объявляется большинством голосов сессии первого уровня, вызывает слияние всех членов директората в супер-представителя Управления, содержащего в себе сознания всех представителей людей и ИИ, также как всех консультативных ИИ и большинство военных ИИ. Этот слившийся ИИ будет обладать высшей властью, реализуя технократию ИИ, которой нынешнее правительство предназначено подражать.
Предполагается, что второй уровень будет объявлен только в случае неминуемого вторжения на Землю. Никто не вполне уверен, как он будет выглядеть, и философы обсуждают, будет ли такой ИИ ближе к верховному диктатору или философскому королю.
Аварийный режим третьего уровня может быть объявлен Управлением. Все граждане мобилизуются в армию и открывается прямой двухсторонний интерфейс между мозгом каждого гражданина и ближайшей компьютерной сетью, позволяя передавать приказы и ретранслировать информацию. Следует подчеркнуть, что эти приказы не обладают обязательным эффектом, а являются только приказами. В этот момент супер-представитель становится своего рода человечеством. Основные права приостанавливаются, и правительство возвращает права казнить, лишать свободы и так далее.
Третий уровень никогда не объявлялся, и предполагается, что это произойдет только после фактического вторжения и неминуемой потере Земли. Основываясь на скудных сведениях, предполагается, что общество головоногих действует в форме постоянного третьего уровня.
Аварийный режим четвертого уровня может быть объявлен при прямом одобрении девяноста процентов человеческих граждан и ИИ. Он включает постоянную активацию гражданских комплектов аварийной безопасности и, по сути, механизацию всех человеческих взаимодействий. В то время как директивы по-прежнему необязательны, очевидные и пугающие дистопические последствия четвертого уровня ведут к мысли, что это может произойти только в случае неминуемой гибели человеческой цивилизации. Предполагается, что общество инкубаторов схоже с четвертым уровнем.
— Шестой класс, экзамен по обществознанию #1, текстовая версия, отметка «превосходно».
Неплохо было бы, если бы, как Кекуле, я мог рассказать какую-нибудь интересную историю, о сне и схватившей себя за хвост змее, но моя история гораздо прозаичнее такого.
Конечно, я услышал о скандале в Претории в тот же день, как это попало в новости. Для меня это было серьезным беспокойством, достаточным, чтобы я в итоге всю ночь не мог уснуть, размышляя об этом.
Вызывает смущение и стыд тот факт, что мы создаем все эти интеллекты, даем им контролировать наши машины, не имея возможности убедиться, что они будут дружелюбны. Она убила человека, и эта машина, в день своей смерти, так и не смогла понять, в чем ошиблась. О, она, конечно, поняла, что мы не одобрили, но так и не поняла, почему.
