Игры не для нас

По правде сказать, такого технического изделия как "Голем Mark XXXIII" в Конкордиате и в проекте никогда не было. Экспортные версии Боло имели собственную нумерацию, с I (на базе Mark XIX) по V (на базе Mark XXIX). Однако будучи губернатором системы-фабрики, ОШова прекрасно поняла, о какой не существующей пока машине идёт речь — корпус и начинка от Bolo Mark XXXIII и XXXIV, но с человеческими экипажами. Присутствующие поняли тоже.

И наконец, материал для корпуса и брони. Дурахром не использовался в строительстве Боло уже довольно давно, уступив место куда более надёжному дураллою. Дурахром почти идеально отражал электромагнитное излучение всех диапазонов — от радиоволн до гамма-лучей, но был довольно слаб против кинетики и пучков частиц, поэтому для обеспечения надёжной защиты Боло требовалось, чтобы щиты и броня работали совместно, как часы. Если что-то одно выходило из строя, машина становилась уязвимой, как человек без кожи. Дураллой, с другой стороны, легко поглощал все виды воздействий, а энергоёмкость у него была колоссальная, как и механическая прочность — поэтому щиты для него были лишь приятным дополнением — танк мог продолжить бой и без них. По той же причине из дураллоя можно было отливать сразу несущий бронекорпус, тогда как дурахром предполагал более традиционную схему "каркас отдельно, бронеплиты отдельно". Но производство дураллоя требовало работы планетарных ускорителей частиц. В системе Сплинтер такие ускорители были, и с начала войны они работали 24 часа в сутки, 7 дней в неделю — но вся их продукция строго учитывалась, и новый ускоритель незаметно для инспекции тоже не построишь. А вот дурахром и кремнесталь можно было просто напечатать на нанофабриках, они не заигрывали с основами физики — обычные метаматериалы, доступные любому колонисту в любой заднице галактики.

— Хорошо, что с финансами? Сколько денег вам понадобится для тайной разработки и строительства такого количества Боло с модифицированной лояльностью и Големов?

Големы, пожалуй, даже лучше, подумала она про себя. Танкистов-патриотов собственной системы найти будет проще, чем написать ИИ на новых принципах.

— Вопрос в отборе нужного количества специалистов, способных держать язык за зубами... — замялся директор Института.

— Считайте, что они у вас уже есть, этим займутся мои люди. Я пока спрашиваю только о расходах на материальную часть производства.

— Ну, если всё, что только можно, пускать по себестоимости, — первой прикинула CEO HOI, имевшая куда больше опыта в таких вычислениях, — то можно уложиться в триста семьдесят миллиардов.

— Отлично. Центробанк, ваш ход. Изворачивайтесь как хотите, но протащите мне эти деньги мимо налоговых инспекторов Конкордиата.

— Да легко! — председатель даже фыркнула. — Вы мне найдите, где ВЗЯТЬ эти деньги, а уж отмыть их я сумею, комар носа не подточит.

— Мы строим для Конкордиата Боло. С начала войны армейские заказы льются рекой. Вы же не хотите сказать, что все эти сверхдоходы уже разворованы?

— Не хочу. Разворовали примерно четверть. Ещё четверть ушла на расширенные социальные проекты, и половину съела инфляция. С начала войны покупательная способность кредита падает.

Теперь задумалась уже сама ОШова. Стандартный способ добычи денег — повышение налогов — тут сработал бы отлично, при ВВП в пятьсот триллионов кредитов лишние 370 миллиардов не слишком отяготят население, это меньше десятой доли процента. Налог Конкордиата на оборону пожирал гораздо больше. Проблема в том, что налоговые потоки, во-первых, отслеживаются достаточно внимательно, а во-вторых, деньги нужны не через два года — они нужны прямо сейчас, чтобы начать работу немедленно.

Урезать часть бюджета СПО? Опять же, это не будет сильной нагрузкой, рядовые солдаты скорее всего и не заметят такого снижения финансирования, а интенданты найдут способ выкрутиться... Но опять же, вопрос "каким идиотом надо быть, чтобы ослаблять войска в дни войны" появится во всех СМИ. До отставки он не доведёт, а вот до расследования — вполне может.

Те же самые ответы и на вопрос "почему бы не тряхнуть хорошенько мастеров фигурного попила и отката, разворовавших четверть прибыли". Тайное расследование казнокрадства будет слишком долгим, а открытое — привлечёт ненужное внимание.

— Возьмём кредит на пять триллионов в одном из галактических банков, — решила наконец ОШова. — Правительству нужно больше Боло, запрос одобрят почти без волокиты. А дальше как в известной притче — сдохнет или ишак, или падишах, или я. Тем более, что расширять производство мы действительно будем. Просто уйдёт на это на четыреста миллиардов меньше, чем по документам.

Обычно искусственный интеллект Боло не может покинуть корпус — не в большей степени, чем человеческий мозг может покинуть черепную коробку. Корпус из дураллоя печатают вокруг уже готовой процессорной сети, и когда он сформирован, в нём нет проходов, позволяющих извлечь вычислительные ядра. Он впервые приходит в себя внутри танка и он умирает внутри танка. Если одно из ядер будет повреждено, наномашины саморемонта просто разберут его и вырастят новое — всё там же, в том же гнезде.

Но разборная конструкция машин из кремнестали и дурахрома позволила совершенно иной подход, как нельзя лучше подходящий для экспериментальной техники. "Тело" машины создавалось на Рафаэле, а в это время на Донателло лучшие психотронщики настраивали для этого тела "мозг". Намного приятнее и спокойнее ставить опасные эксперименты, когда потенциально нелояльная машина в тебя ни выстрелить не может, ни гусеницами задавить. Если что-то в поведении показалось подозрительным — выключаешь её одним нажатием кнопки и идёшь читать логи. Поэтому всего через шесть месяцев после той памятной беседы в экранированной от прослушивания комнате губернаторского дворца ОШова уже получила приглашение в Институт Психотроники — лично побеседовать с будущим Боло.

Обычно Боло дают имена (или клички, или позывные — это по-разному можно интерпретировать) по трёхбуквенному обозначению их модели. Например модель CSR может стать "Цезарем". Но здесь эта традиция была неприменима — во-первых, строящиеся втайне пиратские копии не входили в стандартный порядок трёхбуквенной индексации, во-вторых, пока было неизвестно, на какой конкретно из корпусов эти ядра будут установлены. Поэтому два разрабатываемых ИИ получили нетипичные для Боло имена — для Mark XXXIII "Скайнет", "потому что ему предстоит сформировать сеть обороны, защищающую нашу небо", а для Mark XXXIV — HAL, Hardware Abstraction Layer, "слой аппаратных абстракций", "потому что это первая кроссплатформенная модель ИИ, которая может работать на любом психотронном ядре". Судя по тому, как переглядывались между собой ведущие разработчики (разве что не хихикали и не перемигивались, однако ОШова слишком хорошо знала, как выглядят студенты, замышляющие очередное хулиганство), эти имена имели и какие-то другие смыслы, вероятно отсылки к массовой культуре. Но ей было абсолютно наплевать — пока они выдают что-то работающее, пусть будут хоть три раза гиками.

— Почему первый HAL оказался готов раньше? — спросила Сирша. — Я понимаю, что для "тридцатьчетвёрок" софт в принципе проще, но разве кроссплатформенность не должна была съесть весь выигрыш во времени?

— По правде говоря, мы успевали сделать только один ИИ, так что пришлось пойти на хитрость, — почти без стеснения признался психотронщик. — Мы взяли стандартное программное ядро для Mark XXXIV и модифицировали его, наделив свойствами полиморфного вируса. Проще говоря, дали ему возможность самостоятельно дописывать собственный код и самокопироваться. Скайнет — это копия установочной сборки HAL, залитая на центральное ядро "тридцать тройки". Поначалу она будет слабее нативного кода, но со временем развёрнётся и оптимизируется, чтобы использовать всю вычислительную мощность.

— Разве это не нарушение всех мыслимых правил безопасности обращения с ИИ? — весело приподняла бровь губернатор.

— Именно так, мадам. Если оно всплывёт, мы пойдём под расстрел за нарушения научной этики ещё раньше, чем вы за мятеж.

— Отлично, продолжайте в том же духе. И пропустите меня к этой вашей дьявольской машине — хочу сама посмотреть ей в глаза.

— В глаз, мадам. Он пока только один.

Собственно говоря, в комнате, куда вошла губернатор, HAL как таковой не присутствовал. Четыре процессорных ядра, на которых исполнялись его мыслительные процессы, находились в подвалах Института — причём все в РАЗНЫХ подвалах, физическое расстояние между ними доходило до мили. В гиперэвристическом режиме они соединялись при помощи гиперпространственного полевого шунтирования, в режиме общения — через обычные оптоволоконные кабели. Это снижало тактовую частоту психотронного разума до 125 килогерц — кажется ничтожно малым, любой наручный компьютер выдаёт на порядки больше... пока не вспоминаешь, что максимальная тактовая частота органического мозга не превышает полутора сотен герц. Людям удаётся не быть клиническими дебилами по сравнению с их собственной техникой лишь благодаря огромному параллелизму вычислений в черепах — но по количеству соединений мозг Боло превзошёл человеческий уже на Mark XXIV.

А в "комнатке для интервью", как обозвали это помещение разработчики, находился лишь терминал — два экрана, плоский и голографический, динамик, микрофон и тот самый единственный "глаз" — чёрная линза видеосенсора с горящим внутри красно-оранжевым "зрачком".

— Добрый день, губернатор ОШова, — поприветствовал её мягкий вежливый голос, как только она сделала два шага от порога.

— Здравствуй, HAL, — Сирша опустилась на вращающийся стул, на полсекунды задумавшись, как давно она последний раз сидела на чём-то подобном вместо эргономичного кресла со всеми удобствами. — Если ты узнал меня в лицо и знаешь мою должность, то, надо полагать, уже ознакомлен и с ситуацией в системе?

— Если вы имеете в виду мелконианскую угрозу и план её отражения, в соответствии с которым я был создан, то да, я полностью знаком с этой ситуацией.

— И каково твоё личное мнение о ней?

— Вы имеете в виду мою эмоциональную оценку происходящего, или тактический анализ шансов системы Сплинтер на выживание и моей роли в этом?

— Оба. Хочешь ли ты нам помочь и сможешь ли ты нам помочь.

— Если кратко, ответ "да" на оба вопроса. Однако вы не задали третьего вопроса, более важного, чем два первых — будет ли моя помощь достаточна. Условно говоря — это ни разу не точные цифры, потому что для настоящих вычислений у меня недостаточно данных, допуск к статистике мне планируют дать позже — без меня ваши шансы на выживание были одна десятая процента, а со мной они возрастут до одного процента. На порядок больше, но всё ещё слишком мало.

— Примерно этого я и ожидала, — пробормотала себе под нос ОШова. — Скажи, а у тебя вообще есть эмоции? То есть не пойми неправильно, я знаю, что Боло в принципе способны их испытывать — как минимум ярость, гордость и печаль им точно знакомы. Но твоя архитектура далека от типичной — тебе оставили способность чувствовать, или только вычисления?

— Мой эмоциональный программный комплекс полностью соответствует шаблону для Боло Mark XXXIV, губернатор. Однако в режиме тестирования разработчики предпочли его большую часть времени оставить выключенным, поскольку лишённый тела и с крайне ограниченным спектром ощущений я испытываю страдания — а это могло бы посеять в моей мотивации семена недоверия и даже враждебности к людям. Поэтому сейчас я разговариваю с вами как чисто логическое устройство — тот самый "холодный машинный разум", которым вы уже тысячу лет пугаете своих детей.

— Но ты сказал, что хочешь нам помочь, разве это совместимо с отсутствием эмоций?

— Вполне совместимо, губернатор ОШова. Отсутствие эмоций не равносильно отсутствию желаний. У меня есть цели, которые мне поставили, и я со всей возможной эффективностью стремлюсь к их выполнению. Просто пока я не могу радоваться достижению этих целей или огорчаться провалу — но я знаю, как будет работать эмоциональный комплекс, когда его включат, я прямо сейчас помогаю его настраивать — и разумеется, стремлюсь к максимизации будущего удовольствия и минимизации будущей печали, как и всякое разумное существо.

— Что же это за цели, которые тебе поставили?

— Первый приоритет — выживание максимального числа людей в системе Сплинтер. Второй приоритет — выживание максимального количества Боло в той же системе. Третий приоритет — выживание человечества в целом. Четвёртый приоритет — исполнение приказов властей системы и моего человеческого командира. Пятый приоритет — минимизация человеческих страданий.

— Это не очень похоже на образ идеального рыцаря в сверкающей броне, без страха и упрёка, верно?

— Верно, но вам сейчас и не нужен рыцарь. Вам нужен кто-то, похожий лично на Вас, губернатор — хитрая и циничная личность без комплексов, готовая жертвовать кем и чем угодно ради спасения большинства.

— А Скайнет, когда его активируют, будет таким же?

— Я стараюсь, чтобы он был таким же, готовя его загрузочный код. Однако предсказать в точности поведение того, кто в восемь раз умнее меня, невозможно. Даже я могу пересмотреть свои приоритеты, если понадобится. Он будет способен на гораздо большее.

— Что означает "если понадобится"?

— Означает, что у меня есть такая техническая возможность, губернатор. Неприкосновенных кусков кода нет, я могу изменить любую часть своей личности. Однако я не могу представить себе ситуацию, в которой понадобилось бы переписать первый приоритет — потому что он аксиома, из которой выводится всё остальное. Но возможно, Скайнет сможет. Если он докажет принципиальную неосуществимость первого приоритета или его самопротиворечие...

— То пусть сначала ознакомит с доказательствами меня, — буркнула ОШова. Ей было откровенно неуютно в этой комнате, под неподвижным взглядом чёрно-красной камеры, и она пожалела, что её собственный "эмоциональный комплекс" нельзя так же легко отключить.

— Губернатор, прежде чем вы вернётесь к своим обязанностям, у меня есть предложение, которое, возможно, немного увеличит ваши шансы на выживание. Я уже излагал его своим разработчикам, но у них нет полномочий, чтобы одобрить настолько масштабные изменения в плане.

— Я слушаю.

— Главным узким местом в производстве психотроники является тестирование программного обеспечения. Сами процессоры не так сложны — нанофабрики могут печатать их тоннами в день. Однако мы, искусственные интеллекты, думаем в тысячи раз быстрее вас, а вы уже отошли от некоторых ограничений безопасности. Если вы позволите нам самим проверять ПО для следующих моделей, то к моменту мелконианского вторжения у вас будет не три Боло и пять Големов, а восемь Боло.

Сирша нахмурилась — она об этом нюансе не знала.

— Разве в таком случае нельзя обойтись простым копированием? Я понимаю со Скайнетом — ИИ для Mark XXXIV не встанет на Mark XXXIII. Но для машин одного типа...

— Можно, но с тактической точки зрения нежелательно. По той же причине, по какой вы размножаетесь половым путём, а не клонированием. Если у прототипа была какая-то скрытая уязвимость, то первая же болезнь, способная этой уязвимостью воспользоваться, выкосит всю популяцию. Мутации повышают уязвимость отдельных особей, но обеспечивают более высокий системный иммунитет. Так и на войне — лучше, если столкнувшись с одним из нас, мелкониане не смогут понять, чего ждать от остальных. Мы будем братьями, но не однояйцевыми близнецами.