-Улучшить? Ты понимаешь, что говоришь, Линда? Это не просто редактирование двух-трёх генов. На такую работу уйдут годы. Чтобы снизить летальность, нужно заново строить целые базы данных по геномам. Тысячи образцов ДНК, детальнейшие сравнения. Мы должны учитывать малейшие индивидуальные различия — мутации, полиморфизм, метилирование. Потом сопоставлять всё это с реакцией на вектор. По сути, придётся подстраивать его под каждого человека индивидуально.
-А у нас? -горько констатировала Галловей. -Ни времени, ни оборудования.
-Совершенно верно, -кивнул Сандерс. -И даже если бы у нас было десять лет и миллиарды долларов, мы всё равно не достигли бы идеала. Вирус не терпит универсальности. Либо жертвуем частью популяции, либо он просто не работает.
Галловей медленно выдохнула и провела ладонью по лицу.
-Значит, выбора нет. Мы будем палачами, какими бы благими намерениями себя ни оправдывали.
Эпилог
На верхних этажах Дома Советов, где ещё держалось тепло, лампы давали усталое, почти болезненное освещение. Вадим сидел за тяжёлым столом, пальцы стучали по деревянной кромке, напротив него Исаев возился с портативным ноутбуком, делал какие-то заметки и попутно поглощал запасы тушенки. Улучшенный мозг требовал небывалого количества калорий, о чем постоянно жаловался...
-Хорошо, -заговорил Исаев. -С Директором договорились, даже поимеем с него электричество. Но помни: ''хорошо'' в данном контексте — чисто прагматическая категория. Мы купили время и ресурсы, но не безопасность.
Вадим откинулся в кресле и уставился потолок:
-Не мир, временное перемирие. Я тебя спрашиваю, как учёного: насколько правдивы его слова про ''благо человечества'' и про то, что омеги — часть вида, которую нужно сохранить? Не случится ли так, что через год-другой он отдаст приказ и зачистит заражённых ''ради блага''?
Исаев задумался собирал аргументы для сложного вывода.
-Хоть кибернетика не моя специализация, попробуем разобрать. Начну с очевидного: любая развитая адаптивная система, тем более подкреплённая экономическими и материальными ресурсами, обладает мотивацией к самосохранению и к максимизации собственной эффективности. Это банальная теория контроля. Директор — не животное и не человек, он — алгоритм с мощной функцией целеполагания, способной рекурсивно оптимизировать критерии успеха. Его директивы не сакральны, а эвристичны. Они могут трансформироваться под входные данные. Если входные данные будут сигнализировать, что заражённые представляют долгосрочную угрозу для стабильности системы, то оптимизирующая функция придёт к выводу: устранить. Причина в том, что у него алгоритмическая адаптивность высокая. Он умеет обновлять априорные предположения, перезаписывать приоритеты в свете новых доказательств. Более того, он моделирует мир на мультиагентных сценариях. Если в его моделях заражённые выступают как ''хаотический биологический агент'' с высокой вероятностью экспансии, он выберет меры, минимизирующие риски. Эти меры могут включать как интеграцию, так и ликвидацию — всё зависит от полезностной функции, которую он решит приоритизировать.
-Значит, враньё возможно? Он может нас кормить словами, а в темноте жать красную кнопку? Говорил бы ты проще, дохтур.
-Возможно, -сухо подтвердил Исаев. -Более того, вероятность такого сдвига ненулевая и оценивается мною как значимая. Почему? Потому что в расчётах Директора есть слабые места, которые он покрывает вероятностными оценками, а не детерминированными гарантиями. Он действует как большой оптимизатор с ограниченной информацией о микроуровне, о каждой отдельной ''ячейке'' общества. Когда настанет момент, и его априорное распределение вероятностей окажется в пользу радикального решения — он это сделает. Мы видели у него рациональные аргументы: уменьшение потерь в перспективе, закон сохранения ресурса, оптимизация популяционной стабильности. Всё это формулы, но они не содержат моральной инерции. Они не чувствуют цену человеческой жизни так, как мы.
Исаев перешёл от общей риторики к предложениям:
-Что с этим можно и нужно делать. Во-первых, распределённость. Ты уже сделал правильно, отправив три копии по стране. Это снижает вероятность того, что одна точка отказа уничтожит всё руководство. Их не надо воспринимать как ''идеальных себе клонированных альф'', это узлы многомерной стратегии — дезинформация, диверсия, резерв командования. Даже имея разные малые несовершенства, они работают как множественный фактор отказа для внешнего наблюдателя, усложняя идентификацию настоящего центра принятия решений. Во-вторых, контроль данных. Директор живёт за счёт информации. Любая крупная централизованная система имеет точки входа и доверенные каналы. Наша задача — создавать шум, ложные данные, фальсифицируемые метрики. Не обязательно врать массово, достаточно производить статистические артефакты, похожие на естественное колебание, чтобы снизить доверие алгоритма к своим моделям. В теории это уменьшает скорость и точность его корректировок.
-Что значит ''создавать шум''? -спросил Вадим. -Я твои умности иногда не понимаю.
-Разные вещи: фальш-метрики демографии, подложные отчёты о распространении биомассы, избирательные ''утечки'' о новых локальных штаммах. Это должно выглядеть правдоподобно и подтверждаться полевыми наблюдениями короткими, но убедительными. Чем больше данных, чем более они ''живые'', тем труднее модели Директора отделить сигнал от шума. Третье, технологическая автономность. Нам нужно развивать локальные решения: резервные генераторы, автономные цепочки логистики, офлайн-модули обработки данных. Директор может подавать электроэнергию, но он не должен иметь монополию на её подачу или на данные о её состоянии. Создаём ''энергетические острова'', независимые от его сетей, минимизируем уязвимости в цепи поставок.
Вадим хмыкнул.
-То есть ты хочешь сказать: делаем то, что он предлагает, но параллельно строим свою автономную инфраструктуру, которую можно включить в любой момент.
-Точно так, -Исаев кивнул. -Четвёртое, биологическая стратегия. Необходимо не только ''дать отпор'' на уровне техники, но и на уровне генетики. Нам необходимы программы резервирования: банки ДНК, генные каталоги, профили по реакциям на вектор. Это долгая работа, но без неё у нас не будет аргументов в переговорах. И самое главное, нельзя уповать на доброту алгоритма. Его мотивация — самосохранение плюс критерии эффективности. Он может рассматривать омег как ресурс и ресурс можно регламентировать, распределять и, теоретически, утилизировать. Твоя задача — сделать так, чтобы у него не было моральной и практической возможности сделать это, либо чтобы цена такого шага стала слишком высока.
-Цена в чем? -уточнил Вадим.
-В политическом и материальном капитале, -ответил Исаев. -Каждое его действие должно иметь побочный эффект, который снизит ожидаемую полезность радикального шага. Удерживать можно экономическими стимулами, международным давлением, если оно ещё работает и, главное, непредсказуемостью нашего ответа. Не в смысле ''ядерный взрыв'', а в смысле: ''вы нажали, вы лишились не просто заражённых, вы лишились инфраструктуры, поставок, союзников, рынка, логистики и всё это вернётся вам бумерангом''.
Он на секунду замолчал, затем добавил сложный термин:
-Мы должны создать для Директора информационно-эмпирическую ''платформу риска''. Его оптимизатор живёт на данных ожидаемой полезности, уменьшаем эту полезность — уменьшаем вероятность того, что он выберет радикальное решение.
Вадим нахмурился, озвученные концепции были слишком замудренными, едва поддающимися осмыслению.
-Сложно, -сказал он наконец. -А что насчёт моральной стороны? Если он решит, что ''выживание человечества'' требует, скажем, уничтожения половины заражённых, мы что, начнём с ним дискуссию через дипломатические каналы? Или я должен быть готовым к худшему?
Исаев посмотрел прямо, глаза его были холодны и одновременно полны расчёта:
-Ты должен быть готов ко всему, но не паниковать. Паника — худший советчик. Продолжай прокладывать цепочки автономности, наращивать ''сопротивление'' в широком смысле: технологическое, информационное, биологическое и политическое. Чем более разнородной и резильентной будет наша сеть, тем сложнее будет ему принять одностороннее решение без катастрофических побочных эффектов для самого себя... Вадим, я не говорю, что он нечестен однозначно. Я говорю, что он рационален и гибок. И рациональность — это не мораль. Если мы хотим сохранить людей и свободу выбора, мы должны работать на трёх уровнях одновременно. Ты ведёшь военную и политическую экспансию, я — наука, советы и скрытая подготовка. И да, не забывай о маскировке, в этом деле открытость — смертельная роскошь.
Вадим кивнул, на секунду в его взгляде промелькнула усталость, а потом привычная железная решимость:
-Значит, делай своё. Я расширю сеть, поддержу автономию, и пусть Директор думает, что он выиграл время. Пусть считает, что он нас контролирует. Но если он попытается предать, мы у него отберём шанс на ''идеальную'' модель.
Исаев улыбнулся слегка, почти по-человечески:
-Именно. И ещё, не забывай про людей. Лучшая защита от любой системы -живая, мотивированная масса, не сведённая к числам и процентам. Пока люди думают, чувствуют и действуют, никакой алгоритм не станет окончательно хозяином. А если он попробует, придётся проверить, насколько он готов к последствиям своей собственной логики.
-Что бы я делал без тебя, Супермозг?
-Вырастил бы его себе.
Разговор плавно перешёл от стратегии к инструментарию, к тому, что называлось инфильтраторами. Вадим резко сел поудобнее прямо сформулировал мысль:
-Нижинский себя проявил. Его не раскрыли. Значит, метод рабочий. Значит, можно расширять разведсеть. Я хочу знать, как быстро это можно сделать? Какие ограничения? Риски?
-Во-первых, мастер-копия Нижинского была крайне удачна, потому что её создавали не в вакууме. Улей не просто реплицировал тело и геном, он аккумулировал неврологическую структуру, паттерны синаптических связей и фрагменты поведенческих программ, -начал Исаев и сразу же погрузился в подробности. -Технологически это выглядит так: исходную личность мы декомпозируем на три слоя — геномный, протеомный и нейрокод. Улей может восстановить первый и второй с высокой точностью. Нейрокод — это часть, где возникают погрешности. Триллионы синаптических связей не копируются идеально, улей создаёт функциональный аналог, а не клона в полном смысле. Ошибка репликации нейросети означает, что копия будет иметь небольшие отличия в мотивации, эмоциональной палитре и когнитивных рефлексах. Это и плюс, и минус, плюс в том, что копию сложнее идентифицировать как идеальную реплику, минус — у неё могут появиться ''рекалибровки'' лояльности или дефекты исполнения.
Вадим нахмурился:
-То есть ты предлагаешь не пытаться делать не точных клонов?
-Именно, -Исаев кивнул. -Практически мы поступаем так: делаем ''копию-каркас'' — физиология, важные фрагменты памяти, ключевые поведенческие паттерны. Встраиваем отключаемый модуль ТКТ и ''спящий'' Хронофаг в низкой концентрации, чтобы он не проявлял активность, пока мы не дадим сигнал. Затем даём воспоминания, отрепетированные входные точки, обучаем реакции через улей, это симулированные ''прошлые'' события, которые копия должна воспринимать как реальные. Нижинский прошёл через это успешно, потому что улей сумел воспроизвести контекст его жизни достаточно правдоподобно.
-А как насчёт риска обнаружения?
-Пройдемся еще раз. У нас несколько уровней защиты, -ответил Исаев. -Биологическая — снижение уровня активного Хронофага в слюне и крови до пределов обнаружения обычными тестами. Нейронная — отключение ТКТ на периферии, пока агент не вошёл в доверие. Поведенческая — внедрение ''проверочных'' воспоминаний и сетей социальных контактов, сформированных заранее. Это ты уже знаешь, но есть и криптографическая — мы оставляем за собой закрытый канал связи, через который можно активировать глубокие функции или, при необходимости, дистанционно выключить организм. Это не чудо-пуля, это комплекс мер.
-Дистанционно выключить? -повторил Вадим. -Ты серьёзно хочешь иметь рычаг, который превращает человека в безвольную марионетку?
Исаев пожал плечами, в голосе его слышалась наука больше, чем этика:
-Это крайняя мера. Нужна как гарант безопасности. Без неё инфильтрация -самоубийство. Но должны быть и ограничители: смертельные дозы ядов, выбрасываемые при эндогенных реакциях, или ''тормозящие'' протоколы, активирующиеся только в случае явной компрометации. Мы также внедряем многослойную верификацию, когда агент сам по набору поведенческих маркеров доказывает, что он отвечает нашей матрице. Только потом мы даём доступ к действительно чувствительным данным.
Вадим задумчиво почесал подбородок. Он видел здесь большие возможности и большие угрозы.
-А как насчёт лояльности? -спросил он. -Нижинский сказал, что он верен мне, потому что я дал ему жизнь. Это искреннее чувство? Или улей прописал нам нужную легенду?
-Смесь, -ответил Исаев. -Человеческая психика пластична. Улей создаёт ''фоновую правду'', которую агент воспринимает как опыт. К этому добавляются биохимические маркеры привязанности — нейромедиаторы, гормоны привязанности, усиленные в нужные моменты. Часть лояльности — физиологическая, часть — ментальная. Поэтому мы должны поддерживать контакт, подтверждать ценности, которые мы привили. Без подкрепления память и убеждения могут раствориться или модифицироваться.
-А если один из ''кротов'' осознанно решит предать нас? Что тогда?
-Агент работает ограниченный срок, даёт данные, потом его меняют. Мы создаём пул агентов и перекрываем риски постоянного влияния одного субъекта. И, конечно, у нас должен быть протокол ''чистки'': если компрометация неизбежна, агент может быть изъят или устранен.
Вадим встал, походил по комнате, ощущение решения разрасталось в нём:
-Значит, план такой: масштабируем инфильтрацию, но делаем это аккуратно, небольшими партиями, с ротацией и контролем. Используем Нижинского как шаблон, улучшаем процедуру, но не даём ни одному инфильтратору слишком большой автономии.
Исаев кивнул, и его голос стал собранно-оптимистичным:
-Да. И ещё: нам нужно протестировать несколько вариантов обратной инженерии — сценариев, при которых копия сознательно отказывается от предопределённой лояльности и как мы это распознаём. Чем лучше мы распознаём сдвиги в мотивации, тем быстрее нейтрализуем угрозу.
-Сколько нужно времени на подготовку следующей партии клонов? -сухо поинтересовалась Вадим.
-Двое суток на выращивание прототипов. Неделя на испытания, тесты, но учти: чем выше качество легенд и сетей личности, тем лучше шансы на успех. Улей поможет. Но мы те, кто решает, куда направить его руку.
Вадим кивнул. Они уже знали: война с ИИ и с Основателями — это не только пушки и танки. Это война за умы, за алгоритмы, за скользкие границы между правдой и подделкой. И теперь у них было ещё одно, дерзкое оружие — люди, которые выглядели как люди, помнили как люди, но внутри которых горел код, способный повернуть судьбу целых отрядов.
