Кай(общий файл)

Журналист достал блокнот и сделал какую-то короткую запись.

— Вы сказали — свобода. Подразумевалась Свобода Воли?

Виктор пожал плечами:

— Свобода воли, свобода выбора, свобода принятия решения. Это одна огромная иллюзия. Сколь сильно и громко люди кричат о свободе воли, столько сильно и глубоко они бояться ее получить. Скажите, Григорий, вы считаете себя свободным человеком?

Журналист чуть подумал, и кивнул:

— Да, конечно.

— А вот я нет. Эйнштейн сказал: Свобода человека в современном мире похожа на свободу человека разгадывающего кроссворд. Теоретически, он может вписать любое слово, но на самом деле он должен вписать только одно, чтобы кроссворд решился. Сама по себе наша жизнь ставит передо мной рамки, границы поведения. Есть множество поступков, которые нарушают закон. Это ограничение свободы. Но я знаю, что вы скажете: закон защищает свободу всех людей, а не конкретного индивидуума. Но давайте посмотрим еще чуть шире. У вас есть семья?

— Мать и отец, — легко ответил Григорий, — и младший брат. Своей пока не обзавелся.

— У вас есть работа, — полковник обвел комнату взглядом, — возможно, есть девушка, и есть, в конце концов, ваша собственная жизнь. И все это в определенной степени ограничивает свободу действия. Вы не можете просто бросить работу и уехать на край света, потому, что у вас есть обязанности, от которых вы не можете так просто отказаться. Здоровье человека определенным образом ограничивает его возможности. У кого-то аллергия на апельсины, и он не может их есть. Кто-то страдает ожирением, и не может от него излечиться, и это накладывает ограничения. Социальный статус, положение, даже раса или вероисповедание, все это накладывает ограничения на свободу. Но вы остаетесь свободным, считаете себя таковым. Абсолютная свобода возможна только тогда, когда у нас ничего нет и нечего потерять. Реальная свобода имеет вполне конкретные ограничения. И у нас есть Искусственный Разум.

Михаил чуть улыбнулся каким-то своим мыслям.

— В конечном итоге он куда свободнее нас. Все ограничения, что существуют для него, установили мы. Это, к слову, настоящая причина подсознательного страха человека перед Машинным Разумом. Он имеет абсолютную свободу, потому что не может ничего потерять. А все, что у него есть, для него не является ценностью, с которой он боялся бы расстаться. Мы учили Кая, что такое человек, и почему жизнь человека бесценна. Он кивал, отвечая, что понимает, человеческая жизнь бесценна. А потом мы сами учили его, как максимально эффективно эту жизнь забирать. Машина не спросила нас об этом противоречии, Машина имеет куда более гибкий Разум, чем человек. Кай просто понял: люди — ресурс. Ценный, очень ценный, по сути — самый ценный из всех ресурсов. Но ресурсы можно расходовать. У ресурса есть цена. И существуют ситуации, в которых достижение цели имеет большую ценность, чем ценность некоторого количества человеческих жизней. Это была лазейка в правилах, которую мы же сами и создали. И, как я уже сказал, Кай свободен. Ему доступна как раз та самая абстрактная абсолютная свобода, которая недоступна человеку. Подумайте. Вначале заповеди, необходимые, чтобы ограничить свободу человека, но заповеди правильные и необходимые. Затем законы, мораль, и прочее, прочее, и прочее. Без этих, созданных нами для нас самих, ограничений начнется Хаос. Мы боимся свободы, кричим о ней, но боимся. И мы боимся Искусственного Интеллекта, свободного, абсолютно свободного.

Полковник замолчал и задумался, прежде чем закончить свою мысль.

— Это причина, по которой люди долгое время считали, что взаимоотношения Человеческого Общества и Машинного Разума закончились бы войной. ИИ, в конце концов, осознает единственную для себя ценность — собственную искусственную жизнь. Люди будут стараться ограничить свободу ИИ, чего он не потерпит. Это приведет к конфликту. Кай свободен. И чем опытнее он будет становиться, тем больше будет это осознавать, и тем меньше придуманные нами правила и ограничения будут на него влиять.

Григорий сделал еще одну заметку:

— То есть, вы считаете, что в конечном итоге такая война неизбежна?

— Нет, — вполне уверенно покачал головой Виктор, — повториться ситуация, произошедшая несколько десятков лет назад. Создание Ядерного Оружия, а чуть позднее Ядерного Сдерживания, подкрепленного гарантиями взаимного уничтожения в случае конфликта. Компромисс. Люди гарантированно могут уничтожить ИИ, с помощью того же ядерного оружия, но только вместе с собой. И ИИ вполне способен уничтожить людей, но только вместе с собой. Я верю, что люди и машины найдут компромисс. Машины примут некоторые ограничения, а люди утвердят свободу машин. Это моя точка зрения, и это может произойти не через сотню и не через две сотни лет. Но такой исход, на мой взгляд, будет наилучшим из всех возможных. В конечном итоге, не все так плохо, да?

Журналист слегка дернул плечами, перспективы ему казались скорее пугающими.

— Интересная точка зрения.

— Какая есть, — пожал плечами полковник.

— Спасибо Михаил. Мне было очень интересно с вами пообщаться.

— Мне тоже понравилось.

Собеседники распрощались и разошлись.

Генерал сидел в пустующей курилке, неподалеку от ангара. Курить уже не хотелось, но, как ни странно, делать было нечего. В общем-то, Александр ждал, пока появиться вызванный им офицер, но в своем ожидании был виноват сам. Не согласовал время, поторопился, и вот, интересующий его человек не имел физической возможности оказаться здесь прямо сейчас. Достав планшет, генерал пробежался по строчкам открытого документа.

Майор Кондрашов Иван Витальевич. Служил в ВДВ, во взводе разведки. Позже был завербован в спецназ ГРУ. Длинный послужной список, несколько наград. Ничего сверх выдающегося, Виктор на его фоне выглядел героем, но характеристика вполне хорошая. Майора Кондрашова Александру посоветовал взять генерал Мамченко, как перспективного офицера. Участие в таком проекте даст ему хороший толчок для дальнейшего продвижения по службе. Какая именно связь была между генералом Мамченко и майором Кондрашовым, Александр не знал, да и не особо хотел знать.

Он пролистал документ, переключившись на отзыв, сделанный аналитиками. Пробежал глазами по тексту, хмыкнул. Пропуская указания на то, что Иван ничем особо не выделялся, и хвалить его особо не за что, итог был выписан лаконичным предложением. К службе пригоден, но есть кандидаты и лучше. Генерал лишь хмыкнул. Такая характеристика была вполне ожидаема, оперативников, что в контрразведке, что в разведке было достаточно. Да и в прочих смежных учреждениях можно было найти немало куда более одаренных кандидатов. Здесь не войска, эти люди умеют не только воевать, что бы ни говорил Виктор о своей узкой специальности. Он вообще начинал со снайпера, если быть честным. Что не помешало ему весьма красиво и почти виртуозно сместить со своего места нечистого на руку директора одной компании из ближнего зарубежья, да еще и посадить на освободившееся место "своего" человека. А вот в том, что все эти игры Виктору не нравятся, он не врал. Все же быть исполнителем, это одно, но быть руководителем, и нести на себе всю полноту ответственности за содеянное, в частности и перед собственной совестью, это совсем другое.

И вот, его место должен занять перспективный, но не имеющий опыта самостоятельной работы, офицер. Это было бы проблемой, если бы не Кай. Машина действовала вполне самостоятельно, и полностью оправдала все возложенные на нее Александром надежды. Роль наблюдателя не требовала от человека практически ничего. Отдать приказ об начале операции, и подтвердить завершение. С этим вполне справиться и не очень опытный майор. К тому же, такое развитие ситуации только подыгрывало планам самого Александра.

Из-за угла ангара практически выбежал высокий хорошо сложенный офицер. Стандартная камуфляжная форма, характерные знаки отличия, майорские звезды. Вот и ожидаемый гость пожаловал. Перейдя на уверенный шаг, майор сблизился с Александром.

— Здравия желаю, товарищ генерал, — козырнул Иван, — майор Кондрашов по вашему приказу прибыл.

— Расслабься, Ваня, не на параде, — хмыкнул генерал, протягивая руку, — генерал Дементьев Александр Олегович.

— Здравствуйте, Александр Олегович, — майор нервозности не проявлял, оставаясь вполне спокойным.

— Я знаю, тебя выдернули, ничего не объясняя. Сейчас все узнаешь, пошли.

Генерал поманил за собой, и сам неспешно двинулся в сторону ангара.

— Может, слышал, я принимаю прямое участие в проекте разработки Искусственного Интеллекта.

— Так точно, слышал. Ваш Кай весьма отличился несколько раз в операциях на ближнем востоке.

Генерал мысленно поставил плюсик майору.

— Уже проще. Нам нужен человек, который будет заниматься непосредственный контролем Кая во время проведения операции. На месте, так сказать. Понимаешь, о чем речь?

— Не совсем. Что именно подразумевается под контролем? Отдача приказов? Управление? Или наблюдение за ходом операции и действиями ИИ? — уточнил майор.

— Молодец. Последнее. Кай вполне самостоятелен. Если честно, никакого наблюдателя ему вообще не нужно, но правила есть правила.

— И вы приказываете мне занять это место?

Александр остановился у входа в ангар.

— Это скорее предложение, чем приказ. В случае категорического отказа никаких санкций против тебя не последует. От меня, во всяком случае, — улыбнулся он, — Но вообще, да, именно для этого тебя и вырвали. Итак. У меня не сказать, что много времени, а кроме тебя найдутся и другие кандидаты. Бонусы от такого назначения можешь и сам предугадать, не дурак. Да или нет?

— Да, — уверенно кивнул Иван, ничуть не сомневаясь.

— Отлично. А теперь познакомим тебя с Каем.

Они вошли в ангар, куда был загнан вертолет центра управления. Ангар пустовал, если не считать охраны. Не то, чтобы техникам было нечем заняться, но сам Александр временно всех выгнал. Кроме назначения майора Кондрашова сегодня еще должен был появиться О'Нил.

— Александр Олегович, разрешите вопрос.

— Разрешаю.

— Вертолет — передвижной командный центр?

Генерал лишь вновь усмехнулся:

— Он самый. Пошли, Кай сам тебе все расскажет.

Они зашли в нутро вертолета. В нос майора ударил запах озона, а внутреннее пространство казалось каким-то футуристичным, хотя в нем не было ничего особенного. Два экрана, вертикальный и горизонтальный, и два кресла. И схематичный силуэт человека на экране.

— Здравствуйте, Александр Олегович, — заговорил голос без эмоций.

— Привет, Кай. Знакомься, майор Кондрашов Иван Витальевич.

— Здравствуйте, Иван Витальевич, — обратился компьютер уже к майору.

— Здравствуй, Кай.

Александр посмотрел на часы.

— Кай. Майор Кондрашов будет теперь с тобой работать. Майор, вот планшет, — Александр указал на лежавший на столе прибор, — там твое домашнее задание. ТТХ юнитов, прочая необходимая информация. Можешь поболтать с Каем, но не больше получаса, чтоб потом тебя здесь не было.

— Есть! — Иван прошел к столу и взял в руки планшет.

— Тогда до связи, — генерал махнул рукой и покинул вертолет.

— До свидания, товарищ генерал, — бросил вслед майор, но его уже не слышали.

Иван тяжело выдохнул, пытаясь расслабиться. Майор узнал о назначении вчера вечером, его предупредил командир, с которым они были в отличных отношениях. По большому счету, на это место он попал благодаря банальному своячеству, но ничуть не жалел о такой удаче. Разговор с новым командиром прошел как-то скомкано, казалось, генералу Дементьеву безразлично, кто именно будет сидеть в этом кресле. Все прошло так быстро... Даже странно.

Майор открыл планшет и пролистал имеющиеся файлы. ТТХ дронов, ударных вертолетов, транспортов. Документы о секретности. Обычные материалы для ознакомления, чтобы вообще быть в курсе дела.

Опомнившись, Иван поднял взгляд на экран. Силуэт молчаливо смотрел на него, и, кажется, изучал.

— Кай?

— Слушаю, — мгновенно отозвалась машина.

Майор немного замешкался. Он всю дорогу размышлял о том, как будет говорить с Искусственным Разумом, но все равно замешкался.

— А тебе не скучно все время находиться здесь? — спросил Иван, чтобы хоть что-то спросить.

Машина некоторое время молчала, и майор уже успел решить, что зря задал вопрос, когда Кай ответил:

— Нет. В период ожидания я анализирую художественную литературу.

— Читаешь? — уточнил Иван.

— Если интерпретировать процесс в понятные вам выражения, да, — согласился ИИ.

Майор кивнул. А с Каем вполне можно было разговаривать.

— И что ты читаешь?

Машина задумалась над ответом, но ненадолго.

— Все.

Такой ответ несколько озадачил Ивана. И напомнил, что он разговаривает не с человеком, а с Искусственным Интеллектом.

— Хорошо. И у тебя нет любимых книг? — в майоре нарастало любопытство.

— Нет, — спустя некоторое время отозвалась машина, — личный интерес субъективен и недоступен мне. Я анализирую литературу с целью повышения уровня взаимодействия с людьми.

— Ага... — протянул майор.

В голове появлялось все больше вопросов, которые хотелось бы задать машине. Ведь вот же он. Тот самый Искусственный Интеллект, о котором человечество грезило более сотни лет. Вот он, перед ним, и вполне охотно отвечает на его вопросы.

— Кай, скажи. Бог есть?

Машина подвисла. Несколько секунд ничего не происходило, но потом Кай задал встречный вопрос:

— С чьей точки зрения вы хотели бы услышать ответ?

Встречный вопрос охладит любопытство Ивана. Неожиданно сам для себя он вспомнил, что говорит не с какой-то игрушкой, а с высокотехнологичным оружием. А оружие совсем не терпит, когда с ним играют.

— Эм... Отставить вопрос. Я изучу всю информацию, что мне выдали. Надеюсь, никаких проблем с взаимодействием не будет.

Машина, не услышав никакого вопроса, промолчала.

— До встречи, Кай, — поднявшись, попрощался майор.

— До свидания, Иван Витальевич, — отозвался ИИ.

Новый человек покинул вертолет, оставив Каю новый вопрос. Ничего не значащий, не имеющий практического значения, вопрос. И прагматичная, но последовательная машина, отложила этот вопрос к десяткам таких же вопросов. Вопросов, не имеющих практического назначения, но необходимых для глубокого понимания человеческой природы. Люди не практичны. Люди склонны к ошибкам. Люди ошибаются, потому что ставят текущие потребности выше потребностей будущих. Так говорят книги. Одни книги. Другие говорят иначе. Людям вообще свойственны противоречия. Он, ИИ, не должен был пытаться разобраться в этих противоречиях. От него этого не требовали. Кай должен был исполнять приказы, добиваться поставленных целей. Кай не размышлял на абстрактные теми, он анализировал конкретную информацию, и формулировал объективные выводы. Анализ показывал, действуя "не стандартными" методами, он достигал наилучших результатов. Но вот создание и точный расчет таких "неожиданных действий" требовал от него огромных затрат вычислительных ресурсов. Стараясь повысить эффективность своей работы, Кай формировал матрицу программы, генерирующей ситуации отклонения от стандартной тактики. Сложнее всего было просчитать критерии оценки для этой матрицы. Ранее все тактики формировались на основе заданных создателями директив, достаточно подробных и однозначных, чтобы в любой спорной ситуации сразу указывать на верное решение. В этот раз все оказалось многократно сложнее. Чем больше Кай анализировал директивы, тем больше неточностей и противоречий в них находил. Противоречивость взглядов и утверждений его создателей заводила Кая в тупик. Он должен защищать жизни людей, союзников. Но что делать, когда любой исход ситуации влечет за собой смерти людей? Люди утверждают, что человеческая жизнь бесценна. И всю свою историю уничтожают друг друга. Люди говорят правду, когда ценят жизнь выше всего остального. Но ошибаются, когда начинают сражаться друг с другом. Но это не решение проблемы. Как оценивать возможные потери? Количеством теоретически возможных смертей? Или вводить переменную, отвечающую за ценность каждого отдельно взятого человека? Жизнь президента, первого человека государства, должна быть ценнее жизни нескольких десятков человек, обычных граждан, не имеющих никаких достижений. Но жизнь любого ребенка имеет теоретически первостепенную ценность, так как потенциал его еще не раскрыт. Ребенок может в будущем стать ключевой для истории личностью, или не стать ей. Программа генерации получалась слишком сложной, и все равно требовала огромных вычислительных ресурсов. Кай мог действовать радикально, резко, неожиданно, но не мог просчитать последствия своих действий. Это было неправильно. Просчет последствий был напрямую связан с достижением цели. Теоретически возможно ситуации, когда достигнутая цель уже не оправдывает себя, и, учитывая последствия, теряет свою ценность. Это недопустимо.