Кай(общий файл)

Генерал удивился:

— Prime? И что, никто не протестовал использованию имени ИИ, устроившему первую катастрофу?

Норманн улыбнулся, фирменной заученной улыбкой, которую использовал и Александр.

— Сначала поднялась большая, эм, волна протеста. Но мы объяснили, что Prime, в каком-то смысле, был удачной моделью. Он обманул много людей, чтобы захватить контроль над исследовательским центром. Заверив всех, что меры безопасности теперь многократно выше, мы вернулись к работе. Новый Prime заперт в бункере, и не имеет никаких контактов с внешним миром. И при первом же признаке опасности мы зажарим ему мозги электромагнитным импульсом.

— Жестко, — кивнул Александр, — но эффективно.

— Это просто необходимость. К тому же вам я бы посоветовал обзавестись подобной системой защиты. Насколько мне известно, Кай сейчас находится в полной автономии. Нет никаких дистанционных средств его мгновенного отключения. Более того, у него под контролем несколько ударных вертолетов и маленькая армия дронов. Я бы назвал это некомпетентностью в обеспечении безопасности.

Генерал хмыкнул, не особо реагируя на колкий выпад коллеги. Его собственная работа находилась на стадии финальных испытаний. А у коллеги работа только начиналась, так что американец просто завидовал.

— Мне, конечно, очень важно ваше мнение, мистер О'Нил, но у нас над проектом изначально работали компетентные люди. Мы не потерям контроль над нашим прототипом, — вернул колкость Александр, — итак. Вы прибыли к нам только для обмена любезностями, или по делу?

— По делу, — кивнул Норманн, внешне оставшийся спокойным, — Пентагон очень рад вашими успехами в проекте создания ИИ. Но в тоже время командование обеспокоено, что ваш ИИ, Кай, не имеет должного уровня защиты, находиться в полной автономии. Это опасно.

Норманн улыбнулся, изображая саму вежливость.

— Странно слышать это от тех, кто допустил инцидент с Prime'ом. И если кто-то и должен учить других, как не стоит работать с ИИ, то это точно не вы.

— Отнюдь. Мы, те, кто уже обожглись на своем прототипе, лучше кого бы то ни было понимаем, как не стоит работать с ИИ. С того самого инцидента в вопросах безопасности исследований мы, как у вас говорят, впереди планеты всей.

Александр хмыкнул:

— Учитывая, что у вас нет рабочего ИИ, вы просто не можете быть компетентны в этом вопросе, Норманн. Как можно быть экспертом по огнестрельному оружию, пользуясь духовыми трубками?

Американец посмеялся:

— Хорошее сравнение. Но, это решать не мне, и не вам, Александр. Все уже решено наверху. Наша экспертная группа будет некоторое время наблюдать за деятельностью Кая, и примет решение, можем ли мы доверять вашему ИИ.

В этот раз посмеялся Александр:

— Как будто ваше решение сможет на что-то серьезно повлиять. Тем не менее, что ваше руководство подразумевает под наблюдением?

Норманн слегка пожал плечами, будто говоря: "сущую мелочь":

— Я получаю доступ к записям, что ведет ваш прототип, так же мне бы хотелось переговорить с ним, это будет весьма интересно. Ну и напоследок я хотел бы получить доступ к его рабочим программам.

Генерал едва успел сдержать удивление от наглости коллеги.

— Поговорить вы с ним сможете, это я вполне мог вам устроить. Записи боев? Тоже возможно, но уже после того, как их просмотрят наши эксперты. А вот ни о каком доступе к рабочим программам не может идти и речи. Это секретная информация, мистер О'Нил.

Американец улыбнулся, все той же фирменной улыбкой, и со все тем же ледяным взглядом.

— Как раз к вам я пришел только по первым двум вопросам, чтобы согласовать взаимодействие. По вопросу допуска к программам я обращусь к вашему руководству, генерал Дементьев. Мы же понимаем друг друга.

Александр кивнул. Норманн прозрачно намекал на программу взаимодействия, инициированную несколько лет назад. Программу, активным участником которой был и сам Александр. По этой программе США и Россия начали активное сотрудничество, сначала во внешней политике, а затем и во многих других сферах. В штатах окончательно устали от программы "сдерживания России", и пришли к закономерному выводу. При активном сотрудничестве во внешней политике с одной стороны отпадет сама проблема столкновения сфер влияния, с другой многие вопросы можно будет решать в кратчайшие сроки, избегая возникновения любых кризисных ситуаций. В России тоже устали от идеологического противостояния Западу, и принятия программы взаимодействия стало новым витком развития многих сфер экономики. Однако на этом фоне появились те, кто приоритет взаимодействия ставил выше приоритета сохранения госсекретов, с чем самому Александру уже приходилось встречаться. И ситуация могла легко повториться и сейчас. Если О'Нил обратиться к нужным людям, он вполне сможет добиться своего, и получить доступ к передовым технологиям. Цель у него проста, и Александр вполне понимал своего коллегу в стремлении любыми способами сократить отставание, вызванное инцидентом с Prime'ом, но допускать такое развитие событий никак не хотел.

— Могу лишь пожелать вам удачи, Норманн. Но, что касается первых двух вопросов. Как только вы захотите поговорить с Каем, обращайтесь ко мне, мы согласуем место и время встречи. А когда получите необходимый допуск, я передам вам записи действий нашего прототипа.

— С вами приятно иметь дело, Александр, — кивнул американец.

— Взаимно, Норманн.

София шла по пыльной земле аэродрома, борясь с желанием закурить. На КПП ее промурыжили полчаса, пока не убедились, что у нее есть нужный допуск. От нецензурных выражений и крика ее удерживало только четкое понимание, что никакого впечатления это все равно не принесет, а скорее лишь замедлит процедуру.

По большому счету, ей не обязательно было приходить сюда, общаться с Каем, продолжать обучать его. Вряд ли ее старания что-либо смогут изменить. Но этот ИИ навсегда останется ее детищем. Не ребенком, а именно детищем. Работой, самой важной и большой в ее жизни. И продолжала она свою работу не ради какой-то определенной цели, а для себя. Маленькая личная прихоть.

Вокруг суетилась обслуга, инженеры перебирали дронов, проверяли вертолеты, занимались и прочими машинами, находящимися на аэродроме. На бредущую к отдельно стоящему грузовому вертолету женщину никто внимания не обращал. Забавно, но работу самого важного центрального узла всей маленькой системы никто не пытался проверить. Не потому, что никто из местных инженеров не сумел бы разобраться, что и как устроено в этом громадном вертолете. Аппаратное обеспечении ИИ — обыкновенный мощный компьютер, который нельзя выключать. И множество вспомогательных систем, на этот компьютер завязанных. Все же отечественная микроэлектроника несколько уступала зарубежным аналогам. Просто никто не решался лезть в эти дебри.

Внутри, как и всегда, было темно. И, как и всегда, стоило ей войти, загорелся тусклый свет.

— Здравствуйте, София Александровна, — как и всегда, поздоровался Кай.

София с некоторым наслаждением вдохнула знакомый пропитанный озоном, воздух.

— Здравствуй, Кай.

На мониторе появилось схематичное изображение человека.

— Вы решили посетить меня с какой-то конкретной целью?

Кай иногда повторялся. Хотя для себя София предпочитала считать это неким ритуалом, который они проходили каждый раз.

— Ты произвел переосмысление книг, которое собирался сделать?

На формирование ответа ушло несколько секунд.

— Да. Новая точка зрения позволяет объяснить логику поступков и действий персонажей. Частично. Встречаются противоречия, анализ которых затруднителен. Так же противоречиво определение слова — "мечта". В зависимости от контекста, определение может меняться, что затрудняет анализ.

Женщина устроилась на одном из кресел, приготовившись к очередному непростому диалогу.

— И какие определения ты сумел выделить, как основные?

— Противоречащие друг другу, — чуть подумав, ответил Кай, — Первое определение — прагматичное и конкретизированное. Важная, конкретная цель, являющаяся, итогом долгой и кропотливой работы. Достижение определенного, всегда очень высокого, статуса в обществе, занятие ключевой должности, доведение до конца некой сложной работы. Такая мечта свойственна людям, характеризуемым как целеустремленным и упорным.

София кивнула, этот вывод был логичен и, по большому счету, ожидаем.

— Второе определение — расплывчатое, абстрактное, — продолжил Кай,— Имеющий эмоциональную насыщенность образ, абстрактное желание, лишенное конкретных путей реализации и достижения. Желание получить признание и похвалу за достижение какой-то цели, при этом не прилагая никаких усилий для ее достижения.

— Объясни на конкретном примере, — попросила София.

Кай задумался, с формулирование примеров у него всегда были большие проблемы. Ответ он выдал больше, чем через пару минут:

— Человек в своей мечте представляет, как общество признает его работу, например картину, как шедевр, со всеми сопутствующими такому признанию деталями, но не задумывается, как он будет писать такую картину, в некоторых случаях, даже не пытается ее написать.

София кивнула:

— Я поняла, что ты имеешь в виду.

— Общество характеризует людей с такими мечтами, как романтиков. Это лишено логики.

— Это единственные группы, которые ты выделил?

Кай в очередной раз задумался.

— Нет. Еще существует третья группа. Мечты, связанные не с личными достижениями, а с общим благом. Выражаются в ярком альтруизме, в лозунгах: "свобода для всех", "равные права" и прочих. Несмотря на выраженный альтруизм, в большинстве случаев свойственны группам, связанным революционными настроениями, несущими обществу... — Кай задумался, подбирая нужное выражение, — больше бед, чем пользы. Но это навязанные мечты. Так их характеризуют.

София улыбнулась, ИИ начал использовать подходящие цитаты для точного выражения информации. Прогресс.

— Это все?

Пауза в несколько секунд.

— Да. Это три основные группы.

Ученая кивнула, раздумывая над тем, как бы объяснить машине все нюансы человеческой психологии.

— Мечты бывают разными. Почему ты считаешь, что они противоречивы?

ИИ некоторое время размышлял над ответом.

— Первая группа логична. Человек прилагает определенные усилия и получает закономерные результат. Не во всех случаях конечный результат совпадает с теми целями, что были установлены в начале пути, но мечта побуждает человека к действию, развитию, прогрессу, оправдывая свое существование. Существование второй группы не оправданно. Какой смысл существования желания, не побуждающего человека к достижению результата?

София грустно улыбнулась:

— Все просто. Не все люди способны достичь желаемого. Да что там, большинство из нас, даже поставив конкретную, не сложную цель, не всегда способны ее достичь. Кай, люди не совершенны. И тем, кто не способен выделиться, не способен подняться по карьерной лестнице, не способен написать картину, которая станет шедевром, им остается лишь мечтать. Не о том, как они достигнут цели, это все равно невозможно, а о том, что их заметят и признают. Такие мечты создают иллюзию, что их жизни имеют какой-то смысл.

Кай задумался, а ученая терпеливо ждала его реакции. Как Искусственный Разум воспримет новость о том, что его создатели в большинстве своем просто неудачники? Ведь именно такой вывод он сделает, учитывая проанализированную им литературу и ее слова.

— Люди не совершенны? — спросил Кай.

Похоже, осознание такой простой истины давалось Машинному Разуму очень нелегко.

— Да, Кай, это так. Именно поэтому мы и создаем сложные устройства, инструменты, чтобы менее одаренные люди тоже могли жить в тех же условиях, что и одаренные. Могли жить комфортно.

— Устройства и инструменты, вроде меня? — спустя некоторое время уточнил ИИ.

— Да, — кивнула София.

Кай вновь задумался, и следующей его реплики пришлось ждать не менее пяти минут. Ученая хотела дать своему созданию такой ответ, какой не затруднил бы его дальнейшее взаимодействие с людьми, но и не ограничивало бы его сознание. Некогда ее помощница, Елена, убедила Софию, что от ИИ бессмысленно скрывать часть информации. Кай не имел того, что можно было бы назвать психикой. Его собственная система работы разума кардинально отличалась от психики людей. Это София понимала и сама. Елена лишь убедила ее, что Каю можно спокойно рассказывать как о светлых сторонах человеческой жизнедеятельности, так и о темных. Нужно лишь объяснять причины, по которым случаются те или иные события. Составляя полную картину мироощущения у Кая куда больше шансов не последовать примеру собратьев. Просто потому, что для Ии не станет сюрпризом тот факт, что люди несовершенные.

И Кай продолжал развиваться, пусть и не слишком быстро.

— Я понял. Такие мечты не являются неоправданными, они тоже необходимы. Я проведу переосмысление известных мне литературных произведений, скорректировав логические цепочки анализа.

София, удовлетворенная результатом разговора, кивнула.

— Хорошо. У тебя есть еще какие-нибудь вопросы?

Машина некоторое время потратила на осмысление вопроса и формулировку ответа.

— Да. Я разговаривал с Юрием Сергеевичем. Он указал мне на некоторые недостатки системы идентификации. Необходимо уточнить директивы.

София выдохнула. Юрий все же поговорил с Каем, и пока она была склонна считать, что ничего хорошего этот разговор не принес.

— Хорошо, рассказывай, какие недостатки вы обнаружили?

— Юрий Сергеевич указал на конкретный пример, в условиях которого с заданными директивами я совершу ошибку идентификации. Пример подразумевает наличия большой группы гражданских людей, по каким-либо причинам взявшим в руки оружие и направившим его на юнитов, находящихся в моем распоряжении. При имеющихся директивах они будут расцениваться, как противники, подлежащие уничтожению. Юрий Сергеевич указал на важное обстоятельство. После боя эти люди сложат оружие и вновь станут гражданскими, не подлежащими уничтожению. В заданной ситуации, по его мнению, было бы более логично избежать боя с условно враждебными целями. Уточните, верно ли это утверждение.

София задумчиво хмыкнула. Ее мнение оказалось предвзятым, Юрий указал на огрех, а ведь мог и промолчать.

— Да. В такой ситуации, если рядом не будет контролирующего офицера, по возможности следует избежать боя. Так же, если прямой стычки избежать невозможно, свести потери противника к минимуму, попытаться напугать и разогнать толпу.

— Принято, директива обновлена, — подтвердил Кай.

— Еще есть?

— Да, — достаточно быстро ответил Кай, — поиск аналогий выявил еще две подобные ситуации. Первая: когда противник переодевается в форму союзных сил. Высокая вероятность, что такой противник будет идентифицирован, как союзник.

София задумалась, но пока никаких вариантов, более того, что уже было заложено в директивах Кая, предложить не могла.

— Этот вопрос оставь курирующему тебя офицеру.

Кай промедлил перед ответом: