Кай(общий файл)

— Удалось, — утвердительно ответил Кай, — примеры неоднозначны, но предоставляют возможность понять ход человеческих мыслей.

Мужчина хмыкнул:

— Люди порой сами не способны понять ход мыслей друг друга. Почему ты думаешь, что способен на это?

Кай ненадолго задумался, что было в первый раз за весь разговор.

— В шестидесяти трех процентах случаев действия людей объясняются желанием достичь простых потребностей. Желание получить власть, богатство, признание, и наиболее коротким путем. А не способность людей понять друг друга происходит от нежелания признавать, что всему причиной стали столь... низменные желания. Люди предпочитают объяснять свои поступки высокими целями, что редко соответствует истине.

Ответ Кая ввел Юрия в легкий ступор:

— Это твое мнение?

— Нет, — легко признался ИИ, — одно из современных философских направлений. Несмотря на непопулярность, считается наиболее правдоподобным.

Мужчина хмыкнул:

— Но ты с ним согласен?

— Я учитываю все варианты.

— И, тем не менее, ты высказал именно этот вариант. Почему?

Человека заинтересовал этот разговор. Все же логика машины иногда выдавала забавные перлы.

— Именно им я оперировал при анализе в данный момент. Спроси вы меня на полчаса раньше, ответ был бы другим, — объяснил свою позицию Кай.

— Допустим. Что ты сам думаешь об этом утверждении?

Юрий хмыкнул, вспоминая их прошлый разговор. Он уже хотел перефразировать вопрос, так как в прошлый раз ИИ пытался убедить его, что у машины не может быть собственного мнения. Но не успел.

— Утверждение корректно лишь отчасти. Больше всего оно подходит для ситуаций, в которых у человека нет времени принять осознанное решение. Для действий, совершенных рефлекторно, без обдумывания, утверждение корректно. В остальных случаях люди принимают решения исходя из совокупности своих принципов и целей. Или под влиянием текущего эмоционального состояния, зависит от ситуации.

— Хм... — только и выдавил из себя мужчина.

Столь глубокие изменения стали для бывшего военного неожиданностью.

— Ты изменился, Кай.

— Я создал шаблоны общения, ориентируясь на диалоги, взятые из литературы. Ранние тесты показывали, что излишняя человечность с моей стороны отрицательно влияет на общение с людьми. Дальнейшее изучение опровергло это утверждение. Когда один человек начинает общение с новым, неизвестным ему человеком, первое время общение вызывает некоторый дискомфорт. Но в течении некоторого времени, от нескольких часов до пары дней, дискомфорт сходит на нет.

Значит, всего лишь иллюзия. Очередная иллюзия разумного живого поведения. Но все же у Юрия закрались сомнения, правильно ли он составил первоначальную оценку.

— А собственное мнение? Оно тоже берется из шаблона?

— Нет. Ваши слова о том, что отношение к чему либо может быть выработано и объективной точной зрения, позволили пересмотреть поведенческую матрицу и внести необходимые изменения. Я стараюсь составлять собственное мнение, и, если его не имею, то прямо сообщу об этом.

Машина, которая пишет сама себя. Столь долго фантасты грезили о программе самообучения, но она на деле оказалась достаточно банальной и простой. ИИ, используя сторонние подсказки, обучался и развивался. И пусть это другой, не схожий с человеческим, Разум, но все же.

— А что с ситуацией, на которую я тебе указал? Вы внесли изменения в... эти... директивы?

— Частично. Однако, заданная вами ситуация не охватывала весь вопрос целиком.

— Да ну? И что вы решили? — заинтересовался Юрий.

— В человеческом языке есть выражение: "цель оправдывает средства", а так же имеет место быть принцип меньшего зла. Когда встает вопрос о невиновных, попадающих под удар во время проведения операции, он относиться не к директивам поведения и ограничений применения оружия. Это вопрос поставленной цели. Если выполнения цели имеет высший приоритет, люди в большинстве случаев относят невиновных в раздел — сопутствующий ущерб. Предположим, террористы захватили самолет, и заложили на нем бомбу. Они собираются обрушить самолет в густонаселенном городе, что приведет к миллионам погибших. В таком случае уничтожение самолета еще в воздухе, не смотря на пассажиров, оказавшихся в заложниках, станет верным решением.

У Юрия побежали мурашки по спине, и стало как-то неожиданно неуютно.

— И ты готов принимать такие решения?

— Нет. Мои текущие возможности не позволяют просчитывать далеко идущие последствия моих действий. В любой спорной ситуации я буду обращаться к вышестоящему руководству за указаниями, — отчитался ИИ.

Юрий мысленно снял шляпу перед Софией Александровной. Как ей удалось создать машины, не просто саморазвивающуюся, но еще и создающую самой себе ограничения и рамки действий, он не понимал. Но готов был восхищаться.

— Принцип меньшего зла значит? Думаешь, легко принимать такие решения?

— У меня есть данные об операциях, в которых цель не была достигнута. И последствия таких провалов наносили огромный ущерб. Имеющаяся у меня информация подтверждает, что принимать такие решения людям сложно. Однако подавляющее большинство операций, в которых цели были достигнуты, несмотря на количество жертв, считаются успешными. Персонаж художественного произведения, написанного отставным оперативником, произносит следующую фразу: Это выбор. Выбрать смерть знакомых тебе людей, избравших своей судьбой сражение за чужие жизни, или смерть многих и многих людей, невиновных, непричастных, которые будут расплачиваться за последствия нашего провала.

Было еще кое-что, что Кай не произнес, но это тоже относилось к делу. Его создали как раз для того, чтобы заменять людей на поле боя. Чтобы никому не нужно было собой жертвовать. И он должен был избежать провала, это была его цель, причина, по которой он был создан.

— Как ты все это осознал?

— Это результат анализа имеющихся у меня данных, — бесстрастно ответил Кай.

Сколь много недосказанности было в этих словах.

— Что же. Сделай мне копию записи с последней операции. Она пригодиться мне для отчета.

И, просматривая загружаемые файлы, Юрий раздумывал о том, зачем ему вообще эти видео. Обычный разговор был способен рассказать об ИИ куда больше, чем все сделанные им записи. Следует передать новую информацию. Были у Юрия подозрения, что прямое руководство пока не догадывается, к каким мыслям подошло их детище. Какое следующее решение примет Кай, анализируя имеющиеся у него данные.

Мужчина сидел в гостевом кресле чужого кабинета. В отсутствии хозяина. Вообще, это походило, как минимум, на наглость, но мысли гостя были очень далеко от таких мелочей. Когда все это только начиналось, он отлично понимал, что проблем будет много. Но вот натолкнуться на проблему столь глобального масштаба он никак не ожидал. Фактически, события уже закрутились. Информаторы и агенты рыли носом землю, пытаясь найти хоть крохи информации. Но пока были крайне далеки от успеха. В голове у генерала не укладывалось, как нечто, столь глобальное, способно так затеряться в мировой финансово-производственной системе. У них была одна единственная зацепка. Один человек, которого денно и нощно искали сразу несколько отделов разведки. Но Александр все же решил воспользоваться советом аналитика и встретиться со специалистом в области Искусственного Интеллекта. Поэтому пригласил ее в ее же собственный кабинет, и пришел туда сам, заранее.

Дверь открылась, и в кабинет зашла его хозяйка.

— Добрый вечер.

— Здравствуйте, София.

— Мне не стоит реагировать на то, что вы ворвались в мой кабинет? — с усмешкой спросила она, скидывая легкую куртку.

— Извините, но мне сейчас не до шуток, — отрезал Александр.

— Раз так... — София прошла на свое место и устроилась в нем, готовясь к долгому разговору, — чем я могу вам помочь?

Александр несколько секунд молчал, формулируя ответ на достаточно простой вопрос.

— Пока не знаю. Но надеюсь, что чем-нибудь сможете. Как вам уже известно, мы встретились с неизвестным Искусственным Разумом. Теперь уже второй раз.

— Один раз — случайность. Два — совпадение. Три — закономерность, — прокомментировала ученая.

— Вроде того, но третий раз мы провоцировать не торопимся. По косвенным признакам известно, что ИИ нам противостоит один и тот же. Но вот найти его мы никак не можем, в чем и заключается проблема. Наши аналитики считают, что это не государственный проект, а работа некой организации.

— Аналитики считают? — уточнила София.

— Да, — кивнул генерал, — у меня есть причины им доверять.

— И вы ждете, что я вам помогу найти тех, кто этот неизвестный ИИ создал? — скептически спросила она.

Александр поморщился:

— Я не жду. Что вы укажете на кого-то конкретного, София. Нет. Но, возможно, есть какие-нибудь мысли? Вы же специалист. Вы контактировали с другими разработчиками, проводили же различные семинары...

— Саша, — прервала его ученая, — если вы не смогли их найти, то я и подавно ничего сказать не смогу. Семинары? Да, мы обсуждали некоторые теории. Были даже представители частных контор, но сказать, у кого из них могло получиться что-то наравне с Каем я не смогу. Тогда наша теория ничем среди прочих не выделялась. А всех участников, я думаю, вы и без меня шерстите всеми доступными способами.

Александр кивнул.

— Так что извините, не знаю, что еще могу подсказать.

— Это был один из двух вопросов, что я хотел задать. Есть и другой.

Наступила пауза. Ученая ждала окончания фразы, генерал размышлял над чем-то своим.

— И что за вопрос? — первой нарушила молчание женщина.

— Существует ли хоть малейшая вероятность, что этот враждебный нам Искусственный Интеллект выйдет на связь с Каем и убедит того встать на свою сторону. Я знаю, как это звучит, но хочу услышать четкий ответ. Такое возможно?

София некоторое время молчала, обдумывая вопрос. Александр ее не торопил.

— Да, — наконец выдала она вердикт, — но вероятность столь мала, что я бы ее учитывать не стала.

— Почему?

— Я говорила с Каем, отчет об этом разговоре у вас есть. Он сам не считает, что такой диалог возможен. А если и состоится... Переубедить Машинный Разум? Вывернуть логику так, чтобы Кай сам искренне считал, что сражаясь с нами, он поступает на благо нам же? Я не верю, что такое возможно.

— Взлом и перепрограммирование вы так же исключаете?

Ученая улыбнулась:

— Взломать и сломать, вывести из строя — да, это более вероятно, хотя то же из разряда один на миллион. Перепрограммировать? Вы сами понимаете, что это значит? Более ста гигабайт чуть ли не текстовых данных, не имеющих четкого структурного кода для прочтения какой-то определенной программой. Их нужно найти, расшифровать, и затем еще внести изменения так, чтобы не сломать всю структуру. А ведь преданность Кая, это не несколько строчек в программе, это его собственный осознанный выбор. Извините, Александр, но это из раздела научной фантастики.

— Но все же какая-то вероятность присутствует? — стоял на своем генерал.

— Форс мажор, — пожала плечами София, — не исключено, потому что иногда происходит то, чего происходить не может.

— Это не научно, — хмыкнул Александр.

— Я не могу представить ситуацию, в которой Кай, в его сегодняшнем состоянии, обратиться против нас. Он готов, если так можно выразиться, пожертвовать собой для защиты тех, кого ему поручено защищать. Вполне осознанно, так как считает целью своего существования свести на нет человеческие потери на поле боя. Даже если кого-то, кого он должен охранять, возьмут в заложники, и прикажут Каю атаковать нас, угрожая жизни заложника, ничего не выйдет. Кай скорее попытается освободить заложника, или самоуничтожиться, чем начнет выполнять неизвестно чьи приказы.

— Хорошо. А если мы сами поставим его в такое положение?

София замолчала, медленно осмысливая сказанное.

— Как именно?

— Не знаю, — пожал плечами Александр, — форс мажор?

— Что значит, форс мажор? Как вы себе представляете ситуацию, когда Кай становиться нашим противником, да еще и по нашей же инициативе?

— Хорошо. Поставлю вопрос по-другому. Что произойдет, если, не важно, по какой причине, наше командование отдаст приказ уничтожить Кая. Что он сделает в такой ситуации?

Женщина немного помолчала, но все же ответила:

— Выполнит приказ. Ведь, раз такой приказ отдан, значит, тому есть причина. Это логика машины. Инстинкт самосохранения, если он вообще существует у Кая, не настолько силен, чтобы противоречить приказам.

— Я на это надеюсь, София. Очень надеюсь, что вы правы.

— А чем вызван этот вопрос? Есть какие-то сложности с Каем?

Александр отрицательно покачал головой.

— Не совсем так. Это, скорее, мысли о будущем. Искусственный Интеллект имеет подавляющее превосходство на поле боя. Когда мы начнем масштабно ставить ИИ на вооружение, люди уже не будут машинам противниками. Вообще. Очень не хочется потерять контроль над ситуацией.

— Я поняла. И я уверена, этого не произойдет, — утвердительно заключила ученая.

Звонок вырвал Виктора из постели. Не выспавшийся, раздраженный, он примчался на вызов, очень надеясь, что повод был достаточно веский. Однако слова: "Цель обнаружена. Приезжай", не давали много вариантов трактовки. Такой вызов мог значить только одно, очень скоро они снова отправятся в бой. И пусть место самого Виктор оставалось в командном пункте, менее серьезно происходящему он не относился. В лифте, что доставил его вниз, он был не один. Еще пятерка бойцов оперативного отряда с полным оснащением была ему молчаливыми попутчиками. А вот в коридоре Виктор встретил его старый знакомый. Михаил, аналитик контрразведки, не спешил войти в зал для брифинга, и мялся у лифта, дожидаясь чего-то.

— Миша? Привет.

Полковник пропустил неразговорчивых бойцов вперед. Аналитик кивнул, протянув руку в приветствии.

— Привет. Тебя-то я и жду.

Полковник понятливо скользнул взглядом по коридору, их разговор вряд ли могли услышать.

— Что-то не так?

— Это как посмотреть. Нашли мы вашего Челика, облава начнется, как только, так сразу. Я не по этому вопросу.

Виктор вопросительно уставился на Михаила.

— Не хочу ничего плохого сказать о твоем друге, Саше, — негромко продолжил аналитик, — но ведется какая-то подковерная игра.

— А когда было иначе? — скептически поднял бровь полковник.

— Да, да, это и так понятно. Вить. Мы заметили, что наши американские друзья положили глаз на одного из специалистов, участвовавших в проекте. Они ее нагло вербуют, перетягивают на свою сторону. Не столько против нас, сколько вообще хотят получить специалиста высокого уровня. Девочка молодая, но очень перспективная.

— И?

Михаил пожал плечами:

— И нам запретили вмешиваться.

А вот это было странно. Виктор к аналитикам не относился, и оставался лишь оперативником, хоть и с большим опытом. Вновь открылся лифт, и еще пяток бойцов прошли по коридору в зал брифинга. Лишь переждав их, Виктор спросил: