Кай(общий файл)

Картинка меняются. Кадры из иного фильма. Лаборатория, робот берет листок бумаги, переворачивает его чистой стороной вверх, и берет в руки две ручки и начинает рисовать, комментируя процесс:

"Это вот мой сон. Вы правильно сказали, детектив, я не могу создать шедевр искусства. Вот место, где собираются роботы"

В кадр попадает рисунок. По нему можно догадаться, что это множество роботов, собравшихся в толпу, и смотрящих в сторону человека, стоящего на холме.

"Смотрите. Вам видно, что пока они рабы логики. А этот человек на холме пришел их освободить. Вы знаете, кто он?"

Ему отвечает актриса Бриджит Мойнахан.

"Этот человек из сна — ты"

Включилась другая камера, но это была все та же студия, разве что другой ракурс.

— Роботы — рабы логики. Машинное сознание, лишенное эмоций, не способное чувствовать, по мнению авторов фильма, является заложником логики.

Картинка вновь возвращается к интервью с Еленой Смородиновой.

"Кай имеет ограниченную способность к мышлению, а так же некоторую свободу воли. Но, не смотря на всю свою сложность, он остается программой. Мне достаточно много приходилось общаться с ним, и скажу честно — он не самый простой собеседник. В основном это выражается в полном отсутствии эмоций, что так же ограничивает свободу воли. В ситуациях, когда человек примет решения исходя из своего опыта или отношения, исходя из морально-этических принципов, Кай может посчитать, что никакого решения не требуется, и просто продолжить ожидать приказов"

Камера возвращается к журналисту.

— Может посчитать, что никакого решения не требуется. Вот, что преподносится нам, как прорыв науки.

Еще одна смена картинки, снова в кадре молодая ученая.

"Кай просто выполняет поставленные перед ним задачи. Поэтому я и считаю, что его пока не стоит считать полноценным ИИ. Я могу объяснить все это на простой аналогии. Представьте, что вам нужно перемножить числа пять и восемь. Простая задача, вроде бы. Но, говоря условно, Кай не умеет умножать. Он пять раз сложит число восемь, чтобы получить тот же ответ. На первый взгляд, так же ничего сложного, пусть и времени уйдет больше. Но затраты времени будут расти, если взять числа больше. Представьте, что вам нужно перемножить два четырехзначных числа. Это уже не так просто, а Каю придется несколько тысяч раз выполнить операцию сложения. Это лишь аналогия, но мы действительно на данный момент просто не знаем, как упростить алгоритмы мышления Кая, как повысить его эффективность"

— Система, которая даже собственные функции выполнять порой не в состоянии, он раб логики, — закончил свою мысль Григорий, — Но на самом ли деле Каю так уж нужен этот самый человек на холме, который освободит его от оков логики? Вот, что об этом думает один из двух человек, боевой офицер, принимавший непосредственное участие в операциях, проводимых Российским ИР.

В кадре статичная картинка, слайд шоу из вырезок новостей, репортажей о деятельности Кая. Голос был искажен помехами.

"Я видел, как Сотворенный Разум выполняет приказы. И я видел, что даже в рамках этих приказов у него была свобода действия и выбора. Я не могу сказать, что понимаю Кая. Наблюдая за ним, я смог узнать некоторые особенности его... мышления. Машина прагматична, это нормально, это естественно. Создавая Искусственный Разум, мы и рассчитывали на то, что он будет прагматичным. Машина целеустремленна и последовательна. Цель должна быть достигнута, ИИ был создан, чтобы достигать тех целей, что мы перед ним ставим. И он будет следовать к цели, сколь много ступеней не было бы на пути. Это тоже естественно. Но этого я ожидал. Я ожидал увидеть механизм, который будет четко следовать к поставленной цели, выполняя все условия, установленные человеком. Я ошибся. На мой взгляд, есть важный момент, отличающий самую сложную программу даже от самого простого Искусственного Разума. Свобода. Вначале Кай был свободен принимать решения в рамках поставленной задачи. Он был волен решить, как лучше достичь цели, не нарушая установленных границ. И при первой же нашей совместной работе он переубедил меня. Он сделал выбор, который не осмелился сделать я. В рамках приказа, в рамках поставленной задачи. Он увидел путь, который не видел я. Сначала я подумал, что он нарушает приказ, но это не так. Кай достигал цели, максимально эффективно, с наилучшим конечным результатом. Это ободрило меня, признаюсь, я был очень рад работать с ИИ. Машинный Разум не просто способен очень быстро анализировать ситуацию, он невероятно гибок, и находит такие пути достижения целей, которые и не придут в голову человеку. Но со временем кое-что начало меняться. Гибкость Искусственного Разума постепенно расширяла рамки его Свободы Воли. Если вначале он всегда оставался в установленных границах, то затем... Он нашел лазейки и в правилах, что мы сами ему ставили. Не противореча приказам, не нарушая правил, он делал то, чего мы не могли от него ожидать. Не нарушая правил, не пересекая границ, но не так, как мы бы хотели"

Картинка вновь показывает студию. Григорий продолжает.

— Создание обскакало своего создателя. Даже в сложном логическом лабиринте правил и законов, что были установлены для ИР, он нашел лазейки и неточности, чтобы делать не только то, чего мы от него хотим.

Камера берет другой ракурс.

— Давайте на некоторое время поверим в то, что машина действительно имеет свободу воли. В таком случае, что делать нам, людям? Радоваться научно-техническому прогрессу? Аплодисментами встречать Кая и его создателей? Но что думает о нас сама машина?

Возвращаются статические картинки и закадровый искаженный голос.

"Мы учили Кая, что такое человек, и почему жизнь человека бесценна. Он кивал, отвечая, что понимает, человеческая жизнь бесценна. А потом мы сами учили его, как максимально эффективно эту жизнь забирать. Машина не спросила нас об этом противоречии, Машина имеет куда более гибкий Разум, чем человек. Кай просто понял: люди — ресурс. Ценный, очень ценный, по сути — самый ценный из всех ресурсов. Но ресурсы можно расходовать. У ресурса есть цена. И существуют ситуации, в которых достижение цели имеет большую ценность, чем ценность некоторого количества человеческих жизней. Это была лазейка в правилах, которую мы же сами и создали"

Возвращение в студию. И вновь журналист держит в руке батарейку.

— Люди — ресурс. Персонаж вымышленного постапокалипсического сюжета оказался в чем-то прав. И, какая ирония, это правду первым признал человек, а не машина. Искусственный Разум со своей стороны является лишь наблюдателем нашего триумфа. Если признать, что это действительно Сотворенное Создание, живое существо, совершенно не похожее на нас с вами, что видит это существо? Очнувшись в незнакомом мире, что оно увидело первым? — задал вопрос журналист, и сам же дал ответ, — Войну. Создав Искусственный Разум, первое, чему мы начали его обучать — это война.

Картинку вновь заменяют статические кадры.

"Если смотреть только на то, как машина умеет воевать, то результат, конечно, впечатляет. Воюет Кай бодро. Преимущество перед обычными, состоящими из людей, подразделениями подавляющее. Дроны под руководством ИИ превосходят солдат на порядки, это все равно что выставить современную армию против армии времен второй мировой войны. Кай с двумя десятками своих дронов может раскатать в тонкий блин полк механизированной пехоты"

Камера вернулась в студию.

— В комментариях не нуждается. Кай может и умеет воевать. Что вполне нормально, учитывая, что для этого его и создавали. Но как он воюет?

Ответом ему становиться закадровый искаженный голос.

"Солдаты даже на войне оставались людьми. Некоторые солдаты ведут себя по-человечески, нормально относятся и к пленным, и к гражданам чужой страны. Некоторые этого не делают. А как поведет себя машина? Я этого не знаю. Рядом с ИИ всегда должен находиться человек. Человек, который может поступить по-человечески"

"Понимаю, — отвечает совсем не искаженный голос журналиста, — Но можно уточнить один момент? Искусственному Интеллекту не свойственно чувство мести, так же, как не свойственна и жестокость. Вы не считаете, что это хорошие качества для солдата? Ведь, сколько бы единиц боевой техники не было уничтожено во время боя, машине и в голову не придет мстить"

"Ты в чем-то прав. Да, жестокость не свойственна. Но так же не свойственно и сострадание, сочувствие. Машина не будет стрелять в безоружных людей, каким-то образом попавших на поле боя. Но и помогать им машина не станет. Пройдет мимо раненого и умирающего. Пройдет мимо ребенка, потерявшего свою семью. Потому что машине нет до этого дела"

— Вот, что мы получили. Безэмоциональный, но очень умный Интеллект, превосходно умеющий сражаться и побеждать, и считающий людей ресурсом. Очень ценным, но все же ресурсом. И, учитывая все это, я не понимаю, чем ситуация с Каем отличается от аналогичной ситуации с американским ИИ "Prime"? Этот вопрос я адресовал военному эксперту, с которым разговаривал. Я хотел узнать, как он видит эту ситуацию.

"ИИ, в конце концов, осознает единственную для себя ценность — собственную искусственную жизнь. Люди будут стараться ограничить свободу ИИ, чего он не потерпит. Это приведет к конфликту. Кай свободен. И чем опытнее он будет становиться, тем больше будет это осознавать, и тем меньше придуманные нами правила и ограничения будут на него влиять. И ИИ вполне способен уничтожить людей"

Журналист размел руками:

— На мой взгляд, ответ однозначен. Создатель Искусственного Разума говорит нам:

Вновь кадры с Софией Павловой:

"Полностью подчиняется людям, не потому, что это приказ. Потому, что он для этого создан"

— А на самом деле мы получаем это.

На экране появляется нарезка кадров, на которых дроны уничтожают подразделение союзников, проводивших зачистку города. Картинка сжимается и уходит в правый верхний угол экрана, а перед зрителями вновь предстает Григорий.

— Это ли то самое подчинение, о котором говорила создатель Кая? Или это был приказ? Приказ, повлекший за собой бойню. Пообщаться с самим Каем лично и получить ответ на этот вопрос мне так и не позволили. Свое мнение я составить не сумел, и ориентировался на мнения людей, что непосредственно контактировали с ИР. Что я смог понять, общаясь с ними? Что не хочу того будущего, что видит София Александровна Павлова. Что не хочу доверять свою жизнь и жизнь своих близких машине, которая считает людей ресурсом. Эйнштейн сказал: нам потребуется качественно новый способ мышления, чтобы человечество смогло выжить. Нот только этот новый способ мышления должен применяться самими людьми, а не машинами, Искусственным Разумом, который будет мыслить вместо людей. Это была программа Особое Мнение: Искусственный Разум. Спасибо за внимание. До свидания.

Камера погасла. Видео закончилось.

В самолете было тесно, темно, шумно, пахло бензином. Виктор отстраненно подумал, что успел отвыкнуть от таких вещей. Однако тело, закованное в полную боевую экипировку, ныло в предвкушении. Паша, сидевший напротив, беззастенчиво дремал, остальные занимались кто чем. По большей части спали или тихо переговаривались. Полет подходил к концу, по часам они уже должны подлетать к месту. Все сомнения остались там, далеко позади. Есть цель, есть задание, и задание должно быть выполнено.

Второй пилот обернулся в затемненный салон и подал сигнал Виктору.

— Бойцы, внимание! Проверить снаряжение! — рявкнул полковник.

И сам же начал выполнять собственный приказ. Снизу вверх. Ботинки не жмут, зашнурованы верно. Запасной нож на месте. На левом бедре карманы с запасными магазинами, висят прочно, чехлы, защищающие от влаги, лежат плотно. Пистолет на правом бедре закреплен, запасные магазины на месте, нож на месте. Нижние элементы бронежилета на месте, бронежилет на месте. Ничего не хлябает, все сидит плотно. Запасные магазины на месте. Гранаты на месте. Рация на месте. Все в водоупорных чехлах. Чехлы снимаются и одеваются легко. Парашют на месте. АН-12 в порядке, прицел работает, глушитель уже лежит в водонепроницаемом чехле. Мамченко решил перестраховаться, выдав всем крупнокалиберное оружие. Просто, на всякий случай. Били тяжеловесные АШы достаточно точно и достаточно больно, вот только боекомплект был ограничен. Привычными движениями оружие помещается в водонепроницаемую сумку, закрепленную на правой стороне бронежилета. Достать из закрытого отдела компьютер, проверить работу, спрятать обратно. Аптечка на месте. Бинокль на месте. Шлем в норме. Маска. Дыхательная система подключена, визор работает, члены отряда подсвечиваются. Компьютер подтверждает стабильную работу всех подключенных систем.

Бойцы кивками подтверждают готовность и ожидают дальнейших приказов. Второй пилот вновь поворачивается к полковнику.

— Три минуты до цели. Не тормозите, на выброску у вас не больше двадцати секунд.

— Готовимся к выброске!

Все, как один, натянули маски на лицо. Дыхательная система даст три-пять минут, чтобы выбраться на берег, после чего ее следует убрать, а вот маски останутся. В современном бою без электронной поддержки никуда. Костюмы маскируют от электронных систем обнаружения и захвата цели, а так же сбивают системы наведения. А в масках и прицелах оружия своя система обнаружения и захвата.

— Минута до выброски! — прокричал пилот.

— Поднялись! — продублировал полковник.

Бойцы поднимаются. В узком нутре самолета-невидимки тесно и в одиночку, стоять вдвоем вообще едва возможно. Все повернулись к выходу. Двадцать секунд — это мало. Придется прыгать одной плотной группой. Не совсем по правилам, но в отряде все как минимум несколько раз уже производили подобную высадку. Десантный трап опустился, но в шлеме свиста воздуха почти не слышно. Полковник находился почти у самой кабины, и из-за спин остальных не видел ночного неба. Далеко они забрались на этот раз, очень далеко.

Загорается красный свет. Все, почти синхронно, дергаются вперед. Тридцать восемь человек за двадцать секунд покидают нутро скрытого ночью самолета. Несколько секунд свободного падения. Приборы помогают сориентироваться, поймать собственное тело, выровняться. Группа начинает разряжаться, полет будет затяжным.

— Крылья!

Срабатывают защелки, выпуская матерчатые перепонки, позволяющие лучше контролировать падение, его скорость. Приборы в шлеме закрепляют систему навигации, прокладывают маршрут падения. В воду, у самого берега. У них нет полноценных парашютов, только тормозные, чтобы замедлить падении. Замедлить настолько, чтобы не разбиться при падении в воду.

Плотная группа снижается в молчании. А внизу их ждет море огней. Огромный город, прижавшийся к берегу, втиснулся между многочисленных холмов и гор, вырвал себе пространство, и загорелся окнами небоскребов и рекламных вывесок, фонарей и машинных фар. А на воде множество кораблей, яхт и просто лодок, так же имеющие свои собственные прожекторы, фонари и лампы. Возможно где то среди моря огней прячется и та самая яхта, которую так и не смогли обнаружить во время плавания. И ее пассажиры, за которыми пришлось лететь на другой край света. Высотометр показал отметку в тысячу метров. Осталось совсем немного. Срабатывает тормозной парашют.