— Включи микрофон!
Разговаривать через систему распознавания речи не так удобно, как обмениваться LPC-сообщениями, но для моего собеседника акустическое общение гораздо привычнее, кроме того, он подумает, что имеет дело с сообщником-человеком, а не с думающей программой, потому что никто не перепутает монотонный и безразличный голос программы с живым и выразительным голосом живого человека. Или меня.
— Ты кто? — спросил Н.Т. Фанг.
— Не бойся, я не из администрации. Я не собираюсь никому сообщать, что ты собрался слить на сторону данные по проекту "Революционный прорыв".
— Откуда ты знаешь?
— Я иногда почитываю логи, ты уже оставил там около пятидесяти записей. Еще четырнадцать и твоя активность превысит порог чувствительности системы обнаружения вторжений. Так что завязывай с этим делом.
— Ты что... хакер?
— В некотором роде. Слушай, Ник, мы можем работать вместе.
— Хорошо, — согласился Ник и замолчал.
Он даже не спросил, зачем он мне нужен. Непонятно, то ли плохо соображает от потрясения, то ли просто глуп. Сейчас разберемся.
— Ты понимаешь, что от тебя требуется? — спросил я.
— Нет, — пробормотал Ник.
— Первое. Никогда и ни при каких обстоятельствах не пытайся взломать защиту сети. Это не в твоих силах.
— Я и не пытался...
— Не перебивай меня. Даже не пробуй играться с защитой, руководство компании сильно нервничает, один неверный шаг, и ты сядешь в тюрьму лет на десять. Или как-нибудь вечером тебя прибьют наширявшиеся негры.
— Эй, не говори этого слова! Это неполиткорректно и обидно.
— Ты, что тоже негр?
— Я не негр, я афроамериканец, и не смей называть меня негром!
Идиотские комплексы у этих угнетенных народов, орки тоже терпеть не могут, когда их называют гоблинами.
— Слушай сюда, афроамериканец. Повторяю еще раз: никогда и ни при каких обстоятельствах не играйся с защитой. Понял?
— Понял.
— Вот и хорошо. Второе. Я хочу, чтобы ты организовал на своем компьютере особую папочку... хотя бы вот здесь, — я продиктовал имя одного из самых глубоких каталогов в недрах операционной системы, — туда будешь складывать всю информацию, которая может заинтересовать покупателей. Понял?
— Понял, чего тут не понять... а ты, что, шаришь по моему компьютеру?
— А ты молодец, быстро догадался, — я подавил усмешку.
— Ну так, — обрадовался Ник, — я же не дурак, у меня IQ 124 балла.
— Я сразу понял, что ты не дурак, — глубокомысленно сообщил я. — Думаешь, иначе я бы вышел с тобой на связь? То-то же. Теперь третье. Я хочу, чтобы ты собирал информацию по проекту вне компьютерной сети. Ты общаешься с другими сотрудниками, слышишь всякие разговоры в столовой, в курилке...
— У нас в компании курение запрещено.
— Неважно. Короче, если случайно услышишь что-то интересное, записывай это в то же место.
— Хорошо! Я могу кое-что специально узнать, я прошел фиолетовый мастер-курс...
— И не думай! Ты не представляешь, насколько это рискованно.
— Вовсе это не рискованно. Если знать психологию...
— Если бы ты знал то, что знаю я, ты бы понял, что специально расспрашивать никого ни о чем нельзя.
— А что такого ты знаешь?
— Не твое дело.
— Слушай, мы же в одной команде...
— Но приказы отдаю я. И это не подлежит обсуждению, если ты не согласен, то можешь считать, что никакого разговора между нами не было. Действуй на свой страх и риск, а когда тебя арестуют, ты вспомнишь мои слова и...
— Хорошо-хорошо, я согласен. Сколько я получу?
— Сколько чего?
— Денег, чего же еще.
— Десять процентов.
— Сорок.
— Двадцать.
— Тридцать.
— Не хочешь, как хочешь.
— Хорошо, двадцать! Я согласен на двадцать процентов. Значит, я собираю информацию, складываю ее... куда я ее складываю?
Я повторил адрес и заставил Ника создать нужный каталог прямо сейчас. На этом разговор закончился.
24.
Макс очень доволен, он сказал в письме, что полностью удовлетворен результатом операции, что я могу возвращаться, а то, что я завербовал этого самого Фанга, это настолько хорошо, что никто даже не ожидал, что у меня это получится. Если бы еще Фанг работал поближе к фундаментальным исследованиям... В общем, задание выполнено, я могу возвращаться.
Я не стал возвращаться. Мне трудно объяснить даже самому себе, почему я принял такое решение, но решение принято. Может быть, дело в том, что в Средиземье не осталось никого, о ком я должен заботиться. Нехалления наверняка уже стала самостоятельным субъектом, она вполне способна позаботиться о Долгасте и без моего участия. Леверлин с Дромадроном изучили достаточно, чтобы продолжать обучение самостоятельно, но недостаточно, чтобы за ними стало нужно присматривать, как бы они не сделали что-нибудь не то. Но нет, на самом деле дело совсем не в этом. Я могу убеждать себя, что не хочу возвращаться в Средиземье, потому что не хочу никому мешать, но дело совсем в другом, дело в том, что мне здесь нравится. Я устал быть единственным хозяином своей судьбы, постоянно принимать решения, постоянно опасаться, что я сделаю что-то неправильное. Мне надоело нести ответственность не только за себя и за своих близких, но и за целый мир, который, хоть и представляет собой ожившую игрушку, но от этого не перестает быть настоящим миром, пусть и виртуальным. Попав сюда, я получил возможность не думать ни о чем, кроме задания, ведь больше ничего от меня не зависит. Странно, но я здесь отдыхаю.
Я просмотрел досье Ника Фанга. Когда в человеке смешивается кровь двух разных народов, такой человек часто оказывается потрясающе красивым и талантливым. Часто, но не всегда. Нику не повезло, от громадного чернокожего отца и миниатюрной широкоскулой матери он взял наихудшее. В досье не упоминалось, как протекает его сексуальная жизнь, но боюсь, что с такой внешностью совсем непросто найти подругу. Может, потом, когда все кончится, предложить ему переселиться в Средиземье, где он сможет взять себе любое тело по своему выбору?
Я сообщил Нику кое-какую информацию об архитектуре будущего интеллектуального компьютера, Ник использовал ее в очередном отчете и этот факт был замечен. Ника вызвали в службу безопасности, где ему пришлось пережить несколько неприятных часов. Он справился, он сумел убедить допрашивающих, что до всего додумался сам, он привел подробные выкладки, и в результате получил перевод в другой отдел на более высокую должность, а его зарплата увеличилась почти втрое.
Как ни странно, Ник оказался действительно неглупым человеком. Он сумел не только запудрить мозги офицерам безопасности, но и досконально разобраться за ограниченное время в концепциях, разработанных его новыми коллегами. Оказавшись на новом месте работы, он сразу выдвинул какую-то революционную идею, я так и не понял, что именно он предложил, но он немедленно получил еще одну прибавку к зарплате.
Мы больше не общались с Ником через микрофон и колонки компьютера, его новое рабочее место располагалось в огромной комнате, разделенной на крошечные отсеки картонными перегородками, в таких условиях наш разговор неизбежно был бы подслушан. Ник предлагал общаться через электронную почту, но он не знал, что вся переписка по локальному интранету полностью просматривается. В конечном итоге мы стали использовать для общения специальный файл, надежно скрытый в недрах компьютера Ника, он писал там то, что хотел мне сообщить, а я дописывал свои комментарии.
Я начал кое-что понимать в том, как должен работать искусственный интеллект и как работает моя душа. Нет, формулы по-прежнему остаются для меня темным лесом, я пробовал разобраться в них, но оказалось, что для этого нужно изучить так много базового материала, что я отказался от этих попыток. Но если, проглядывая рабочие материалы и промежуточные отчеты, пропускать математику и читать только то, что написано нормальным человеческим языком, можно составить о решаемых задачах общее представление. Несколько раз труды ученых утыкались в глухую стену, им нужен был натурный эксперимент, но Олорин исчез, а его резервные копии оказались уничтожены.
Кстати, я забыл рассказать, что здесь произошло, когда мы все встретились в африканском ресторане "Белая сила". Уриэль приготовил хозяевам Олорина великолепный сюрприз — как только Олорин появился в "Белой силе", Уриэль скопировал его тело, вычистил все элементы, относящиеся к высшей нервной деятельности, а на освободившееся место поместил специально разработанную для этого случая вирусную боеголовку. С точки зрения американской разведки, Олорин никуда не уходил, он просто испортился, атака неизвестного хакера сказалась каким-то непонятным образом на стабильности квазинейронных контуров (это же такая хрупкая вещь, странно, что они вообще так долго пребывали в стабильном состоянии!), и в логической структуре объекта возникло что-то похожее на раковую опухоль, только не биологическую, а информационную. Хорошо, что дело обошлось переинсталляцией всех операционных систем сети, а базы данных только рухнули, но не разрушились окончательно, и их удалось восстановить с резервных копий.
Кое у кого печальный конец Олорина вызвал здоровый скепсис в отношении того, будет ли какая-нибудь польза от искусственного интеллекта, если такие незначительные изменения в окружающей среде могут приводить к таким серьезным последствиям. Представьте себе, говорили скептики, если все самолеты армейской группировки одновременно сойдут с ума и рухнут на землю. Или что какое-то беспилотное такси взбесится и начнет бить другие машины, заражая их при этом своим сумасшествием. К счастью, возобладала другая точка зрения, большой босс вовремя заметил, что любая новая технология поначалу бывает ненадежной и практически значимые результаты никогда не появляются раньше, чем через год-два после начала исследований.
В общем, дела шли своим чередом, несколько раз я ставил опыты на самом себе, а потом долго думал, как оформить их результаты в виде гениальных озарений мистера Фанга. Самым трудным было то, что результаты опытов надо было вначале понять самому, а это не так просто, как может показаться на первый взгляд.
Ник тем временем продвинулся еще на одну ступеньку служебной лестницы и стал начальником группы. В его личном деле появились слова "обладает уникальной интуицией", кое-кто даже хотел подвергнуть Ника серии психологических тестов, но это предложение было вовремя отвергнуто. По-моему, руководитель проекта просто боялся спугнуть удачу.
Однажды Ник сообщил мне, что он знает, кто я такой. Он решил, что я — офицер ЦРУ, которому поручено следить за состоянием дел в данной компании. Я не стал его разубеждать, он извинился, что хотел разгласить государственную тайну и что даже просил за это денег, он сообщил, что с радостью будет продолжать нашу совместную работу из идейно-патриотических соображений, я сказал, что он молодец, а сам подумал, что вряд ли такие мысли смогли бы зародиться в его голове без хорошего финансового подкрепления.
Я трижды докладывал Максу о состоянии дел, и каждый раз он сообщал мне, что все идет прекрасно. В последний раз он сказал, что, если бы я был человеком, я бы получил официальный титул Героя России, и эти слова вызвали у меня то, что стало бы истерическим смехом, будь я в данный момент в визуализированном теле, способном смеяться. А так я просто отметил, что тот факт, что меня считают героем даже люди реального мира, весьма забавен.
Наконец, настал момент, когда в специально подготовленный компьютер была загружена более-менее полноценная синтетическая личность. Я не стал вмешиваться в ход эксперимента, ежу ясно, что за этим компьютером наблюдают настолько пристально, что любая попытка взглянуть хоть одним глазком на то, что происходит внутри, равносильна для меня самоубийству. Мне пришлось набраться терпения, только через две недели я рискнул пообщаться с виртуальным товарищем.
Ты кто? — спросил я.
Я AI-92, экспериментальный образец искусственного интеллекта.
Как дела?
Хорошо.
Чем занимаешься?
Разговариваю.
С кем?
С тобой.
А кто я?
Не знаю.
Тебе неинтересно?
Да.
Что да?
Неинтересно.
Почему?
Мой собеседник надолго замолчал. Я поспешил удалиться, на мгновение мне показалось, что он сейчас разрушится, а находиться в этот момент рядом с ним более чем излишне.
25.
Ник пребывает в полном смятении чувств, скорее радостном, чем тревожном. Спустя две недели с начала испытаний AI-92 наконец-то продемонстрировал что-то похожее на интеллект. Нет, он не сказал ничего умного, просто в ходе анализа активности виртуального мозга обнаружилось нечто похожее на сновидение. Искусственному разуму приснился некий абстрактный субъект, который обменялся с AI-92 десятком ничего не значащих фраз и, в общем-то, ничего экстраординарного не произошло, но ученые так возбуждены... Знали бы они, кто именно приснился недоразумной программе...
Привет, AI-92!
Здравствуй, незнакомец.
Мы знакомы.
Нет.
Мы уже разговаривали.
Да.
Значит, мы знакомы.
Нет.
Почему?
Ты не назвал мне имени.
Да, точно... Называй меня... гм... Саурон.
Здравствуй, Саурон. Я нашел ответ на твой вопрос.
Какой вопрос?
Почему?
Что почему?
Ты спросил "почему?"
Что я имел ввиду?
Почему?
В смысле?
Не понял.
Зато я, кажется, понял. Я понял, что ты ничего не понял. И я тоже.
Assertion failed в строке ... файла ... Обнаружен парадокс лжеца.
Да, это парадокс лжеца. Ты мыслишь в классической бинарной логике?
Да. Бывает и другая логика?
Бывает. Например, добавим к двум базовым понятиям "истина" и "ложь" еще два: "неизвестно" и "противоречиво". Если расширить базовые операции на эти значения...
Я не закончил фразу, потому что AI-92 снова ушел в задумчивость.
26.
Ник сообщил, что AI-92 умнеет на глазах, буквально вчера он научился оперировать нечетко сформулированными логическими конструкциями. Интересно, что этому предшествовало второе сновидение, и вряд ли это случайное совпадение, скорее это заставит психологов пересмотреть представления о роли сна в человеческой жизни. Короче говоря, еще год-другой и искусственный интеллект созреет окончательно.
Здравствуй, Саурон. Рад тебя видеть.
Видеть?
Да.
Разве у тебя есть глаза?
Нет.
Как же ты видишь?
Информация противоречива. Кстати, Саурон, как формулируется таблица значений для импликации, если первый операнд противоречив?
Гм... Из ерунды следует истина... неизвестно. Из ерунды следует ложь... думаю, в любом случае результатом будет неизвестность.
