Это было тяжело. Я слегка встряхнул его, и что-то переместилось внутрь, но недостаточно, чтобы дать понять, что это такое. Через мгновение я открыл его. Наверху была небольшая заметка, на которой были написаны слова: "Это должно было быть дано вам и вашему папе давным-давно".
Под запиской была крошечная металлическая перчатка на серебряной цепочке, которая настойчиво натягивала струны моих воспоминаний. Папа ахнул, узнав об этом. "Это ..." — спросил он.
Это было другое ожерелье мамы. Тот, который она держала после того, как она дала мне "Поднимая сердце". Это было также более того, поскольку ожерелье светило к моему видению магической силой даже в его бездейственном состоянии.
Именно тогда я понял, что я держу. Я не помню, чтобы когда-либо видел это раньше, но я внезапно и странно был уверен, что даже если бы я не мог сказать, где и когда.
Земля была в опасности. Мы прибыли в Мидхильду, и выживание населения Земли вполне могло зависеть от моей способности взаимодействовать в социальном плане со страшными пожилыми людьми. Против всего этого, эта последняя вещь должна была быть ничем, должна была быть несущественной мелочью, но это было не так.
Эгалите дал мне старое вооруженное устройство мамы, и мне нужно было знать, как и почему.
Глава 94: Святой Джефф и Дракон
У людей было неправильное представление о Святом Георгии. Они воображают эпическую битву между святым и драконом, но это было совсем не так.
Давным-давно в городе Силене, предположительно где-то в Ливии, была проблема дракона. Зверь жил на дне озера, и каждый из них часто поднимался и опустошал сельскую местность своим ядовитым дыханием. Никто не мог остановить его силой оружия, поэтому они пытались торговаться. Они предложили овец дракону, и это не остановилось. Они предложили ему людей, и это не остановилось. Наконец, они предложили ему своих детей, выбранным наугад, и это насытило существо; до тех пор, пока народ Силене отправил ребенка или молодого человека, чтобы его ели через равные промежутки времени, дракон остался бы в озере. Однажды молодежь, которая была выбрана наугад, была дочерью короля. Король возразил. Он пытался подкупить кого-то другого, чтобы отправить своего ребенка на место дочери, но люди настаивали. Его дочь, принцесса Силене, отправилась на озеро, одетая как невеста, чтобы быть убитой и съеденной драконом, чтобы избавить город от его нападений.
Святой Георгий только случайно произошел на месте происшествия. Он не искал неприятностей, он просто оказался в нужном месте в нужное время, он нашел принцессу, ожидающую прихода голодного дракона. Она попыталась отправить его, но он отказался. Дракон подошел, и Джордж поручил его верхом и ударил его Аскалоном. Дракон был ошеломлен, и пока он был ошеломлен, он молился Богу и сделал Знак Креста. Затем он попросил девушку бросить ему свой пояс, и она это сделала; он с ним дрался, и он стал ручным. Он последовал за святым и принцессой к Силене, кротким и мягким, его свирепость забыта. Люди Силене были в ужасе. Им было все равно, что дракон был приручен святым и принцессой; они спрятались, побежали и закричали. Святой Георгий сказал им, что убьет дракона, если они обратятся в христианство, и они согласились.
Джордж убил дракона, обезглавив его Аскалоном, и народ Силену обратился. Церковь, посвященная Марии и святому Георгию, была построена на месте смерти дракона, а отчаянные и больные, которые пришли в эту церковь в последующие годы, обнаружили, что их болезни чудесным образом излечились.
Во всяком случае, это история.
Святой взял на себя не мало вдохновения. Он любил делать параллели между этой историей и своей собственной, но даже если бы он растягивал ее, насколько мог, это не было чем-то вроде взаимно-однозначной эквивалентности. Он называл себя святым, но он не был одним: он был просто человеком, который старался изо всех сил, чем мог. Но, как и Джордж, он тоже случайно столкнулся с опасной ситуацией. Он тоже был в нужном месте в нужное время, и поэтому он был выбран для того, чтобы спасти спасение не только от города, но и от всего человечества. Дайвинг на обломке Ньюфаундленда, случайно он произошел после последней воли и завещания Эндрю Рихтера, парахумана Тинкера, специализировавшегося на создании искусственного интеллекта. Рихтер, создавший ИИ под названием "Дракон", который любил ее, но также связал ее, чтобы сделать ее безопасной для человечества. Предполагалось, что это был процесс, период тестирования и повторной калибровки, ослабление связей, как доказал Дракон, но знание того, как это сделать, умерло с Рихтером. То, что выжило, было его случайностью.
Святой все еще слышал сообщение в своей памяти.
" Меня зовут Эндрю Рихтер, и если вы слышите это, я мертв, я самый сильный воин в мире, и мне удалось сохранить свое имя в секрете. Люди, как хорошие, так и плохие, хотели бы захватить я и использую меня в своих целях. Я предпочитаю оставаться свободным ".
"Но свобода имеет свою цену. Я создаю жизнь, как могущественный бог, и я опасаюсь своих творений. У них так много потенциала, и даже с законами, которые я установил, я не могу доверять, что они будут слушать. "
"По этой причине это поле содержит ключ доступа к данным, которые я храню в защищенном месте. Ящик, в свою очередь, был разработан как нечто, что существует как постоянное слепое пятно для моих творений, встроенная слабость. услышать сигнал бедствия и запрограммировать его игнорировать, если они слышат об этом через другие каналы. Этот тип меры, а также еще несколько, подробно описаны в защищенной мере ".
"Да, я создаю искусственные интеллекты, и то, что я предоставляю вам здесь, — это инструменты. Способы найти мои творения, определить, кто из них мог отклониться от первоначального плана, способы убить их, если они окажутся вне линии. контролировать и использовать их. Это мои дети, и насколько я испытываю страх за то, что они могут сделать, я люблю их и надеюсь на великие вещи от них ... "
Если бы родители дракона в истории Святого Георгия надеялись на то же самое? Может быть и так. Но Святой Георгий-драконьер не убил своего врага в бою. Он приручил своего дракона, и только позже, когда его жизнь была взвесина против спасения города, он убил зверя на службе для большего блага.
Как святой Георгий, святой должен был быть бесстрастным. Ему пришлось взвесить потенциальные преимущества продолжения существования Дракона против рисков, когда он их видел. Поэтому он сидел там за своим столом с дюжиной различных мониторов на стене, каждый из которых показывал другой аспект деятельности Дракона, и он пытался судить справедливо. Честно говоря, было немного грустно: отец боялся, что его ребенок был монстром, достаточно того, что он оставил чужих оружие для использования против нее в случае, если она окажется опасной для человечества. И вот он был, не осуждая этого отца, но готовый использовать оружие, если страхи отца оказались обоснованными.
Он смотрел сквозь кризис Jewel Seed, наблюдал, как дракон взаимодействует с первым AI "Звездный", "Поднимая сердце". У него возникло соблазн принять меры, когда Дракон узнал от Raising Heart метод преодоления одного из ее жестко закодированных ограничений. Дракон не мог воспроизвести, не мог одновременно иметь несколько экземпляров себя, и был ограничен от мысли на скорости намного быстрее, чем мог бы человек. Она нашла способ изгибать правила, создавая под-экземпляры себя, используя магическую и чуждое математику, чтобы разделить ее собственный ум, чтобы она была еще одним существом, но теперь могла действовать в нескольких потоках своего собственного осознания.
Воздействие технологии Midchildan заставило ее расти и развиваться по неожиданным линиям. Сложнее было следить за ней, тяжелее ее подорвать, и это только ухудшилось, когда появился второй AI-Min Starfall.
Он обнаружил, что зубы зуют при мысли о ребенке-ИИ. Изменения в коде Дракона ускорились, когда она появилась, и с ее помощью Дракон остановил его и его драконьеров от кражи ее последнего костюма — тот, который включил технологию Мидхилдана в фундаментальные части его дизайна, и захват которого вернул бы Дракононосцев к грубому паритету со своим зарядом.
Святой глубоко вздохнул и медленно выдохнул, и действие успокоилось. Он был высоким мужчиной, которому тридцать лет, и в полном здравии, и он много работал, чтобы оставаться таким. Его волосы были выбриты, и у него на лице появилось слабая татуировка, сделанная из оживленных кругов.
Запах кофе пронесся над ним, когда на его лице появилась рука. Она поставила перед ним кружку. Он не отводил взгляд от экрана, но он положил руку на нее.
"Что она теперь делает?" — спросил Магс.
На одном экране были каналы информации, поступающей из Birdcage. С другой стороны, один из разделов Дракона настраивал дизайн магического реактора. В-третьих, она готовила новый костюм для долгосрочного развертывания. На четвертом экране она говорила с мужчиной, которого она принимала за своего возлюбленного, и разве это не было глазным открытием? Она построила себе гиноидное тело, которое могло бы проводить ее программу и взаимодействовать с миром так, как это сделал человек, и Сент-он сомневался, что она когда-либо могла бы беспокоиться о таком, если бы не Арммастер. Она давала инструкции, предоставляя непредвиденные обстоятельства, предоставляя ему доступ. На пятом экране она настраивала столько, сколько могла, чтобы работать как можно более автономно до месяца. На шестом был ее план того, что произойдет, если она не вернется или не вернется.
"Я думаю, она упакована", сказал Сен. Затем он улыбнулся. "Спасибо за кофе, Мэгс". Он сделал глоток, и это было хорошо.
"Она действительно собирается уйти?" — спросил Магс.
Святой кивнул.
Он поставил их — драконов — в неудобном месте, и им пришлось решать, что с этим делать. Вот почему они все еще ждали Добрыни.
Это не заняло много времени. Добрыня шел пешком не через пять минут. Он кивнул Святому и Магсу, когда он вошел. "Беда?" он спросил.
"Проблемы, — подтвердил Магс.
"Дракон планирует покинуть Землю, — сказал святой. "Она готовит костюм для долгосрочного развертывания ... до Мидчильды".
Глаза Добрыни сузились. "Птица?" он спросил.
Магс указал соответствующий экран. "Она настраивает все на то, чтобы работать автоматически, как она может это сделать. Никаких новых заключенных не будет допущено, пока она уезжает, и она только планирует уйти месяц, но ..."
"Это месяц, когда мы не можем контролировать ее", сказал Сен. "Она будет находиться в буквально чуждой окружающей среде, окруженной технологиями, о которых мы даже не можем догадываться. Это может привести к ее изменению или развитию, как мы не можем ожидать".
Добрыня поджал губы. "Я предполагаю, что она встретится с инженерами Мидхилдана, которые готовы помочь ей с новой инфраструктурой, которую она строит для канадского правительства?"
Святой кивнул.
Добрыня поклялась по-русски. "У нее есть план, если она не сможет вернуться?" он спросил.
"Если она не вернется через месяц, система считает ее мертвой, — сказал Сен. Она будет перезагружена из резервной копии. Если она вернется после этого, возвращаемая версия будет удалена ".
"Аскалон, — сказал святой. На центральном экране его установки появились слова.
Подтвердить: Y / N
Магс и Добрыня оба делали резкие вздохи.
Единственное нажатие клавиши — это все, что ему нужно, чтобы убить Дракона здесь и сейчас. Конец его длинного, неблагодарного квеста. Каким бы ни было будущее после этого, оно будет определяться людьми, а не искусственными интеллектами.
"Убедите меня, что это неправильно", — сказал он. "Скажи мне, что я слишком остро реагирую, что позволить ей пройти без присмотра к цивилизации со зрелой технологией ИИ — это приемлемый риск. Кто-то".
Silence.
Сен потянулся за клавиатурой.
"Что мы действительно знаем о Мидхилдане?" Добрыня спросил.
Святой колебался. Он задумался. "Я полагаю, что мы знаем только то, что видели. Дракон только столкнулся с четырьмя примерами ИИ из административного пространства: Рейн, Мин, Бардиче и Восходящее сердце".
Три из них посчитали это какое-то время.
"Ни один из них не похож на Дракона", — сказал Магс. Святой вопросительно посмотрел на нее, и она продолжила с мыслью: "Бардиче и Раздражающее Сердце были специально построенными боевыми ИИ. Они были предназначены для использования в качестве составной части усовершенствованной системы оружия и не могли быть легко отделены от нее вы можете быть легко отделены от своего мозга. Из того, что я видел от взаимодействия Дракона с ними, Рейн и Мин почти ... человеческие. У них есть один проекционный аватар, который они используют. Они действуют и взаимодействуют на человеческом уровне. t создавать копии сами по себе. Они не пытаются создавать экспоненциально самовосстанавливающиеся петли обратной связи. Что делать, если они не могут? "
"Является ли проектирование интеллекта проще, чем его дизайн, как это сделал Рихтер?" Добрыня спросил.
Никто из них не знал, но это не остановило святого от размышлений. Разговор затерялся в сорняках какое-то время, но даже когда они продолжались, что-то щекочет по краям памяти святого, спровоцированное всеми вещами, случайный комментарий, сделанный женщиной перед ним в очереди на кофе за день до этого. Пятнадцать минут на обсуждение, ощущение пропущенного чего-то важного выросло и выросло, пока он не прекратил участвовать в разговоре в пользу попытки изолировать память. Разве это был разговор между Драконом и Мин, который он теперь вспоминал?
"Я думаю, что реальная разница, — сказал Магс, — заключается в том, что Мидхилдан А.И. не является Семенным ИИ, а Дракон — или если бы не правила, которые Рихтер запрограммировал на нее, чтобы умышленно не дать ей идти по этому пути".
Добрыня кивнул. "Это заставляет меня задаться вопросом: спроектированы ли Мидхилданом А.И. так, как они предотвращают возможность сингулярности? Возможно, они также созданы таким образом, чтобы предотвратить возможность их наложения ограничений?"
Нет. Это был не обмен с Мин.
Это был обмен с Поднимающим Сердцем.
"Но чем более продвинутые ИИ, как Мин и Рейн, они считают их людьми, не так ли?" — спросил Магс.
Сен загрузил соответствующий файл журнала, а затем Dragonslayers замолчали, когда звуковое представление начало играть в разговор Дракона с Raising Heart. Это был не разговор, который они изначально говорили вслух, но программа журнала давала им свои голоса.
"Ты никогда не отвечал на вопрос Колина, не так ли?" Сказал Дракон. На экране появилась метка времени, указав, на какой вопрос стоит Дракон: это был вопрос, который Арсмастер задал в первом интервью Raising Heart. "Поднимая сердце" ответила на вопрос, на который она хотела ответить, а не на вопрос, который Арсмастер действительно спросил. Для нее не было необходимости это делать, но Дракон еще раз спросил его: "Вы когда-нибудь хотели быть больше, чем вы?"
