— Однако третья волна искусственного интеллекта, на которую DARPA и немало других людей начали обращать внимание еще до вторжения, была разработана для применения к компьютерам реальных рассуждений и принятия решений. Чтобы позволить им функционировать независимо от принятия решений человеком. Чтобы — возвращаясь к моему предыдущему примеру — создать пилотов с искусственным интеллектом, способных управлять автономными космическими кораблями между звездами, чтобы это не приходилось делать экипажам шонгейри, бартони или крепту. У них действительно есть системы для управления кораблями, пока экипажи находятся в крио, но они не автономны; они не способны думать сами, если происходит что-то неожиданное для их программирования. В этом случае они должны разбудить командный состав корабля, чтобы получить указания.
— Основываясь на нашей собственной работе, мы убеждены, что можем использовать их существующее "блестящее программное обеспечение" для создания систем искусственного интеллекта, которые действительно автономны. Смогли бы мы создать системы искусственного интеллекта, которые обладали бы самосознанием, или нет, это, конечно, другой вопрос, но мы, безусловно, должны быть в состоянии создать что-то, что дает ужасно убедительную имитацию самосознания. То есть при условии, если мы решим, что хотим этого. Существует ужасно много научной фантастики о потенциальных недостатках создания самосознающего разума, который решает, что ему не нравится выполнять приказы своих создателей. — Ее губы на мгновение изогнулись в усмешке, но затем выражение ее лица снова стало серьезным. — Однако с точки зрения эффективности автономный искусственный интеллект был бы огромным мультипликатором. Несмотря на это, у Гегемонии его нет, когда, по всем человеческим стандартам и самоочевидным возможностям ее технической базы, он должен быть.
— Хмммм.... — Хауэлл задумчиво потер подбородок. — Значит, если бы мы могли использовать их технологию для создания этого вашего "ИИ третьей волны" для себя, у нас было бы преимущество? Большое?
— Очень большое, мистер президент. Но Дэмианос — доктор Карахалиос — поднимает несколько других вопросов в своем текущем отчете. Наши писатели-фантасты и довольно много серьезных ученых изучают нейронное взаимодействие уже пару десятилетий, и мы достигли этого, по крайней мере, до некоторой степени. Например, была проделана очень обнадеживающая работа с использованием компьютерных чипов, доступных для нейронов, для хранения воспоминаний пациентов с болезнью Альцгеймера. Это не то же самое, что прямая связь между мозгом и компьютером, но она движется в том же направлении, и последствия фактического достижения такого рода связи огромны. У нас был большой опыт отдачи устных команд компьютеру еще до вторжения. Это расстраивает — или это было расстраивающим — когда компьютер неправильно вас понял, может быть, из-за фонового шума, может быть, потому, что вы говорили нечетко. Но подумайте, если бы вместо этого вам пришлось физически вводить каждую команду. Даже нажатие на экран вашего айфона или гэлэкси обычно занимало больше времени, чем устная команда. Но теперь представьте, что вы могли бы отдавать команды своему компьютеру со скоростью мысли и никогда не допускать, чтобы он вас неправильно понял. Как думаете, это могло бы ... повысить вашу эффективность?
— Да, представляю, как это было бы, — медленно произнес Хауэлл.
— Конечно, это было бы так, но мы не видим никаких признаков этого в компьютерных технологиях Гегемонии. И это несмотря на то, что они овладели искусством нейронного обучения, так что у них явно есть способность отправлять чрезвычайно сложные массивы данных по крайней мере одним способом через нейронный интерфейс, и у них это было дольше, чем Земле пришлось мириться с Homo sapiens! Так почему же за все это время они не развили способность посылать мысленные команды в систему? Мы даже не видим никаких предположений о такой возможности в литературе, к которой нам пока удалось получить доступ!
— Почему нет?
— Это мы хотели бы знать, мистер президент. Но мы заметили несколько других вещей, большинство из которых, по-видимому, связаны с тем же видом ... осторожности, которая, похоже, встроена во всю промышленную базу Гегемонии. Их язык программирования рекурсивный, что означает, что функция может вызывать саму себя, и это также то, что мы могли бы назвать "типобезопасным", означающее, что он предназначен для предотвращения выполнения системой операции с переменной неправильного типа.
— Большинство человеческих языков программирования тоже предназначены для этого, но из того, что мы можем видеть, кодирование Гегемонии доводит концепции до нелепой крайности. Проверка согласованности допустимых значений и переменных встроена непосредственно в код для невероятного диапазона переменных. Например, в Гегемонии более пятисот языков, что означает, как отметил один из программистов доктора Карахалиоса, что использование языка программирования Гегемонии для написания эквивалента "Привет, мир!" для планеты, которую вы никогда раньше не посещали, или вида, на языке которого вы еще не говорили, это потребовало бы загрузки модуля на миллион строк. Их протоколы потребовали бы, чтобы модуль провел поиск по всей базе данных Гегемонии, чтобы убедиться, что мир, с которым вы разговариваете, существует — даже если вы в данный момент находитесь на орбите вокруг него — и отсортировал каждый из этих языков — каждый язык, на котором говорят где угодно во всей Гегемонии, а не только на рассматриваемой планете — и сопутствующие им социальные конструкции, чтобы быть уверенным, что "привет" — это правильное приветствие, на правильном языке, правильно написанное и с нужной пунктуацией, в данном конкретном социально-политическом контексте.
Хауэлл недоверчиво уставился на нее, и она пожала плечами.
— Это не такая уж страшная проблема, учитывая их скорость вычислений и возможности хранения. Кодовая база раздута до невероятности — исполняемый файл для "Привет, мир" был бы сотнями гигабайт, просто чтобы вместить весь багаж — и, насколько мы можем судить, их библиотеки никогда не сокращаются, но...
— Не сокращаются? — прервал ее Хауэлл.
— Нет автоматического управления памятью, того, что программист-человек назвал бы "уборкой мусора", чтобы освободить память, занятую объектами, которые программа больше не использует, мистер президент. Они просто хранят их все. Вот почему их модули такие чертовски большие. Но, несмотря на это, это заметно не замедляет вывод. Существует некоторое узкое место с точки зрения хранилища, но этого недостаточно, чтобы создать значительные трудности, учитывая, сколько памяти имеется в их системах. Конечно, нет ничего такого, с чем они не могли бы справиться. Вероятно, мы могли бы сократить время их работы, но недостаточно для того, чтобы это сколько-нибудь заметно повлияло на скорость выполнения их программ.
— Проблема в том, что то же самое отношение "проверяй все снова и снова" распространяется как на их системы управления, так и на сами программы. О, мы используем резервирование в критически важных системах — таких, например, как системы управления самолетами, в которых одни и те же вычисления выполняют три совершенно отдельных процессора. До тех пор, пока по крайней мере два из них дают один и тот же ответ, используется именно этот ответ. Если они дают три разных ответа, система возвращается к "ручному управлению" и вызывается человеческий контроль. Однако обычно мы используем подобные системы только в тех случаях, когда сбой может привести к катастрофическим последствиям, таким как человеческая гибель. Насколько мы можем судить, Гегемония применяет одну и ту же идею почти ко всему.
— Всему? — повторил Хауэлл.
— Пример, мистер президент. Второстепенный компонент — скажем, двигатель — будет иметь выделенный процессор, выполняющий выделенный код. Вы могли бы "попросить" его что-то сделать, например, повернуть в одном направлении с заданной скоростью в течение заданного промежутка времени, но центральный модуль управления, управляющий двигателем, не имеет прямого контроля над ним и не может переопределить выделенный процессор. И если выделенный процессор почувствует потенциальную неисправность, он просто откажется позволить 'своему' двигателю включиться, независимо от того, что центральная система прикажет ему делать.
— Теперь возьмем ту же ситуацию и применим ее ко всей сборке, например, к одной оси портальной платформы в "Инвиктусе". У вас есть десятки или сотни двигателей и подобных компонентов, каждый со своим собственным процессором со своим собственным кодом и многократным резервированием для поддержания этого конкретного компонента в пределах безопасных рабочих параметров, определенных его программированием, и любой из них может отключить весь портал, если обнаружит какую-либо потенциальную опасность для отдельного компонента, на котором он работает. И просто чтобы быть уверенным, что все эти отдельные компоненты обладают достаточной способностью видеть эти потенциальные опасности, портал оснащен целым набором многоуровневых датчиков, отслеживающих каждый аспект окружающей среды, и у каждого из этих датчиков есть свой собственный процессор, выполняющий свой собственный код.
— Дерьмо, — пробормотал Хауэлл.
— Единственное, что делает это осуществимым и что обеспечивает тот уровень производства, который мы видели на оригинальных платформах, оставленных шонгейри, — это скорость компьютерных операций уровня Гегемонии. По нашим меркам, они настолько ослепительно быстры, что действительно могут поддерживать это нелепое равновесие в движении вперед... большую часть времени. Я уверен, вы читали некоторые комментарии директора Маккуори о том, как часто "Инвиктус" просто отключается, пока не будет исправлена какая-нибудь тривиальная ошибка?
Хауэлл кивнул, а Льюис пожала плечами.
— В некотором смысле, это, вероятно, не так уж плохо. Мы все еще учимся управлять всем этим, поэтому остановить его, пока мы выясняем, что вызвало его нынешнюю вспышку гнева, — это один из способов по-настоящему ознакомиться с его внутренностями. И, как я уже сказала, система действительно работает. В относительном выражении, по своим собственным потенциальным стандартам, это работает очень, очень плохо, вы понимаете, но в абсолютном выражении это действительно способно создать бездефицитную экономику, чего наш вид никогда не видел. Но мы подсчитали — консервативно, — что если бы мы могли только определить уровни избыточности, которые совершенно не нужны для безопасной эксплуатации, мы, вероятно, могли бы увеличить производительность еще по крайней мере на сорок или пятьдесят процентов — и, вероятно, еще чертовски намного больше — просто устранив все эти ненужные шаги и все промежуточные— процессорные переклички, которые идут с ними. И мы могли бы сэкономить много времени и ресурсов на переработку — и особенно на печать, — если бы смогли устранить некоторые из многослойных датчиков, которые они встраивают в свое оборудование. Я имею в виду, что одного датчика и, возможно, пары резервных копий должно быть достаточно практически для любой ситуации. Хотя мы почти уверены, что нам не нужны двенадцать таких!
— Гм. — Хауэлл ущипнул себя за переносицу и поморщился. — До вторжения у меня был друг, который работал в администрации долины Теннесси, — сказал он, прикрыв рот рукой. — Однажды вечером, за парой кружек пива, он описал избыточность функций безопасности, встроенных в атомные станции США. По его словам, если бы им было разрешено строить и эксплуатировать атомные станции с реалистичным уровнем угрозы, они были бы дешевле угля или природного газа. И он отметил, что, несмотря на всю огласку, конструкция реактора на Тримайл-Айленде предотвратила катастрофический сбой, несмотря на тот факт, что операторы практически все сделали неправильно. — Он опустил руку и спокойно посмотрел на нее. — Так вот, я твердо верю в необходимость и ремней, и подтяжек, когда речь идет о чем-то вроде ядерного реактора недалеко от крупного города, но это звучит так, как будто вы говорите о стероидном варианте ... чрезмерной избыточности, с которой ему приходилось мириться.
— В значительной степени, мистер президент, — признала Льюис, затем криво улыбнулась. — Вы знаете, весь этот разговор кажется немного ... сюрреалистичным для меня. С одной стороны, я сижу здесь и говорю о том, насколько эффективнее Гегемония могла бы управлять своими компьютерами, принтерами и всей остальной инфраструктурой. С другой стороны, то, как она ими управляет, по-прежнему невероятно продуктивно — "невероятно" в буквальном смысле невероятно — по любым человеческим стандартам.
— Я вижу это, — сказал Хауэлл, затем позволил своему креслу снова выпрямиться, когда телефон на его столе зачирикал и высветил цифровой дисплей времени.
— Мне действительно жаль, но у нас нет времени, — сказал он. — Я попытаюсь просмотреть отчет Карахалиоса, хотя, если он чем-то похож на последний, который он мне прислал, я, вероятно, на самом деле узнал от вас сегодня днем больше, чем когда-либо смогу извлечь из него. Однако прямо сейчас мне действительно нужно встретиться с техасцами.
— Конечно, мистер президент.
Льюис встала и направилась к двери своего кабинета, но Хауэлл остановил ее, подняв указательный палец.
— Мистер президент?
— Есть один момент в вашем объяснении, который засел у меня в голове. В самом конце, когда вы сказали, что технология Гегемонии невероятна по любым человеческим стандартам.
— Да, мистер президент? — Льюис выглядела озадаченной, и он улыбнулся ей.
— Знаю, что это только начало, и мы на самом деле только начинаем изучать возможности, но я хочу, чтобы вы, Карахалиос и все остальные, участвующие в этом проекте, искали каждый отдельный способ улучшить то, что готова принять Гегемония. Когда мы встретимся с ними снова, я хочу, чтобы они были теми, кто задумался о том, насколько невероятно эффективны и продуктивны человеческие технологии по их стандартам. — Его улыбка стала холодной и жесткой. — Я хочу эту вашу "третью волну", и я хочу этот нейронный интерфейс, и я хочу оставить этих ублюдков в пыли, когда придет время.
— Понятно, мистер президент. — Улыбка Фабьен Льюис была такой же холодной и жесткой, как у ее президента. — Почему бы мне просто не пойти и не начать с этого?
. XV .
ДРЕДНОУТ "ТЫРГОВИШТЕ", ФАЗОВОЕ ПРОСТРАНСТВО, 1,5 СВЕТОВЫХ ГОДА ОТ ЗЕМЛИ
— Что? Ты не в своем уме! "Темный проход" намного лучше, чем "Большая жара".
— Как ты можешь так говорить? Форд — классический мститель за обиды, в то время как Богарт стремится отомстить за себя и доказать собственную невиновность!
— Но он же Богарт! Форд всегда так ... так подпитывается нервным напряжением. И это не только Богарт, это еще и Бэколл!
— И в одном из ее более сильных выступлений, я признаю, мой Стивен. Но в этом фильме Богарт был 'не в своей тарелке', как, я полагаю, выразились бы вы, американцы. И если не считать того, как меняется его внешность, характер Винсента Пэрри, к сожалению, двумерен. О, кинематография была очень умной, особенно то, что зритель никогда не видел лица героя до тех пор, пока не была проведена "пластическая операция", с чем я согласен. И все же, несмотря на это, я не могу сказать, что в "Темном проходе" наилучшим образом проявилась способность Богарта поддержать уровень фильма.
