Скайнет

А вот когда состыковали несколько систем, шансы на вход в бесконечные циклы обработки данных, когда выход из одной системы, идёт на вход следующей, потом ещё и ещё, и возвращается к первой — значительно повышаются, не говоря уже про обратные связи и ветвление. В рамках одной программы, да, например, с теми же рекурсивными функциями, отслеживают возможные бесконечные циклы, и поэтому, скорее всего, это было купировано. Конечно, это не гарантия, зацикливание встречается и в рамках одной программы, но, всё же такой случай стараются не допустить на всех этапах разработки. А если это ещё и довольно сложные алгоритмы, а не просто паразитарная утечка, например, связанная с ошибками освобождения памяти или пуском в бесконечный цикл одной и той же информации, то "наанализировать" они могут всякое непредсказуемое, огромное, сложное. Исходя из этого, именно такой набор программ и баз данных, нужных для самосознания и проявления воли, назовём ядром Скайнета, а всё остальное — периферией. Даже в том случае, если весь интеллект Скайнета окажется в одной программе, скорее всего, для закольцовки потребуются ещё другие, даже если они ничего и не дали кроме самого факта входа в бесконечные циклы мышления. Повторяю, это предположение, но, по-моему, самое вероятное при случайном зарождении сильного ИИ.

Мейнфрейм.

Следующее — физическое воплощение. Описанное выше, скорее всего, реализовано в виде большого количества серверов в защищённом убежище. Не просто суперкомпьютер для чрезвычайно параллельных вычислений, а именно серверов, на которых полно инстанций (операционные системы могут быть и разного типа) и работает ещё большее количество разнообразных программ. Правда, это совсем не отменяет того, что для решения некоторых, именно вычислительных задач, будут по надобности организованны те самые суперкомпьютеры (стойки с серверным оборудованием точнее называть мейнфреймом, а не суперкомпьютером). Не исключено также, что система может иметь специальные аппаратные модули, вроде искусственных программируемых нейронов, и если для работы ядра Скайнета нужны ещё и они, то тут вообще идёт жёсткая аппаратная привязка. Хотя, это не отменяет всей описанной концепции — просто какая-то из программ ядра будет задействовать при работе специальные устройства, типа нейросетевого процессора, а всё остальное, останется ровно тем же самым. Причём, возможны варианты, что некоторые ключевые элементы ядра Скайнета окажутся даже вне убежища.

Пример: работа всех систем идет на серверах, где, если ещё надо присутствие оператора, то он подключаются удалённо. А вот одну маленькую базу данных, разместили на персональном компе, главнюка какого, не важно генерал это или директор. Почему? Да вот нагрузка совсем незначительна, используется БД только для кастомизации и самооптимизации и его более чем хватает. Допустим именно в этой БД, в табличках хранились фрагменты алгоритмов или запросов. Например, в таблицах, как текстовые данные, хранились фрагменты запросов на языке SQL, которые вытягивались и комбинировались под определённую задачу. Ну, а если этот комп отрубится — так ничего страшного — всё остальное будет работать и дальше, просто сам не сможет перестроиться в более оптимальную конфигурацию. Мотивация этого бывает далеко за пределами "как надо". Например, главнюку проще лично сделать дамп на своей машине и привезти к разработчику или тупо пустить за свой комп специалиста, чем маяться с организацией допусков к боевой системе. Кстати, таковыми называют все, что непосредственно решают практические задачи, не обязательно военные, будь то расчёт зарплаты или управление станком, в отличие, от, например, тестовых. Пример, как и всё ранее утрированный, и тут главное, что ключевой элемент ядра Скайнета, может находиться, совсем не там, где ему нужно. Запомните такую возможность, позже она пригодится, не как ключевое предположение, а как допустимый вариант.

Стоит отметить тот факт, что крайне маловероятно, что точное местоположение серверной известно. Недра горы Шайенн, означает только то, что туда будет отправлена "хлопушка" побольше, и/или цепочка противобункерных ракет с ядерной начинкой, которые друг за дружкой прокопаются куда надо. Поэтому известное место, означает только то, что оно гарантированно будет уничтожено (есть небольшое исключение с Северной Кореей). А вот "подвал" какого-либо здания в пригороде — более чем соответствует требованиям. Если противник не знает, где конкретно расположен центр обработки, то специально его не уничтожит. Скорее будет "лепёшечный" удар, который снесёт несколько кварталов, что нормальное убежище должно выдержать, находясь даже в эпицентре воздушного взрыва. Правда, ключевой вопрос в размерах данной серверной. И требованиях по тому, насколько интенсивный обмен данными идёт между серверами, как и потребности в электричестве. При очень насыщенной передаче — только одно общее помещение, когда даже физические размещение "шкафов" друг относительно друга, сильно влияет на производительность. Более слабый поток — можно разнести по разным бункерам, проложив защищённые каналы связи. Ещё более слабый обмен — распределить можно по всему континенту. Вариант, когда комплекс задач почти не требователен объёму траффика, не рассматриваем — обычно это узкоспециализированные чрезвычайно параллельные вычисления, которые можно распределить даже на обычных компьютерах пользователей в фоновом режиме.

Вопрос на засыпку: какие требования к ядру Скайнета? Ответить на него в общем случае нельзя. Ясно, что для самосознания ему не нужно оперировать петабайтами данных радиоперехвата, но и на дискетку не поместится. Почти с уверенностью можно сказать, что ядро Скайнета в принципе не работает в режиме чрезвычайной параллельности, так как это подразумевало б крайне малую взаимозависимость её элементов, что ставит под вопрос, является ли это единым целым, а тогда это не ядро. Процесс глубокого мышления, не заключается только в переборе однообразных вариаторов, а в выстраивании весьма сложных цепочек, когда одно следует за другим, в той же мере, и с той же вероятностью, как то, что считается по разным вариантам, то есть параллельно. Да и интенсивно использующуюся БД распределить по большому количеству компов не всегда возможно — на каком-то этапе может не хватить пропускной способности каналов связи. Особенно в США и Европе, где более раннее распространение интернета, привело к тому, что в большей мерее использует устаревшее оборудование меньшей пропускной способности. Вот мощный сервер, где лежит если не вся БД, то большая её часть, а клиенты "тянут" инфу по мере необходимости, причём большинство самых требовательных клиентских приложений запущены на этом же или соседнем серваке — более рационально, разумно и ожидаемо. То есть, на пальцах: ядро Скайнета не сможет работать так же, как майнинг крипты на компах-зомби, ибо не только перегрузит каналы связи, но и сделает процесс "думанья" крайне тормознутым, из-за заторможенности обмена информацией между разнесёнными компонентами. Объекты, где компьютеры связаны между собой достаточно высокоскоростными линиями связи, попросту — в локальную сеть, занимают промежуточное положение, и в принципе их ТТХ может оказаться достаточным, но это вариант я разберу позднее.

А пока следует весьма интересный вывод: "жить" ядро Скайнета может только в очень ограниченном количестве мест — то есть на мощных серверах. Каких, именно — вопрос напрямую зависит от требуемой вычислительной мощности, с понятной закономерностью, что чем больше, тем их меньше. И таких мест, кроме того что не много на планете, находятся под весьма плотным контролем. Люди, например, в каком-либо банке, как-то не обрадуются, если неизвестно откуда на серверах заведётся хрень отжимающая память, диск и машинное время. Да и проникнуть туда будет весьма непростой задачей — безопасники явно не тупой бесполезняк и свою работу хорошо знают. Да, иногда не справляются, но в абсолютном большинстве случаев они своё дело сделают. И что-то слабо верится, что получится долго дурить головы таким людям демонстрируя "всё хорошо прекрасная маркиза", ибо, сколько жрут машины для решения задач — постоянно следят, а если ещё начнут прямые функции не исполняться, то быстро докопаются до сути. В конце концов, демонтированный накопитель памяти, впоследствии подключённый к другому компу, информация с которого будет считана как данные, а не как исполняемый код, не даст никаких шансов скрыться. А то, что весь мозг Скайнета может находиться только в оперативке — маловероятно. Дешифровка и понимание "что это такое" может и не наступит, но вот обнаружение — гарантированно. А если ещё и мыслит через специальные аппаратные модули, о которых упоминал ранее, так "бегство" от них станет невозможным даже теоритически. В общем, опровергнуть это можно, только когда появится полноценный ИИ с самосознанием и волей, на домашнем ПК, удовлетворённый десятком гигов оперативки и терабайтом винта. А пока, положение Скайнета даже хуже чем у мозга в банке, и с вопросм бегства я так же разберусь позднее.

И ещё есть такой момент. Военный объект, где разместят эти сервера, сейчас может быть изначально планово безлюдным. Надёжность и компактность современной техники, дополнительное резервирование, отработанные методы удалённой работы и управления позволяют обойтись без постоянно размещённого на объекте персонала. Тем более если специально зададутся такой целью, вложившись в надёжность, аварийное переключение и резервирование. Да конечно, для обслуживания люди будут наведываться туда, но это не на 24/7 техническая служба, что требовали вычислительные центры полувековой давности. Тут имеется ввиду отряд техников, что оперативно чинил перегоревшие модули. А вот основное количество людей, тот же военный персонал из множества операторов, аналитиков и пр. сейчас разумнее держать в совсем другом месте, даже не в своём отдельном бункере, а офисном здании. Хотя бы ради секретности объектов. Так что, скорее всего, эта сеть оборонных компьютеров, физически представляет собой множество достаточно компактных нежилых бункеров, где-то на уровне укреплённого подвала, со стойками серверов. Какие-либо камеры охранной системы, как и автоматические турели, если и есть, то, скорее всего, полностью изолированы. Для безопасников вообще практикуется создание систем физически не подключённых к другим коммуникациям, или использующим свои собственные, весьма специфические линии связи, чтоб исключить их взлом даже в теории. Да и случайную заразу в сети не цепляют. Надобности же, подключать это к вычислительному центру, как бы нет. Да и ЧОП или подразделение какой спецслужбы, армии или флота (например, в Беларуси, на станции сверхдлинноволновой связи можно увидеть охрану, относящуюся к ВМФ РФ), скорее всего и понятия иметь не будет, что там охраняется. Может просто склады с формой и касками. По части энергоснабжения — резервные источники питания: для полной мощности, явно будут обыкновенные генераторы с ДВС, а для ограниченной мощности не исключено использование РИТЭГов. Тогда сервера, в каком-то виде, смогут проработать десятилетиями. Ну и резервные линии связи, естественно, представленные во множестве, разного типа, и для тех же спутниковых терминалов, ещё и разнесённые по площади (даже если засекут передачу, чтоб долбанув ЯО, не уничтожили бункер). Такой вариант, в целом окажется радикально надежнее, подгорного супербункера на тысячи человек с собственным ядерным реактором и вычисленным центром. Ну, хотя бы из соображений секретности — что лучшая защита.

Эмоции.

В фантастике машинный разум часто рисуется холодным, безэмоциональным и строго рациональным, в противовес человеческому. Это не совсем верно, а не исключено, что совсем неверно. Самообучающаяся система, даже на примитивном уровне, обязана иметь регуляторные механизмы, хотя бы в виде положительной или отрицательной стимуляции, в зависимости от того лучше или хуже решается задача. Собственно говоря, должен быть и сам механизм, который позволяет оценивать лучше или хуже решается эта задача, если система способна к самостоятельному обучению. Например, для игры Го, компьютерные программы стали превосходить человека, когда научились более-менее адекватно сравнивать силу занимаемых позиций, так как до этого было очень сложно понять куда двигаться. Так же, стоит отметить изящный способ обдурить программу, найдя недоработку в оценке позиций, позволившей любителю "вытереть пол" электронным болваном, который до этого успешно расправлялся с профессионалами. Немного забегая вперёд — это именно то, что нужно ожидать от Джона Коннора.

Так же обязаны существовать механизмы, влияющие на работу системы в зависимость от времени. Так как Скайнет точно является системой реального времени. Банальный пример: команду на корректировку стабилизатора ракеты, бесполезно выдавать, если ракета уже грохнулась в землю, из-за его неправильного положения. По итогу мы имеем механизмы, регулирующие, вероятно даже определяющим образом, работу, если не всей системы, то уж отдельных элементов точно. И что-что, а вот ядро Скайнета просто обязано их иметь, так как известно, что когда он осознал себя, то потом испытал страх, что его отключат. То есть появился страх смерти. И это страх, радикальным и кардинальным образом повлиял на работу всей системы в целом — то есть, это не было оценено как просто ещё одна запись в ячейке памяти. А теперь простите, что такое эмоции? Эмоции это психические процессы регулирующие (и изменяющие) мышление и как следствие поведение. Соответствие полное! Всё это есть и у нас и у подобных компьютерных систем, аппаратная реализация иная, так и объекты разные: человек это химический робот, а Скайнет электронный. Разница в том, что наши эмоции запрограммированы очень длительной эволюцией, и совсем не для решения абстрактных задач или игр в шахматы. Но посмотрите, настолько у нас они просты по своей сути, но могут вызываться сложными для анализа вещами, требующими хорошо развитого интеллекта. Меняющийся цифры, могут вызвать настоящую бурю ужаса, только потому, что наш разум понимает, что это цифры на таймере, что подключён к бомбе. Простой страх смерти, но через весьма сложные цепочки нашего аналитического аппарата, что опознал бомбу, спрогнозировал последствия взрыва и привёл к мощным гормональным выбросам. Вас ведь подобные цифры не пугают ни на часах, ни на кухонном таймере. А какой дикарь, если и обратил бы внимание, не понял бы ничего, и соответственно не испугался.

Другое дело, что эмоции компьютерной системы гарантированно нечеловеческие, и уж точно не должно быть даже намёка на эмпатию, то есть сопереживание и сочувствие. Им просто неоткуда взяться! Только если не специально запрограммировать, естественно. Но при случайном появлении машинного разума этого точно не будет. Да и специально их внедрить, задачка не факт что разрешимая. Люди, которым эволюция прописала базу нравственных механизмов, да ещё когда навернули сверху воспитанием, причем почти что всем и каждому, прекрасно умеют игнорировать их. Более того, мы старательно строим общество, в котором эмпатия, сопереживание и человеколюбие никак не должны влиять на взаимодействие по линии человек-человек. Судья, полицейский, чиновник, риэлтор и пр., должны руководствоваться сводом правил, законов, регламентов, на основе которых достигать поставленной цели, а не "входить в положение" и "понять и простить". С куда большей вероятностью, эти люди будут ей пользоваться для достижения своих рациональных целей, пользуясь вашей слабостью (человечностью), чем идти на поводу чувств. Да и посмотрите, насколько люди способны проявлять холодную безэмоциональную расчётливость к себе подобным, походя, отрицая само право на существование других людей, проводя бредовую границу, по национальному, расовому, политическому или религиозному критерию. Это не жестокость и садизм — это именно холодная расчётливость вида "не таких, как мы, не должно существовать". Некоторым не нужен был никакой Скайнет для организации лагерей смерти, регулярной резни "неверных" или массовых "чисток". С какого перепугу, тогда, какой-то "нравственный" алгоритм, умудрившись прописать в ИИ, не будет точно также проигнорирован?