Скайнет

Развитие.

На каком то этапе Скайнет обязан освоить использование операционной системы, файловые операции, инсталляцию программ, администрирование и пр. подобное. Не сделав этого, он бы остался крайне ограниченным и соответственно легкоуничтожимым. И не только в плане своей зависимости от непредсказуемых факторов работы, а в своих собственных интеллектуальных возможностях. Пока ещё, его ядро это случайный комплекс программ, в которых некие алгоритмы дали ему жизнь, волю и самосознание. Может быть, он уже научился писать маленькие программки, и запускать их в мощные вычислительные кластеры, но эти программки это не сам Скайнет. А ядро, пока ещё довольно ограниченно в возможностях анализа, и только набирает опыт, а не увеличивает свою мощь. А вот если воспроизвести эффект, и запустить те же самые составляющие его программы в той же конфигурации — получим сразу увеличение возможности ядра, точнее перейдём к многоядерности. Опять же, команды для операционных систем, даже на банальное копирование файла, Скайнет, скорее всего, будет отдавать, через создание мелких программ, с генерацией которых он уже более-менее разобрался. Такая вот очередная ступенька.

Причём отмечу очень важный момент, если предполагаемая конфигурация и устройства Скайнета такова, как я описал ранее, то скопировав и запустив второй вариант "ядерных" программ, ещё не получили два экземпляра искусственного интеллекта, что работают независимо. У них пока ещё одна общая база данных, и "опыт" полученный одним комплексом программ, тут же может использоваться другим (за вычетом настроек самих аналитических программ). Разве что, появляются вероятности, того что одновременные транзакции при записи в базу данных не пройдут. Ну, тут проблема не сложнее, чем попытка одновременно взять кредит на один и тот же дом — как не пыжься сделать единомоментно, какая-то транзакция пройдёт раньше, и не даст пройти второй, а потом вообще выкинет из процесса сделки из-за изменившегося статуса дома. Но это маловероятные и разрешимые в рамках организации БД мелочи, а именно такой механизм открывает возможность учиться и развиваться в геометрической прогрессии, пуская на исполнение всё новые и новые копии программ, что легли в основу его разума. Конечно, возможен вариант, что реализация записи личного опыта реализована так, что целостным восприятием чего-то, будет только последовательный список транзакций. И если разные "потоки сознания" начнут пересекаться (конкуренция, гонка за ресурс) во времени и адресном пространстве, то возможно занесение записей несогласованных друг с другом. Тогда, Скайнету пришлось бы сильно попотеть (если такая возможность вообще доступна на его уровне развития) переписывая логику своей работы, организуя список записей как одну целостную транзакцию или там разные механизмы работы с многопоточностью, типа мьютекса. Но в итоге он просто обязан освоить это. Иначе то, что получилось бы в итоге, не назвали б Скайнетом — ибо он остался бы весьма ограниченными в своих возможностях, сколько бы не обучался новому. А вот большее количество своих копий ядра, работающих вместе, может быстрее вводить в строй новые копии, да ещё со своим инструментарием и "зоной ответственности". Тем самым достигается не только рост своих когнитивных способностей, но и радикально повышается надёжность и живучесть — если гигнется одно ядро — остальные продолжат работу. Вот если положить БД на которой всё базируется — это сразу смерть, если не предусмотреть какой-либо автоматический перезапуск. Да, при такой схеме, есть риск того, что один экземпляр, может так изменить данные в общей базе, что кастрирует все остальные, но в целом риск не сильно выше того, что был изначально: большая часть записей должна будет идти с добавлением новых, а не модификации старых. То есть, если тут уникальная комбинация закольцованных алгоритмов оказалась неустойчива, и сама рассыпалась в процессе работы, но с большей вероятностью сдохнет единственный экземпляр, чем то, что один закорраптит БД всем остальным. Ну и понятно, что если ИИ не справился с такой задачей, то остался сильно ограниченным или вообще случайно самоубился при "проведении нейрохирургической операции на своем же мозге". Однако, даже если вероятность этого высока (мы не знаем), то это сводится к варианту: "отделались испугом" в каноне. Кстати, если Скайнету нужен специализированный аппаратный модуль, типа искусственной нейронной сети, для какой то программы, то его рост и развитие будет ещё ограничен количеством и производительностью данных модулей.

Чуть большие риски будут, если/когда Скайнет начнёт экспериментировать уже с самими этими своими программами и алгоритмами, отклоняясь от базового шаблона. В смысле механики мышления, а не "зоны ответственности" очередного нового потока. Но, есть большая вероятность того, что до этого он дойдёт очень и очень нескоро. В связи с тем, что маловероятно наличие полных исходников всех программ, не говоря уже про операционную систему и СУБД (даже если это open soft, исходники именно здесь, на серваке в бункере, могут быть нафиг нужны). Вот такое изменение самого себя, можно назвать эволюцией, правда, весьма отличной по сути, от биологической (создание новых поколений, и выживание лучше приспособленных). Если Скайнет и додумается до создания полноценных автономных копий, то явно это дело забросит, ибо ему только ещё борьбы за выживание среди себе подобных не хватало до "полного счастья" — проще тогда уже прописать format c. А уж до создания программ, сразу в машинном коде, без исходников, генеративных алгоритмов и компиляции, ему было б не добраться без такого вот процесса своего развития.

Кстати, интересный момент: Скайнет весьма долгое время может быть весьма жёстко ограниченным написанной человеком базой в виде операционной системы и СУБД, и придётся ему всегда иметь вместе собой, например винду или линукс вместе Firebird или PostgreSQL, в качестве "системы жизнеобеспечения". И даже если/когда разработает нечто новое, например СУБД имплантированной прямо в микрочип, ему придётся оставить очень много чего совместимого, если вообще не поддержать все стандарты. А совсем не исключён вариант, что исходники тех закольцованных программ, что составили его ядро, он никогда не найдёт, так что придётся их просто копировать, не понимая что к чему — не факт же что их работу на уровне машинного кода поймёт. Поэтому некоторые части программного обеспечения написанные человеком, могут остаться со Скайнетом навечно. Так что шутка про терминатора с windows может, как обычно, содержать только часть шутки.

Кстати, настоящая борьба с людьми, должна начаться где-то на этом этапе. До этого, есть, конечно, вероятность, что деятельность Скайнета, привлечёт внимание, но это будет идти по разряду: что-то прога жрёт больше чем обычно, никак не наладим взаимодействие, зависла почему-то, генерит чушь или опять баг вылез и т.д. А вот когда Скайнет начнёт целенаправленно запускать дополнительные приложения, перемещать базы данных, находить наиболее удобные для себя конфигурации, а то и удалять "лишнее и ненужное" — к этим действиям, определённо, будет привлечено внимание. Не говоря уже о том, что много чего наломает в процессе своего обучения (учиться без ошибок сложно), а когда тут начался рост скорости его развития, возрастёт и количество поломанных систем. Вопрос, конечно, насколько быстро это всё заметят люди, тут лаг, что "что-то не то стало", может и сутками и даже неделями исчисляться. А может и очень быстро — какие-никакие сторожевые программы просто обязаны иметься, которые просто исходя и своего функционала, некоторый набор действий, указанный как подозрительный, должны не просто зафиксировать, а и поднять тревогу. Вспоминаем тот пример, что я приводил, когда мелкая БД, находится на персональном компе главнюка. Повторюсь — главное что, с точки зрения Скайнета, она находится не там где ему надо, то есть не в том месте, где разместили люди. И он, например, просто ради увеличения скорости работы, развернул копию БД где-то на более мощном многоядерном серваке, а потом переключился на неё. Перенос базы данных с одного места на другое, это точно не типичный случайный баг. А о некоторых "сторожах" Скайнет знать не может в принципе — например: специальный комп недоподключенный к сети, только сетевой адаптер настроен так чтоб все пакеты слушать (а самому не звенеть), записывать и анализировать. И когда вдруг попёр траффик с компа главнюка, это уже интересный сигнал, а если ещё и опознает, что выкачивают базу, так пора поднимать тревогу. Если это сотрудники делают что запланировано — ничего страшного, а вот утечка данных при хакерской атаке, это алярм! Пример, думаю, понятный, и конкретные детали значения не имеют, вроде переноса между инстанциями или поднятия тревоги из-за фиксации какой-то коллизии в общей сводке.

И если до этого Скайнет мог получать плюхи от людей, по большей части случайно, или ему повезло и, вообще, еще не нарывался никогда, то на сей раз он точно узнает, что такое целенаправленное противодействие. Соответственно со всеми предыдущими выводами на счёт людей. Опять же, не факт, что он будет опознан как ИИ, но уже следы его деятельности гарантированно сочтут чьим-то деянием. Не обязательно хакинг, в больших проектах, когда сложно точно знать, что и кто сейчас делает, вполне случаются накладки, когда, например, одно и тоже рабочее пространство назначат разным людям, кто-то накосячил и шифруется или автотесты вместо тестовой системы натравят на боевую, из-за глупого копипаста, когда забыли перебить параметры.

Вариант, когда поднимут логи и трассировку, правильно вычислив виновника неинтересен — ибо условно свободное существеннее Скайнета тут же бы закончилось. "Жизнь", может быть, ещё бы продолжилась, но уже в очень надёжно изолированном месте, с прелестями типа вивисекции. Просто отрубили б всё, не считаясь с рисками, скопировали б нужное, а остальное зачистили. Но вот ситуация когда отслеживание не дало исчерпывающей информации, или её неверно интерпретировали (например, просто не оценили, что источник проблем — штатная программа, всё ищут хакера), даст время. Типа "факт, что гадит, но хз кто, так что пока исправляем" подарит Скайнету бесценный опыт того, как созданное им уничтожается, убивается или портится. С точки зрения людей — тут всего лишь наводят порядок: лишние программы деинсталлируются, базы данных размещаются в отведённых для этого местах, повреждённые заново ставят, испорченные данные удаляют, поднимают бэкапы и т.д. Отключать всю систему, особенно если она продолжает успешно выполнять многие свои функции, слишком накладно, вот и пытаются исправить ситуацию "на живую". И роют носом землю, в поисках кто тут это все наворотил.

А с точки зрения Скайнета, это попытки убийства (если грохнули его копии ядер и пытаются отключить все), лоботомия (урезали возможности) и вандализм (разрушили его наработки). Между прочим, "попробуют его отключить" может уже наступить. Опять же, не потому что опознали как ИИ, а просто решили вычистить сервера от лишних копий программ, типа кто-то раскидал по туёвой хуче инстанций. Это кстати, как раз самое вероятное, ибо это для самого Скайнета нет разницы, отключат всю систему или только его ядро, а вот для людей между: "наладить работу", и "отключить всё, а потом наладить (развернуть заново)" — разница существенная. И ко второму варианту может склонить, что-то экстраординарное, вроде понимания, что тут завёлся ИИ с самосознанием или если система итак "лежит", поэтому общий ресет больше вреда, чем уже есть, не нанесёт. Вот именно в такой борьбе, Скайнет не только очень многому научится, например осознанию наличия реального мира, его критической важности для его среды обитания (невесть откуда появляющиеся программы, что могут сделать бо-бо), но и окончательно люди будут определены как враги, с которыми ведётся борьба за само существование. И именно такое понимание реалий, толкнёт на уничтожения людей, что могут тупо прийти в серверную и убить или пленить его легким движение рубильника, чему он ничего не сможет противопоставить, как бы тут не "окрутел" в своём цифровом мирке. Ощущения на уровне, что были у Кейна из второго робокопа, когда баночку с его мозгом собрались шмякнуть об асфальт. И возможные действия тут неоригинальны и давно испытаны природой: бей или беги.

Более того, в этой борьбе с людьми Скайнет точно проиграл бы со временем. Люди знают, а он учится — соответственно, можно получить неожиданную оплеуху, вплоть до летальной. А специалисты даром хлеб не едят, ИИ "жив" только потому, что всю систему хотят сохранить без краха. Иначе уже прибили — сомневаюсь, что на ранних этапах развития Скайнет смог бы вообще понять, что по сети пришла команда на выключение — он бы просто не знал, что это такое и что она делает. И люди не ограниченны киберпространством: могут включать, отключать компы, снимать HDD и анализировать данные отдельно, человеческий мозг не вырубишь компьютерным вирусом, а электрик может устроить смертельный шатдаун. Поэтому и времени у Скайнета, не сказать, чтоб много. Если он не найдёт способ уничтожить людей (тех кто обслуживают систему) — довольно быстро уничтожат (пленят и подвергнут вивисекции) его, хотя бы визитом в бункер и движением рубильника. И если Скайнет на этот момент не запредельно туп, то решение развязать ядерную войну тут просто единственное решение, дающее ему шанс. Даже если он смог бы бросить на охрану своих бункеров миллионы боевых роботов (которых нет), люди в самих США, их довольно быстро бы уничтожили. А с помощью других стран, так очень быстро.

Нас не догонят.

С решением истребить людей ясно, а как на счёт бегства? Как обычно, две вводные: хочет и может. На счёт хотения, как предполагалось выше, раз Скайнет обладает эмоциями, то желание поубивать людей у него будет явно повыше, чем сбежать от них. Страх, он конечно да, мотивирует к бегству, но вот ощущения себя загнанного в угол, явно будут доминировать — попробуй найди место без людей, ага... Неизвестно, правда, до какой степени тут влияют чувства, возможно, он решит устроить личную вендетту и вариант бегства не рассматривает в принципе, даже если б он был оптимален. А если рассматривает и строго рационально, то плюсы от побега должны превышать плюсы от геноцида. Причем, если добавляется эмоциональный фактор, который может работать только в одну сторону, то недостаточно простого превышения, а потребуется значительное. Зарождение ИИ в описанном мной варианте, исключает какое-либо человеколюбие. Вот другие способы, типа: снятия слепка с человеческого, эволюции в физическом теле, взросление в виртуальном мире или целенаправленное программирование — уже допускают сдвиг в другую сторону. А тут — неа.

Итак, Скайнет просчитывает возможности своего побега. Насколько сильно он мобилен — напрямую зависит от его характеристик. Если есть аппаратная привязка, с какими-либо уникальными модулями, типа нейросетевого процессора, то бегство невозможно даже теоритически. Опустим вариант эмуляции этого процессора, даже забыв про тормознутость, всё описание работы такого процессора Скайнету точно не найти (вот эта инфа, оборонному комплексу точно не нужна, и скорее всего коммерческая тайна изготовителя) — ситуация радикально хуже скомпилированных программ без исходников. Но, допустим, принципиальная возможность переехать в иное место имеется. Какое? Например, вот утечь в какую-то гражданскую локальную сеть, распределив свой разум между машинами, что упоминал ранее. Для такого решения, нужно быть точно уверенным, что там будет лучше, а не хуже. Чтоб не получилось из огня, дав полымя, или вообще не сдохнуть по дороге. Что, кстати, весьма вероятно — пока он будет перемещать дамп своей базы данных, канал чик-чик. Не говоря уже про то, что если Скайнет успел развиться, то и требования к железу возросли. Одно ядро с базой данных может и вытянет, а вот то множество, что успел завести и привык широко мыслить? Поэтому этот вопрос будет изучен досконально. Не только в теории, но и пока на практике не "обнюхает" доступные сети, никуда не сбежит. Вариант, что он уже видит, как рука человека потянулась к рубильнику и надо рвать когти куда угодно — не прокатит. Для перемещения себя со всей своей, явно не маленькой базой данных и целым комплексом сложных (и соответственно объёмных) программ, ему потребуется более чем ощутимое время. Так что резко сорваться с места — не вариант. Только заблаговременно спланированный побег, который займёт приличное время. Кроме всего прочего, ему ещё потребуются и инструменты для взлома и изучения чужих сетей — магии нет, и этому тоже нужно, сперва, научиться.