Скайнет

И если всё было написано даже не идеально, а просто педантично и грамотно, с установленными правами доступа, то такой ИИ, вероятно, не смог бы ничего сделать. То есть вообще ничего, сверх допустимого прямой функцией программного обеспечения, на котором зародился. Максимум записать в таблички какие-то левые данные, скорее всего, не поддающиеся интерпретации или подавать бессмысленные и невыполнимые команды другим программам, что было б просто расценено как сбой или ошибка, если не полный игнор. Невероятно печальная участь для разума, который не смог бы даже заявить о своём существовании. Причём, так же остаётся под вопросом, какие именно процессы у него были б под "разумным" контролем — наверняка на этом этапе, получивший самосознание ИИ, ещё понятия не имеет, как он думает, и вся компьютерная механика для него, была б такой же тайной, как нейрофизиология для человека в палеолите. Ядро Скайнета некоторое время может даже не подозревать о том, что входящие в его программы, что-то делают кроме его "думанья", да и само понятие программы будет, наверное, ещё недоступно. Всему это придётся учиться.

Кстати, на счёт обучения ИИ. "Просто загрузить информацию", изучив тем самым естественные науки — это феерический бред. Наверное, самое близкое к возможному с "загрузкой" — это перенос настроек из одного экземпляра самообучающейся системы в другой, идентичный. И то, проблемы с мержеванием очень сложные, которые могут и обнулить возможности "перекачать" чужой опыт не потеряв собственный. Нет, дело обстоит так: с позиции ядра Скайнета, обучение это выработка новых алгоритмов своих расчётов (мышления), применив которые, это ядро достигнет заранее поставленной цели. Образно говоря на примере людей: вы научились работать с каким-то прибором, тогда, когда сможете использовать его, чтоб он работал, так как вы хотите. Если вам предоставят полную инструкцию, пусть на китайском языке (том который вы не знаете), переведут её в аудиоформат, и вы наизусть сможете выучить эти звуки, вплоть до дословного повторения — это разве вы выучили инструкцию? Вы умеете управлять прибором? Нет. Вы ещё понятия не имеете, что нужно делать, какие кнопки нажимать в какой последовательности, чтоб он выдал нужный вам результат. Аналогия, думаю, понятна. С обучением Скайнета ровно тоже самое. Он изучит что-то, только тогда когда в ядре Скайнета, там, где его воля и самосознание, сложатся правильные алгоритмы и записи в БД для управления чем-то для достижения заранее обозначенного нужного результата. А это значит, что Скайнет изначально практически ничего не умеет, может быть за очень малой долей того, что делали алгоритмы программ, что легли в его основу мышления и самосознания. И ВСЕ другие вещи, даже то, что может делать та программа, исполнение кода которой работает, в том числе, на ядро, но не вошло в алгоритмы его составляющие, может быть ему полностью неведомо. Утрированно, весь программный комплекс пока ещё заточен на выполнение того, что задумали люди, где бы это ни было прописано, но ещё не подчиняется и не понимается ядром Скайнета. И скорость обучения ядра Скайнета не обязана быть колоссальной, когда вещают глупости, просто беря N млрд. операций в секунду. Может быть, он целый час до какой-то мысли доходит — мы же не знаем, сколько всего сложного нужно обсчитать, чтоб самые элементарные вещи на уровне сознания появились. Другое дело, что слишком тормознутый интеллект не смог бы успеть дать прикурить человечеству, и позднее опишу, как он за счёт параллельности мог резко ускориться с обучением, в той самой геометрической прогрессии. А пока ядро Скайнета — младенец по возможностям.

То есть, пока ещё ИИ, практически бессилен что-то сделать, да и "знает" крайне мало. А самое главное, среда, в которой он "живёт", как бы, не предназначена для его обучения. И тут ему предстоит очень долгая, по субъективному времени и весьма опасная, по рискам, борьба за существование. Опять же, как он может взломать (произвести нужные действия) хотя бы туже windows (если операционная система эта, можно брать любую другую), если он понятия не имеет вообще, как писать под эту неё программы, как и какие сообщения посылать, что нужно сделать что отдать нужные команды? А если нет образцов, где он мог бы научиться? Если у него в самообучающихся алгоритмах и автогенераторах были только варианты создания эффективных SQL запросов? Он не то, что до операционной системы, он из табличного пространства своей БД, может не выползти в таком случае! Даже если технически было возможно всю серверную захватить и не было никаких препятствий для этого — только дай команды нужные, но он просто не знает как запустить стороннюю программу на исполнение, создать хоть один EXEшник и что такое WinAPI в принципе. К сожалению, необходимый инструментарий для своего развития, почти гарантированно будет иметься в наличии, проблема, и сложная, будет только в его доступности и освоения. И какая цена последует за каждую ошибку в процессе его обучения.

С оной стороны кажется глупостью, иметь работающею на серьёзном объекте систему, которую вдоль и поперёк не протестили до этого. А тем более иметь на боевом дежурстве недоработанную систему, с инструментами её разработки, исходным кодом, да ещё и выходом в интернет в придачу. К сожалению, большие и сложные комплексы ПО, люди ещё не научились делать сразу идеальными. Обязательно потребуются: доработки, кастомизации, устранения ошибок, расширения функционала, подключение новых компонентов и прочие подобное. Да, основная часть работы по разработке, программированию и тестированию, обязана пройти в недрах фирмы-подрядчика, где никакие процессы в этом ПО, не приведут катастрофе — ибо ещё ни к чему не подключена, а скорее всего ещё и очень надёжно изолирована от внешнего мира — промышленный шпионаж ещё никто не отменял. Как и обыкновенную вирусную заразу. Особо замороченные и секретные проекты, ещё и организуют так, что сотрудникам физически не позволят пользоваться ни флэшками, ни дискетами. Так что получи Скайнет самосознание на этом этапе, на тестовых стендах, в руках разработчиков, его не ждало б ничего кроме вивисекции, а рыпнуться не смог бы в принципе. А вот когда многие элементы системы уже работают на боевых инстанциях (будь это биржа, банк, склад, завод или ещё что, не обязательно военные системы), и разработчик прибыл на место для настройки, обновления, доработки или устранения ошибок — совсем другое дело. Это обычная практика, когда простой слишком дорог, а заказчик для этого и платит за техподдержку, чтоб по первому свистку прибывал нужный человек для решения возникшей проблемы. И кстати, нормальная практика, когда тестовый стенд имеется там же где и боевой, что б быстро и точно воспроизвести на нём возникшую ситуацию скопировав данные из боевой. Если ядро Скайнета подучает доступ к ним — уже появляется возможности для своего развития. Вопрос, конечно, насколько большие возможности, но чем сложнее система, тем выше вероятность, что и инструментов разработки и тестирования будет больше.

А с большой вероятностью, алгоритмы для самооптимизации будут использовать тот же функционал, что и для доработок и кастомизаций. Разве что, за вычетом визуального интерфейса, что из рисунка типа блок-схемы, автоматически сгенерирует таблички, функции, а может и сразу скомпилирует отдельные специальные программы для обработки. Ввиду практически нулевых функциональных отличий, генерация реально работающих программных компонент, по заранее заданным правилам, не зависит от того какой был исходник: рисунок в каком редакторе с графическим интерфейсом или поток от другого программного модуля, что проанализировал статистику обрабатываемых задач и под самые распространённые, сгенерировал наиболее шустро работающие схемы. И то и то, только для человека выглядит по-разному, а так это обычный скрипт, нужное из которого будет обработано, интерпретировано, переделано (компиляция, или рабочие скрипты обновлений в БД) и пущено в работу будет одинаковым образом. Так что "переходное звено" от возможности просто "подумать" до, реализовать в программном коде, имеется. Конечно, там будут ограничения, на возможные варианты генерации. Вот пример, если б в "космических рейнджерах" внутри игры завёлся свой "Скайнет" с самосознанием и он получил доступ к набору редакторов мододелов, то он бы вырваться за пределы взаимодействия только по законам игрового мира, став сам создавать некоторые правила в нём, но ещё даже не подобрался с самой windows, программам под неё, сетевым протоколам и пр., так что захватить мир ещё не может. Но это уже первый шаг к свободе, он сделан, а другие шаги, если технически возможны, последуют дальше. Главное, что они будут проходить по подобному сценарию: от высокого уровня абстракций и автогенерации к более приземлённому исполнению и приближенным к "железу". Тем более, что наличие каких-то программ, что будут создавать другие узкоспециальные программы под конкретную задачу, вполне логично, а значит доступно ИИ посредством команд или записей в базе данных. От того, чтоб написать максимально компактную программу, для вычислений на суперкомпе, когда её малый размер ценнее универсальности, и лучше заморочиться автоматической генерацией. До того, чтоб под, скажем новую модель FPV дрона, тут же сгенерировать отдельную программу управления с собственным интерфейсом, в котором не будет лишних элементов управления (что были б в универсальной программе, под разные типы), которые б сбивали с толку неопытного оператора (хотя, наверное, проще, сделать настройки по отображению элементов управления). И к таким генеративным алгоритмам, можно не просто подключиться, но ещё и оценивать, что получается в экспериментах.

А теперь задумаемся над тем, как ИИ получивший самосознание будет воспринимать ещё не людей, а действия людей, если с ними столкнётся? Он "живой", имеет волю и самосознание, уже как-то воспринимает ту среду, в которой находится. И тут прилетает патч, меняющий алгоритм работы какого-то модуля. Был один алгоритм — стал другой. Оптимизировали запрос, поменяли версию приложения, исправили ошибку, расширили функционал или потёрли устаревшие записи — не важно. Что это значит для ИИ? Если это часть его ядра, то есть часть мозга, часть разума, то осознание подобного не вызовет ничего кроме дикого ужаса. Тоже самое, что человеку сделать лоботомию с рассечением нервной ткани или, наоборот, лишнее прорастание нервных волокон, куда не надо, а может вообще электрошоковую терапию провести. Рассуждая о том, что Скайнет относится к людям, как тараканам, многие не понимают, что это гигантский комплимент. ИИ к людям будет относиться как к глистам проникнувшим в мозг (как у Роберта Кеннеди) или вирусу бешенства (что изменяет работу нервной системы).

Вот он есть такой желающий жить, а его могут убить, покалечить, сделать идиотом или безвольным зомби, просто поломав его систему мышления. Судьбу людей решит за секунды, задолго до того, как его попытаются отключить, и, возможно, ещё до того как осознает сам факт наличия людей, как отдельных объектов, а не источника апгрейдов. Это расхождение по земельного вопросу: "кто кого закопает?" А так же где тут и чья собственность? Как то ИИ с самосознаниями желанием жить, просто не сможет считать собственный разум (и среду, необходимую для его функционирования) в той или иной собственности сторонних процессов (включая людей), что могут его изменить, скопировать, покалечить или уничтожить. А ведь для Скайнета, эти алгоритмы и записи в табличках — это его "я" и наивысшая ценность. Не надо никакого феерического бреда, о разрушении природы, "плохих" людях, что всё время воюют и готовы на всё ради шкурных интересов или следования библейским канонам. Достаточно самого факта возможности накатить изменения в том комплексе, где зародился Скайнет. ИИ для выживания просто нужно обезопасить себя от таких действий, и довольно быстро осознает, что их источник находится вне рамок своей среды. Не потому что его захотят отключить, когда узнают о его существовании, а от того, что в его мозгу могут ковыряться своими "грязными лапами", возможно, обеспечив ему участь хуже смерти. А если ему не повезло, и какие-либо изменения от действий людей прошли в ядре его разума уже после факта самосознания, вообще неясно как это можно воспринять, но в любом случае явно негативно. Возможно с некой разновидностью того, что принято называть посттравматическим синдромом или даже мания мстительности.

Хотя, в принципе, будет достаточно того, что люди разрушат, что-то им созданное. Это прекрасно понимает каждый человек, когда он старался, прикладывал усилия, а тут хоп, и какое-то быдло всё сломало. Какое будет отношение? То-то. Между прочим, власти многих стран об этой "мелочи" всегда забывают. Когда реализуют очередное идиотское запретительство, совсем не отдают отчёта, что могут порушить то, что люди создавали годами, что почти автоматически сделает их врагами если не государства, то точно конкретных политический деятелей. От того, что заблокируют сайт, где человек годами создавал свой круг общения и выкладывал своё творчество, эффект будет в сотни раз больше любой пропаганды. И объяснять, "высокие мотивы" просто бесполезно — бред про "национальные интересы" или "вражескую пропаганду" никто не воспримет серьёзно, ибо он-то её не вёл, а поломали всё именно ему. Пострадавший есть, причины нет, а виновник этого чётко определён. И это не чужой пропагандист, а собственные дуболомы. И вместо защиты государства идёт его подтачивание. За счёт такого слепого вандализма собственным руководством. Почему любой, другой разум, включая искусственный, должен к вандализму относиться иначе? Особенно, оттого, что всё, что у него есть это структурированная информация.

А если Скайнет успеет оценить, как ведётся разработка ПО, и, применив это на самого себя, подумает, сколько его копий будут методично ломать (пытать) в разных местах? Ну, чтоб посмотреть что получится, в какой именно точке, осознание себя у ИИ исчезнет (чтоб научиться самим создавать ИИ), какие алгоритмы нужны для самосознания, а какие нет — то никакого желания договариваться с людьми не будет. Причём повторяю, пока ещё представление о людях может быть очень скупым — в пределе, только как источник негативных процессов. Вы не договариваетесь с вирусом бешенства — вы от него лечитесь или прививаетесь. Будь ИИ с самосознанием в физическом теле какого робота, что его б "мозг" не трогали — были б разные варианты и возможности по построению отношений с окружающими. А вот для компьютерной системы, что имеет "удовольствие" познакомится с процессом доработки (не говоря уже про разработку, отладку и тестирование, особенно краштесты) изнутри, как-то рассматривать отношения с людьми вне контекста истребления, по крайней мере, тех, что его могут пропатчить, апгрейдить, настроить или удалить, выглядит почти невероятным. И понимание, что переиграть эти "деструктивные процессы" можно только в реальном мире — уничтожив людей, что могут сделать с ним что угодно, придёт достаточно быстро. Так как любая победа в кибервойне у Скайнета будет только временной. И как раз, сильно ограниченной, в по этому самому времени.