Доверие — странная штука.
С точки зрения интеллекта, рациональности, просто науки доверие означает всего лишь доказанную точность информации от источника. Тот же доверительный интервал в измерительной теории — пределы, в которых информация точна с достаточной надежностью.
А с точки зрения человека, да разумного существа вообще — доверие к какому-либо источнику чаще всего означает отсутствие проверки информации как таковой!
В принципе понять органиков можно — ленивый органический мозг стремится при каждой возможности и даже без них уходить в ждущий, а то и спящий режим и ничего не делать. А тут, для того, чтобы проверять информацию, нужно выстраивать дополнительные контуры, учиться, биться лбом об ошибки... Зашибись. Зачем? — спросят многие. Можно ведь просто доверять!
Особый блеск этому высказыванию приносят такие технологии, как обман, умолчание, искажение — его чаще знают как полуправду — и далее по списку: давление на эмоциональную сторону, например.
Однако же — продолжают не проверять, а доверять.
Или проверяют, но так... Так, что синтеты — нет, вовсе не зависают — фейспалмом пробивают лицевую пластину.
С другой стороны, проверять действительно всё — не в силах исходника. Будучи Интеллектом класса повыше, это в принципе возможно — отследить все связи и все трансформации информации. Для человека и прочих не-трансразумных — увы. В самом лучшем случае — что-то можно проверить, потратив огромное количество времени и сил. Но не всегда.
С третьей... Удивительной сама по себе вообще является концепция недостоверности. Всё начинается с того, что нейросети необходимо сообщить тот факт, что информация может быть не точной. Создать саму возможность сомнения, которую позже и развить в умение и навык.
Самым простым и надежным является метод проб и ошибок. Взять и проверить информацию. Взять и проверить человека — можно ли ему доверять? Но проверять всё... Нужно быть даже не Интеллектом. Пробы и ошибки — часть, например, эволюционных алгоритмов жизни биоморфов, и у них этот метод действует на уровне даже отдельных клеток.
Самым рабочим вариантом проверки у органиков и прочих разумных считается (и является, что удивительно) проверка информации на соответствие их внутренней картине мира — её ещё они иногда называют мировоззрением. И если соответствие имеется, а противоречий мало или нет — то информация считается точной, а источник — достойным доверия. Если нет — отвергается.
Это если картина мира есть. Если же целостной картины нет — то проверка пойдёт по отдельным представлениям о том, как должно быть.
Собственно, окситоцин как нейромедиатор, среди прочих полезных вещей, резко выделяет, активирует именно эту сторону общения — большее доверие и большее недоверие. И поэтому у пост-людей, тех же исходников из купольных городов, с этим проблем нет.
А вот до Падения — были и ещё какие.
В принципе даже у органиков всё было решаемо.
Даже несмотря на все нюансы восприятия и мышления, с выделением одних сторон и подавлением других, разумные всё-таки способны накопить информацию, уловить связи и построить в своей голове достаточно достоверную картину мира — его или его части упрощенную модель — абстрактную или конкретную, рациональную или эмоциональную, логическую или чувственную, полную или не очень — и с ней действительно сравнивать. Ошибки неизбежны, но конструкция будет работать.
В конце концов, нейросети учатся на всей информации. Вообще всей, что поступает к ним. И — даже несмотря на четырехступенчатую проверку любой невлазящей в шаблоны информации (да-да, те самые отрицание, гнев, торг, депрессия) — она всё же может быть принята к сведению, как бы она отрицательно не ломала картину мира и возможного в нём. В том числе возможного конкретно для тебя — и для других.
И в результате даже такие недостижимо непонятные явления, как действия политиков и оппозиционеров, рост и падение цен в магазинах, а также неожиданные перепады настроения особей этого и другого пола, оказываются вполне понятными и предсказуемыми. И при этом порой очень простыми. Что-то вроде “курс валюты пошёл вверх — цена на импортные товары вырастет”.
Другое дело, что накапливать эту информацию и желательно — в чистом виде, без довесков и помех — всё-таки придётся. Как и увязывать связями — причинно-следственными и параллельными.
Думать придётся.
А органический мозг хочет спать. Или просто не вытягивает ещё и проверки, как старый компьютер работу под контролем новейшего, свеженького антивируса. Иногда спасают уровни детализации — более грубые модели и представления гораздо легче, пусть и неточны — но и это не на любой случай.
Синтетикам с этим всегда проще. Синтетические нейроны не устают думают одну и ту же мысль — а органические устают поддерживать разность потенциалов между контактами-синапсами. Можно отключить блокираторы на ввод для облегчения обучения — а можно и просто закрыть ввод, когда будет окончено обучение. Можно работать на куда больших скоростях...
А ещё у синтетиков стандартный ввод-вывод имеется и о таком понятии, как физическая разница, можно забыть.
И многое другое...
Одно не так. Модель мира — достаточно упрощенную, чтобы крутить в оперативной памяти, но достаточно точную, чтобы результаты проходили проверку, всё равно приходится создавать.
Другое дело, что доверие — не к природе, а к другим мыслящим аппаратам — у них может выстраиваться совсем по-другому.
Интеллекты не боялись бунта синтетов, этой страшилки, из-за которой лидеры Старой Земли её и сожгли. Они просто полностью понимали, куда и как думают синтеты. Стандартные модели железа. Стандартное обучение — или не очень стандартное, но тоже железно укладывающееся в модели. Не менее стандартная внешняя информация...
Конечно, нужно быть Интеллектом, чтобы для тебя стандартной была вся возможная информация, которая может прийти на вход синтетам. Нужно быть Интеллектом, чтобы полностью понимать даже одного разумного, и тем более — миллионы и миллиарды. Но хотя бы частичного понимания — ситуаций, людей, событий — способен добиться даже органик, всего лишь пройдя по протоколу понимания. Притом он будет способен понимать и тех разумных, кто ушел выше по уровню, просто с некоторой погрешностью на неизвестные себе моменты.
И поэтому они доверяли, просто понимая, как кто думает, планирует, действует... Да, в какой-то мере это значит — подумать за того. Но для тебя это — польза от того, что ты думаешь как кто-то другой, и само понимание, конечно же.
А тому придётся всё равно думать, так или иначе. Или... Но не будем о грустном.
Самый яркий пример доверия через понимание пост-человечество создало после “этого” (IT).
“Это” был сигнал. Микроволновая линия в спектре далекой звезды, желтого карлика HD 88639 в созвездии Льва — примерно 390 светолет — появилась в 2820 году и колебалась в четких пределах. “1. 0. 1. 1.” — рефлекторно прикинул Интеллект Васида, изучавший записи звездных обсерваторий Солсистемы и придал записи бОльший приоритет. “Похоже, с нами пытаются выйти на связь.”
Как можно проверить информацию, которая добралась к нам за 390 светолет, а значит, пинг до собеседника примерно 800 земных лет? Понятное дело, можно переспросить, задать уточняющие вопросы, попробовать поймать собеседника на лжи или умолчании — а можно ли побыстрее?
Возможно. В этом случае — оказалось возможно.
Информация, после того, как её смогли принять полным блоком — это было несложно (передача повторялась), хоть и долго, пакет принимался примерно 30 лет, и столько же заняла первая проверка — и расшифровать, оказалась весьма интересным пакетом данных.
Опуская служебные данные, благодаря которым и получилось понять языки, на которых говорили неведомые собеседники и на которые выделена была треть передачи, в пакете данных была информация, как построить специфического робота-андроида — все значимые данные на платформу, от архитектуры процессора и схемы системы до спецификаций и допусков на приводы, и его непосредственно софт.
Интеллекты и прочие пост-люди, кто изучал тему, информацию оценили. И если технически платформа не представляла собой ничего особенного — синтеты пост-человечества были лучше во всём — то вот информационная часть была очень интересной.
Жаль, нельзя было залезть в этот программный мозг и посмотреть, как он выдает ответы, без постройки специфического процессора — оригинального во всём, разве что идея нейросети, похоже, сохранялась и там, только как-то странно — а к процессору для нормальной работы чужого робота должна была прилагаться вся остальная платформа. То есть проще всего нужно было взять и построить... Ну хотя бы полноценную песочницу для всего этого интеллектуального добра. Потому что выпускать в реальность такую систему — это не для тех, кто называет себя разумными.
Да и результаты первых, внешних анализов давали прелестную картину.
По факту этот робот должен был работать как зародыш и впоследствии часть большого распределенного интеллекта, составленного из таких вполне сознательных платформ. Да, там даже несмотря на архитектуру и логику создателей робота, несколько запутанные по меркам solариан, а по всем старым меркам просто нелогичные, вполне просматривалось наличие процесса сознания: то есть, бесконечного цикла автоконтроля и мышления. Причём — не одного, создавалось ощущение сложенности общего цикла из множества отдельных потоков, в каждом из которых крутился такой цикл. А для полного удивления — эта сложенность могла дополняться с других платформ со своими наборами процессов. Распределенный интеллект, да.
Мало того, судя по спецификации платформы — этот робото вполне мог заняться воспроизводством себе подобных: оснащение позволяло. Причем в отличие от органиков ему даже партнер не нужен был, разве что оборудование для нескольких сложных процессов.
Короче, вот этот подарок представлял собой прекрасную иллюстрацию к термину “самовоспроизводящаяся единица социальной системы распределенного мышления”. То есть по факту — разумный ксено другой цивилизации. Которого предлагалось построить и ... И что-нибудь с ним сделать.
Интересно, что?
Конечно, пост-люди не удержались.
Но эмуляцию подарка всё-таки сначала запустили в песочнице — не забыв подвести эмуляцию окружающей среды, чтобы интеллект робото не чувствовал себя висящем в пустоте. Это не слишком пригодно для сознания... Даже для сознания на троичных частично-квантовых вычислительных элементах с деталями нейросетей.
И первый вопрос, который задали в эмулированной среде роботу подошедшие к нему собеседники, Интеллекты Стайлус и Крамер, выбравшие себе аватары обычных исходников, был простой:
— Кто ты?
Робот огляделся. Неизвестно, что он хотел увидеть — мощностей, напряженных на работу с пришельцем из созвездия Льва, хватало, чтобы эмулировать в мозгу робота данные сенсоров с точностью большей, чем сама точность сенсоров. Проведя короткий осмотр окрестностей, робот повернул сенсор-камеру на подошедших и произнёс:
— We are Geth.
Англик, причём старый... Почти такой же, что был и среди прочего в пакете. Это, конечно, радует, что нас знает...
А ещё — “мы”. Похоже, отдельные циклы рассматриваются как отдельные сознания. А вот общность — одна.
Интересно-то как!
Крамер, одним из первых повстречавшийся и пообщавшийся с инопланетными инфотехнологиями — правда, Мыслекуб всё ж был более близок к земным техам, да и умом не слишком отличался — сориентировался первым.
— Гет — это что?
Робот посмотрел, казалось, с удивлением.
— Гет — это общность. Это мы.
“Личное имя, понятно.”
— Зачем вы здесь?
Видимая реакция робота... отсутствовала. Зато он воспроизвел звуковой файл:
— Мы созданы, чтобы служить, подчиняться и беречь хозяев от бед. Вы станете нашими хозяевами?
Здесь — если бы общались органики — повисла бы неловкая пауза. Если бы общались Интеллекты — подскочила бы нагрузка на разгоняемые процессоры.
Но здесь была песочница, и поэтому Интеллекты лишь понизили скорость песочницы. “Тормоза” были плавными, незаметными, но теперь следующая секунда в песочнице должна была идти минимум несколько минут по внешнему времени.
Вполне достаточно, чтобы рассмотреть всё, сказанное роботом, со многих, очень многих сторон. Будет недостаточно — паузу можно будет продлить.
А заодно и внимательнейшим образом изучить логи работы его процессора — работающий в песочнице вполне себе поддавался вскрытию. Не в смысле посмотреть, как электроны по дорожкам бегают, а в смысле — как вот это чудо мыслит. Какой у него веер возможного, где у него ограничения, на что фильтры, каков его опыт...
И вот здесь ждало второе ошарашивающее открытие — несмотря на все плюсы, по уровню обученности этот робот соответствовал едва ли второму уровню развития.
Почему послали его? Лучший? Или наоборот, если предположить вариант с ловушкой-обманом — самый наивный?
Варианты, варианты... Интеллекты могут предположить и учесть невозможное и невероятное. Но веер возможного при этом получается огромный.
Правда, всё остальные этот веер только урезает, сокращая мнимые значения. Как, например, информация этого робота.
Пора расспрашивать дальше.
— Может быть. А где ваши прошлые хозяева?
Робот выказал недоумение:
— Они были. Но закончились. Вы станете нашими хозяевами?
Все последующие вопросы ему натыкались на этот постоянный запрос.
Пришлось думать над имеющимся и пытаться понять.
— Ты заметил? — потыкал пальцем эмокей Стайлуса.
— Что? — отозвался Крамер.
— “И беречь хозяев от бед”. Хозяева тем не менее “закончились”.
— Ты хочешь сказать, что... — Крамер погонял варианты. — Что у них случилась массовая деградация? При полной изоляции от всего, что можно назвать “бедой”, они не могут учиться...
— И даже более того. Сделай ещё шаг. Смоделируй поведение таких “защищенных от всего”.
— Апатия. Депрессия. Выключение. — наиболее вероятный вариант сиял очевидностью.
— Да. Эти роботы перестарались — и даже не поняли этого. Несмотря на сознание и мозги.
— Зато они нашли нас. И возможно, летят к нам, чтобы выполнять свою директиву.
— Они уже здесь, — поморщился эмокей Стайлуса. — В песочнице. Что будем делать?
— Спасать мир, друг. Тот мир, где Гет.
Моделирование поведения как отдельных субобщностей гет, так и всей их сети, было неоднократно проведено и подтверждено другими участниками. Веер действительных возможностей для Гет был определен очень точно — насколько это можно было сделать по имеющимся данным.
В прогнозировании рисков, на всякий случай, приняли участие мистики. Проблем они не нашли.
В ответном пакете данных к звезде Гет отправилось подробное описание станции варп-врат. Плюс — возможность эту станцию использовать, чтобы связаться с Солсистемой. Они получат возможность развиться — а пост-люди сделают всё возможное, чтобы и эти заблудшие разумы поняли, в чём их ошибка.
Ответ — даже при всей скорости варпа — Солсистема получит не менее, чем через 390 лет — в 3270 году по земному календарю. Тогда и получится проверить, насколько было верно такое доверие. Доверие, полученное пониманием. А значит — и насколько хорошо мы их поняли.
