Чаганов: После войны

— ... Формировать, Оля, — не значит определять смысл. Да, система будет очерчивать поле возможного. Но кто сказал, что она имеет право делать это тайно, не сообщая о своих действиях? Если машина снимает с человека необходимость тупой работы по координации — то это не поражение, а освобождение.

— Сегодня, Лёша, машина снимает с человека тяжёлую работу, завтра — тяжёлую ответственность, послезавтра — тяжёлый выбор. И в какой-то момент оказывается, что за человеком остаётся только одно право — одобрять подготовленное для него решение.

— ... Э-э нет, человеческое целеполагание заложено в саму структуру ОГАС-2.0. Но ты ведь боишься другого — ты боишься, что человек сам с радостью переложит на машину труд быть человеком...

— Вполне вероятный сценарий, кстати,— кивает Оля.

— ... В таком случае это ты не веришь в способность человека развиваться, а не я. Ты ведь заранее предполагаешь, что, избавившись от необходимости вручную удерживать хозяйственную машинерию, человек немедленно разленится и с радостью отдаст машине не только расчёт, но и цель. А я исхожу из прямо противоположного, что человек способен подняться выше уровня плохого диспетчера и бухгалтера истории. Мой человек не будет больше тратить свои силы на сведение бесконечных балансов, маршрутов, нормативов и дефицитов не потому, что это не важно, а потому, что это ниже его способностей. Он должен наконец заняться тем, до чего у него не всегда доходили руки — самим собой, как носителем смысла, границами допустимого, образом будущего, воспитанием нового человека, созданием культуры и того же внешнего разума, которому однажды можно будет доверить не снабжение сапогами и цементом, а задачу выхода сознательной жизни на просторы вселенной. А твой человек навсегда останется прикован к решению насущных задач. Он так и будет считать вагоны, распределять жильё, латать дефициты и гордиться тем, что лично крутит все ручки. Вот какую судьбу ты готовишь человечеству, Оля...

— Ты ошибаешься в том, Лёша, что цель живёт отдельно от управления. Кто не несёт ответственность за осуществление цели, тот начинает ставить бессмысленные цели. Машина избавит человека не только от рутины, но и от чувства меры. А человек без чувства меры не может быть носителем смысла.

— ... Цель зависит не от того, кто дёргает за рычаги, а от того, на каком уровне развития находится само общество. Пока оно занято борьбой с нехваткой всего, его цели неизбежно низки. Ты называешь это чувством меры, а я — пленом необходимости. ОГАС-2.0 нужна затем, чтобы человек наконец увидел границы системы как целого, а не как слепой случайно натыкался на преграды или падал в ямы, ходя по кругу из дефицита, аврала и ведомственной лжи...

— Что-то мы и правда по кругу ходим.— Оля тяжело вздыхает.— Да не против я твоего ОГАСа, особенно если она без нейросетей. Просто коммунизм и человека в нём я себе по-другому представляю.

— ... Просто такие люди как ты и должны контролировать нейросети,— тоже перевожу дух я,— чтобы не допускать подмены машиной человеческих целей бесчеловечными.

Конец шестой книги.