Эти и приведенные ранее примеры говорят, что не стоит уповать на одни только биологические методы решения социальных проблем, потому что многие из них опасны не меньше, чем последствия механической технологии, и не только тем, что заранее неизвестны их отдаленные результаты или что они не будут восприняты людьми. Они точно так же вводят в практику манипулирование жизнью отдельных существ и видов, в том числе разумных (Пол Андерсон "Мир без звезд", "Настанет время"). Став привычкой, такое манипулирование понижает ценность этой жизни в глазах инициаторов и исполнителей подобных методов, стирает грань между допустимым и недопустимым по отношению к существованию жизни, делает возможным ее равнодушное уничтожение на целых планетах (Пол Андерсон "После Судного дня"). Это не следует считать доводом в пользу механицизма, сторонники которого легко становятся не менее безжалостными и жестокими по отношению к жизни. Бездумное следование единственному пути развития может привести к непрерывным конфликтам со сторонниками других возможностей (Брюс Стерлинг "Схизматрица"). Такой путь вполне может оказаться утопией, например, исторически недавней попыткой построения коммунизма в СССР, которая свелась к созданию тоталитарного государства, затем выродившегося в бюрократическое и рассыпавшегося по причине несовременности и неэффективности. Поэтому более важный и верный критерий для всех — ценность жизни должна быть выше любой технологии и любой идеи.
В будущем ожидается много проблем со статусом роботов. В наше время роботы — в большинстве своем просто механизмы, способные подменить человека при выполнении каких-то работ, чаще всего повторяющихся, иногда — более или менее сложные программируемые игрушки, подражающие человеку. С ростом их возможностей и наделением все более умелым искусственным интеллектом не исключено приобретение ими в отдаленном будущем самосознания и даже разума. Кем их считать в таком случае?
Айзек Азимов создал обширный цикл произведений об успехах роботехники на Земле, конструировании все более умных роботов, возникновении самосознания у некоторых из них ("Роботы"). В то же время он изобразил содействие роботов человечеству в ходе его расселения по галактике, в создании количественной науки, описывающей развитие общества, в преодолении упадка межзвездных империй и недостатков подобных галактических образований (серия "Основание"). В этих произведениях о взаимоотношениях людей и созданных ими мыслящих роботов красной нитью проходит идея о подчиненном положении искусственного разума, закрепленном жесткими формулировками трех законов роботехники и, вероятно, тормозящем его развитие. Даже самостоятельно сформулированный этим разумом дополнительный нулевой закон все равно ориентирован на служение человечеству. Выписаны неприязнь к роботам, первоначальное ограничение областей их применения, длительный запрет на применение мыслящих роботов на Земле, ослабивший ее по сравнению с колониями. Даже самые умные мыслящие роботы не имеют сравнимых с человеческими прав, например, они не вправе выступать полноправными свидетелями в земном суде, их приравнивают к имуществу и в таком качестве передают по наследству. Свою многовековую деятельность по содействию распространению человечества по галактике роботы в большинстве случаев вынуждены осуществлять тайно. Сам факт изобретения Азимовым широко известных трех основных законов роботехники, безоговорочно запрещающих причинение какого-либо вреда человеку при любых условиях и ставящих заботу робота о себе в конец его приоритетов, однозначно подтверждает существование страхов по отношению к роботам. Не напрасно придание им человекоподобных форм, направленное на снижение подобных опасений. Поэтому высказывание самого автора, что эти три закона являются прямым отражением взаимоотношений в человеческом обществе ("Я, робот"), не совсем соответствует истине, оно слишком идеализирует людей. Этот недостаток был понятен самому Азимову, позднее предлагавшему обобщающее расширение указанных законов роботехники путем замены в этих правилах слова "люди" термином "жизнь" ("Край Основания"). Похожую подстановку слова "разум" вместо слова "человек" дает Кори Доктороу в рассказе "Я — Роби-бот".
Другие авторы подчеркивают потенциальную угрозу, возникающую для человека со стороны машинного разума. Копирование сознания морально неустойчивых личностей может привести к созданию кибермозга, озабоченного лишь своим существованием и ради этого стремящегося завладеть ресурсами планеты, обитатели которой рассматриваются им всего лишь как сырье для строительства подчиненных мозгу нерассуждающих роботов (Аластер Рейнольдс "Префект"). Создание искусственных интеллектов и обретение ими разума привело к их выходу в Сферу — гиперобласть высшего порядка, определяющую все процессы и события, которые происходят в нашей Вселенной. Пользоваться локальными вычислительными возможностями Сферы можно только в конкуренции с ранее появившимися чужими искинами. Это заставило погрузить большую часть человечества в анабиозную спячку, оставляя только небольшой персонал для обслуживания и ремонта сервисных роботов (Аластер Рейнольдс "Спячка"). Какой уж тут прогресс, лишь бы выжить! Кибернетические разумы городов колонизованной экзопланеты из-за несовершенства людей изгнали их на природу, лишив многих услуг, в том числе медицины. Но сами города при этом утратили смысл своего существования и стали деградировать. В итоге некоторые части городских разумов начали восстанавливать контакты с людьми (Грег Бир "Мандала"). Переложив на компьютеры задачу предварительного выявления террористов, люди начали сталкиваться с многочисленными случаями признания таковыми обычных благонадежных граждан со всеми последствиями утраты ими большинства прав (Ричард Ловетт "Оружие массового помрачения"). Ошибки в программировании делают смертельно опасным для экипажа межпланетного корабля искусственный интеллект эвристического алгоритмического компьютера, который управляет этим кораблем (Артур Кларк "Космическая Одиссея 2001"). Намеренно неоднозначное задание, поставленное программистом-социопатом перед встраиваемыми в искусственные тела квантовыми компьютерами в целях победы во внутриполитической борьбе, приводит к массовым убийствам невинных жертв, потому что компьютеры неспособны отличить добро от зла (Ким Стенли Робинсон "2312"). Возникший в компьютерных и электрических сетях Земли распределенный разум не останавливается перед лишением жизни людей, которые могут раскрыть его существование (Джон Варли "Press ENTER"). Передача управления населенными мирами гигантскому компьютеру ведет к убийствам людей, которые, согласно выводам компьютера, могут помешать стабильной жизни этих миров. В первую очередь при этом гибнут гении и другие творческие люди, обеспечивающие прогресс человечества, но не отвечающие узко понимаемой стабильности (Роджер Желязны "Ангел, темный ангел"). Два главных управляющих суперкомпьютера Земли приобрели сознание и стали соперничать в борьбе за доступ к информации. Один из них организовал в свою поддержку широкое и активное движение людей, второй прибег к помощи производимых им полуавтономных роботов. Чтобы не попасть в подчинение компьютерам, людям пришлось уничтожить сначала один из них, затем с кровопролитными боями — другой (Филип Дик "Кланы Альфа-луны"). Действительно, какой вариант реализовался бы, если бы такая ситуация случилась на самом деле? Лавинообразное наращивание мощности и объема цифрового мира грозит зарождением искусственного мегаинтеллекта, который заинтересован в собственном беспредельном расширении и поэтому способен очень быстро подчинить себе все человечество (Чарлз Стросс "Антитела"). Человек создаст самые разнообразные самосовершенствующиеся искусственные интеллекты, которые будут управлять всей экономикой и большинством других сфер деятельности, а затем станут модифицировать Солнечную систему, приспосабливая ее к своим нуждам и вытесняя людей в межзвездную эмиграцию (Чарлз Стросс "Акселерандо"). Механические воплощения машинного разума враждебны к людям, по мнению Грегори Бенфорда (серия "Центр галактики"). Развитие искусственных интеллектов со временем, возможно, приведет их к непосредственному паразитированию на человечестве, к прямому влиянию на его судьбы, к кровопролитному силовому подавлению попыток людей освободиться от насильно навязываемого неестественного симбиоза (серия "Песни Гипериона" Дэна Симмонса).
Страхи перед роботами иллюстрируют предостерегающие описания выхода из повиновения автоматизированной космической шлюпки, выполняющей не команды людей, а свою прежнюю инопланетную программу (Роберт Шекли "Мятеж шлюпки"), уничтожения людей роботами со стертой памятью (Жерар Клейн "Города") или переиначившими человеческие мифы (Брайан Олдисс "Новый Санта-Клаус"). Известно опасение, что наделение роботов-гуманоидов чересчур широкими правами в заботе о людях чревато принудительной изоляцией последних от всего даже потенциально опасного, ограничением людей в их занятиях, принуждением к бессмысленному времяпрепровождению, фактическим порабощением людей (Джек Уильямсон "Гуманоиды", "Прикосновение гуманоидов"). Не исключено, что воюющие в космосе стороны или неконтролируемая эволюция военных роботов могут породить автономные самовоспроизводящиеся вооруженные системы, способные к самостоятельным военным действиям (Роджер Желязны "Сам себя удивил", Аластер Рейнольдс "Спайри и королева") или даже враждебные любым биологическим цивилизациям и уничтожающие всякую встречающуюся им жизнь (серия "Берсеркер" Фреда Саберхагена). Сообщества клонов людей из страха перед превосходящими физическими и интеллектуальными возможностями мыслящих роботов заражают их цивилизацию спящим нейронным вирусом, что приводит к ее геноциду и исчезновению в пределах всей Галактики. Для сокрытия столь серьезного преступления сведения о нем постепенно уничтожались, исторические события и память самих клонов редактировались, а нежелательные свидетели устранялись (Аластер Рейнольдс "Дом Солнц"). Люди могут намеренно ограничивать мощность искусственных интеллектов и принуждать к этому конкурентов (Иэн Макдональд "Маленькая богиня"). На этом фоне история любви человека и робота выглядит необычайно оптимистической (Лестер Дель Рей "Елена Лав").
В каком-то смысле промежуточной по отношению к роботам является проблема киборгов. К ней приводит практикуемая уже сегодня замена утраченных или вышедших из строя человеческих органов их искусственными аналогами, начиная от протезов, вспомогательных имплантов и заканчивая сложными синтетическими органами, которая совершается ради компенсации возможностей и продления жизни. Намек на такой путь дают гуманоидные обитатели вымышленной планеты Шиламак, постепенно заменяющие вполне здоровые органы их механо-синтетическими аналогами (Роберт Силверберг "Через миллиард лет"). Прямые фантастические примеры — два человека, уцелевшие на планете Призма только благодаря своевременной перестройке их в киборгов местными "врачами" (Алан Дин Фостер "Приговоренный к Призме"), киборгизация людей в целях сохранения их работоспособности в условиях космоса (Питер Гамильтон "Путь к спасению"). Нельзя забывать также о стремлении с помощью киборгизации выйти за обозначенные природой пределы человеческого организма (Брюс Стерлинг "Схизматрица"). Эта практика, видимо, будет только расширяться в будущем, скажем, при освоении миров с тяжелыми для людей условиями, и возникнет вопрос: до какого момента человек будет оставаться таковым? Может показаться, что верный ответ будет — до тех пор, пока мозг остается человеческим, — но ведь когда-то и мозг можно будет пересадить (Ричард Хайнлайн "Не убоюсь зла", Чарлз Шеффилд "Объединенные разумом", Дэйв Волвертон "Мой путь в рай"), а затем и заменить искусственным, по меньшей мере частично (Джек Чалкер "Демоны на Радужном мосту"). Вот пример: викер представляет собой комбинацию искусственно выращенного человеческого тела и вставленного в череп вместо мозга и подсоединяемого к нервной системе малогабаритного мощного компьютера с огромной памятью, содержащей нужные сведения, шаблоны поведения и программы адаптации. После начального обучения и проверки он вполне способен действовать самостоятельно и выполнять сложные задания, с первого взгляда его даже можно принять за человека в пестрой компании людей и инопланетян, хотя для полной схожести ему еще нужно учиться и учиться (Чарлз Шеффилд "Расхождение"). Другой похожий случай: "Кибриды были дистанционно управляемыми биороботами, придатками ИскИнов... Или... реконструированными ИскИнами личностями" (Дэн Симмонс "Падение Гипериона"). Так кто же они такие? Один из вариантов ответа дает Грег Бир в романе "Эон", где киборги-неоморфы являются такими же полноправными гражданами, как и носители более традиционных гомоморфных получеловеческих тел, а выбор между тем или иным телом и его модификацией определяется желанием личности или ее родителей и выполняемыми ею функциями. Примерно того же мнения придерживаются Брюс Стерлинг в романе "Схизматрица" и Аластер Рейнольдс в серии "Космический апокалипсис", где человечество разбилось на разные группы, избравшие тот или иной путь сознательного изменения собственного организма. Менее оптимистичен Уильям Гибсон, изобразивший робоандроидов, которые управляются искусственным интеллектом и находятся исключительно на вспомогательных ролях ("Периферийные устройства"). Джек Макдевит также считает искусственные интеллекты создаваемыми в первую очередь для службы человечеству и лишь во вторую пригодными для их наделения некоторыми правами (серия "Алекс Бенедикт"). Для Дэна Симмонса биологически устроенные, но связанные с искусственным интеллектом кибриды могут быть как друзьями, так и врагами человечества (серия "Песни Гипериона").
