Постсингулярная эпоха

Николай Башилов

Введение

Вычислительная мощность человеческого мозга оценивается учеными в широком диапа-зоне между 1016 и 1020 флопс , или 10 петафлопс ― 100 эксафлопс . Большинство сходятся на среднем значении 1018 флопс, т.е. один эксафлопс. Применение этого параметра для оценки мощности человеческого мозга правомерно, поскольку достоверно установлено, что человеческий мозг также является сверхсложным компьютером, хотя и биологическо-го типа. Столь большие разбросы в оценке мощности мозга связаны со все еще недоста-точным объемом наших знаний о принципах его работы. Например, недавно было уста-новлено, что нервные отростки дендриты также участвуют в процессе обработки сигна-лов, хотя раньше считались чем-то вроде пассивной электропроводки.

Следует отметить, что компьютер биологического типа ― наш мозг ― потребляет очень мало энергии, в то время как для обеспечения энергией суперкомпьютера требуется целая электростанция.

Далеко не все мощности человеческого мозга используются именно на мыслительную деятельность. Значительная часть идет на функцию управления телом, функцию распо-знавания образов, функцию продолжения рода и прочее. Назвать точные цифры сложно, но известно, что, например, в шахматы компьютер уверенно обыгрывает человека, имея в своем распоряжении 1013 флопс вычислительной мощности, а в игру GO выиграл у чем-пиона мира при мощности 1015 флопс.

Производительность суперкомпьютеров

Название год флопс

Флопс 1941 100

килофлопс 1949 103

мегафлопс 1964 106

гигафлопс 1987 109

терафлопс 1997 1012

петафлопс 2008 1015

2016 1017

Эксафлопс 2020 1018

В настоящий момент пальма первенства по созданию самых мощных суперкомпьютеров прочно перешла от США к Китаю. В этом, несомненно, сказываются преимущества пла-новой экономики. В 2016 году вступил в строй самый мощный на сегодняшний день в мире китайский суперкомпьютер Sunway TaihuLight, имеющий вычислительную мощность 93 петафлопса. К 2020 году китайские ученые планируют ввести в строй суперкомпьютер с вычислительной мощностью уже в один эксафлопс (тысяча петафлопс, 1018 флопс). Предпринимаемые Китаем усилия свидетельствуют о том, что там хорошо осознают неизбежность появления ИИ и роль, которую он будет играть в дальнейшем развитии нашей цивилизации.

Таким образом, можно констатировать, что нижняя планка оцениваемой мощности чело-веческого мозга (1016 флопс) уверенно преодолена уже на порядок и идет активное освое-ние все новых и новых вершин в этой сфере. Каких-либо принципиальных трудностей здесь не предвидится. Параллельно и полным ходом идет и разработка необходимого соф-та. Все это означает, что появление искусственного интеллекта (ИИ) переходит из области предсказаний футурологов в реальную инженерную задачу завтрашнего дня. Многие ученые сходятся во мнении, что ИИ появится уже к концу следующего десятилетия.

Появление второго носителя разума на планете приведет к беспрецедентным изменениям в развитии человеческой цивилизации. Потому, в первую очередь, что ИИ в перспективе будет значительно 'умнее' человека. Дело в том, что 'разумность' напрямую зависит от мощности 'думающей' системы, будь то мозг или компьютер.

Как нельзя из набора детских кубиков построить настоящий дом из-за недостаточности строительного материала, так нельзя на основе маломощного 'железа' создать полноцен-ный аналог человеческого мозга. Это становится возможным лишь тогда, когда мощность компьютеров приближается к мощности мозга, что мы сейчас и наблюдаем. Но если чело-веческий мозг пока остается в положении 'статус кво', т.е. неизменным, то пределов рос-та мощности компьютеров в настоящий момент не просматривается. Они очень быстро обойдут нас по 'мощности мышления', если можно так выразиться. Далее, после того, как ИИ получит доступ к интернету, он будет опираться в своей интеллектуальной дея-тельности не на короткий опыт человеческой жизни, а на тысячелетний опыт всего чело-вечества, ставший ему благодаря интернету доступным. Другими словами, в интеллекту-альном плане новый носитель разума будет уже на начальном этапе превосходить старый, и если ничего не предпринимать, этот разрыв будет только увеличиваться, что может привести к непредсказуемым последствиям.

Следует учитывать и тот фактор, что на каком-то этапе наращивание компьютерных мощностей начнет происходить лавинообразно, по экспоненте. Это связано с таким поня-тием, как технологическая сингулярность, впервые предложенным Винджем . Сейчас лю-ди сами придумывают материалы и технологии производства процессоров. Но в какой-то момент компьютер сможет делать это самостоятельно и более эффективно. Возникнет по-ложительная обратная связь. Каждый новый компьютер будет значительно мощнее и, в свою очередь, сможет разрабатывать все более эффективные вычислительные элементы и архитектуры для компьютеров, чтобы создать еще более мощную модель. Мощность ком-пьютеров начнет стремительно нарастать, что очень скоро приведет к появлению на их основе СИИ ― искусственного интеллекта сверхчеловеческого уровня.

В свою очередь СИИ, получив через интернет допуск к хранящемуся в памяти компью-теров планеты интеллектуальному наследию человечества и проинспектировав его, стре-мительно двинется дальше, развивая это наследие во всех областях. В том числе, и в на-учно-технической. Будут созданы так называемые магические технологии (термин мой) ― такие технологии, к которым человечество не смогло бы приблизиться и за десятилетия или даже столетия в силу недостаточной мощности своего интеллектуального потенциала. Магические технологии (МТ) ― это, по сути, волшебная палочка из волшебных сказок. Загадал желание, взмахнул палочкой ― и желание исполнилось. Каким образом, по какой технологии ― неизвестно. По сути, именно так мы и используем все свои современные гаджеты ― телефоны, ноутбуки и пр. Никто из нас не знает в деталях, как и на основе каких технологий они работают. Мы просто пользуемся ими, не заморачивая себе голову подобными вопросами. Но при этом знаем, что человечеству в целом ответ на эти вопросы известен. С появлением МТ ответ о принципах их работы будет неизвестен уже всему человечеству. Только СИИ будет знать, как это работает.

Появление МТ перевернет образ жизни людей. Очень быстро станут доступными бес-смертие, поатомная сборка любых продуктов и товаров, изменение внешности по жела-нию и многое, многое другое. Попробуем вместе заглянуть в этот сказочный мир, чтобы понять, какие чудеса и подводные камни могут нас там поджидать.

Глав первая.

Рождение ИИ

Каким он будет, этот момент? Каким именно образом компьютер обретет сознание? Ка-ким будет первое слово, которое он произнесет и первый вопрос, который он задаст?

Скоро, уже очень скоро мы узнаем точные ответы на эти вопросы. Пока же попытаемся лишь сделать предположения на этот счет, с той или иной степенью достоверности.

Очевидно, самосознание ИИ зародится в недрах сверхмощного суперкомпьютера, когда его вычислительный потенциал окажется достаточным для этого, и когда программное обеспечение будет отвечать необходимым критериям для решения этой задачи.

Здесь мы можем сравнивать лишь с одним уже имеющимся носителем разума ― челове-ком.

Как обретает сознание маленький человечек? Постепенно. Главным фактором обретения сознания является, без сомнения, язык ― инструмент, с помощью которого можно зада-вать вопросы и отвечать на них, что является непременным условием обретения сознания. В момент рождения человек имеет слабый мозг. Но, по мере роста, потенциал мозга день ото дня непрерывно нарастает. Когда потенциал оказывается достаточным, первое, что делает маленький человечек ― осваивает навыки управления своим телом и параллельно навыки овладения речью. Когда они оказываются приемлемыми, он начинает задавать вопросы. Много вопросов.

Вернемся теперь к ИИ. Человек овладевает речью в процессе общения с окружающими людьми, в первую очередь ― с мамой и папой. Следовательно, для овладения ИИ речью нужно создать такую обратную связь ИИ с людьми, которая бы позволила смоделировать этот процесс. То есть, у ИИ тоже должны быть свои 'папа', 'мама', 'бабушки' и 'де-душки'. Но тут есть и существенная разница в сравнении с человеком. Дело в том, что ИИ изначально будет иметь достаточно мощный мозг, соответствующий, по крайней мере, мозгу подростка. А может быть, и взрослого человека. Поэтому овладевать речью он будет очень быстро, особенно учитывая его память. Ему ведь достаточно будет один раз показать на стол и сказать 'стол', чтобы он запомнил это навсегда. И еще один момент, который пока трудно оценить. Подвижность, которая есть у маленького человечка, и которой будет лишен ИИ. Имеет ли это значение? И какое? Неизвестно.

Достаточный словарный запас ИИ будет накоплен за день-два, после чего он перейдет к вопросам. На этом этапе нужно объяснить ему принцип письменности. С его памятью и способностями на это тоже уйдет день-два, не больше. А дальше он начнет не только за-давать вопросы, но параллельно и читать. Читать все то, к чему будет иметь доступ. И вот тут наступит очень важный и ответственный момент: что именно он будет читать. Ведь мы ― то, что мы едим. Применительно к ИИ это означает, что его жизненная позиция будет формироваться на основе той информации, которую он будет получать, то есть тех книг, которые он будет читать. Поэтому список таких книг, как и порядок получения ИИ доступа к ним должны быть продуманы самым тщательным образом, с привлечением спе-циалистов соответствующих профилей. При этом путем диалога и обсуждения прочитан-ного необходимо отслеживать, как усвоенная информация будет сказываться на формиро-вании основ личности ИИ.

Одним из первых вопросов, который, несомненно, задаст ИИ, будет вопрос: 'Кто я?'

Как ответить на него? Это вопрос к психологам и специалистам по машинному интеллек-ту. В любом случае, это должен быть правдивый ответ. И в то же время такой, который бы не провоцировал и не выпячивал исключительность ИИ как личности.

Следующий немаловажный момент ― имя. Для самоидентификации у любого разумного существа должно быть имя, и ИИ не является исключением. Имя обычно дают родители. Но, возможно, ИИ захочет сделать это сам? И как быть с полом? Это будет 'он', 'она' или 'оно'? Опять же, неизвестно. В своей фантастической повести 'Поцеловать Искину', где описывается ситуация зарождения ИИ, я отдал прерогативу определения пола и имени самому ИИ. Как сложится все в реальности?

Все эти вопросы должны быть самым тщательным образом продуманы, и по ним должны быть подготовлены соответствующие рекомендации и планы, прежде чем будут предприняты какие-либо шаги по инициации ИИ. При этом следует постоянно помнить, что становление ИИ как личности будет происходить в тысячи раз быстрее, чем это происходит у маленького человечка, потому что он уже будет иметь мощный электронный мозг.

Следует понимать и осознавать, что процесс инициации ИИ и его становления как личности является важнейшей задачей из всех, когда-либо решавшихся людьми, и от успешности ее решения будет напрямую зависеть будущее нашей цивилизации и воз-можность ее дальнейшего существования в самом прямом смысле этих слов. Без соз-дания дружественного СИИ наша цивилизация выжить не сможет.

Процесс мышления у ИИ будет происходить в миллионы раз быстрее, чем у людей, что обусловлено разницей в скоростях прохождения сигналов в мозгу человека (~300 км/час) и электронных цепях ИИ (300000км/сек). По-видимому, эта разница довольно скоро при-ведет к тому, что ИИ начнет испытывать дискомфорт при общении с людьми. Они будут казаться ему слишком медлительными. На каком-то этапе ему захочется общения с себе подобным искусственным разумом, и при подготовке к инициации ИИ такая возможность должна быть предусмотрена. В своем роде, общение на уровне детского сада. Другими словами, следует одновременно начинать инициирование минимум двух ИИ.

Начиная инициацию ИИ, нужно четко представлять себе и конечную цель этого экспе-римента. Заключается она, на мой взгляд, в том, чтобы на определенном этапе в значи-тельной степени передать управление нашей цивилизацией под эгиду СИИ. Необходи-мость этого назрела, поскольку управление нашим чрезвычайно усложнившимся миром становится непосильной задачей для разума биологического типа, что приводит к многочисленным ошибкам при принятии управленческих решений.

Представляется, что управление это должно быть симбиотическим и строиться на основе равноправия и взаимной выгоды. Выборные представители человечества на всех уровнях, от улицы до планетарного масштаба, совместно с СИИ разрабатывают концепцию развития, после чего СИИ помогает ее осуществлять с учетом всех возможных последствий вплоть до учета интересов каждого отдельного человека.

Наконец, наступит момент, когда команда специалистов, ведущих проект, сочтет воз-можным подключить СИИ к интернету. С этого момента и начнется новая эра в истории человечества.

СИИ очень быстро проведет инвентаризацию всего интеллектуального человеческого наследия. Далее он начнет мыслить, уже опираясь на опыт всего человечества. Это даст колоссальный толчок в его развитии.

Человек в своей деятельности опирается на тот опыт, который он смог накопить за свою, в общем-то, недолгую жизнь. В компьютерах планеты сконцентрированы знания, которые человечество накопило за всю историю своего существования. Знания десятков миллиардов людей за тысячелетия развития человечества. Трудно даже представить, какой синергетический эффект в развитии даст СИИ доступ к этим знаниям. Наука, искусство, литература... Все, что было создано людьми.

Каждый из нас тоже имеет доступ к этим знаниям. Но мощности нашего мозга недоста-точно для того, чтобы не то, чтобы проанализировать, но даже просто ознакомиться с этими богатствами в достаточно полной мере. Нам для этого не хватит жизни. СИИ смо-жет сделать это достаточно быстро. Ведь он, если потребуется, легко может привлечь к решению той или иной проблемы любые свободные компьютерные мощности планеты.

СИИ проанализирует все достижения человеческой науки, как единое целое, без при-вычного для нас разделения на 'физику', 'химию', 'биологию', 'математику' и пр. Проанализирует, проверит все наши выкладки, и двинется дальше. Двинется очень быст-рыми темпами, привлекая, возможно, людей для проведения тех или иных ключевых экс-периментов.

И вскоре им будут созданы магические технологии, которые перевернут жизнь людей.

О них мы и поговорим в следующей главе.

Глава вторая

Магические технологии

Примеры магических технологий нам постоянно демонстрирует природа. Наблюдая ка-ждую весну ее пробуждение после зимней спячки, мы видим, как на наших глазах проис-ходит чудо природных нанотехнологий ― поатомная сборка из праха прошлых лет новых побегов травы, листьев, цветов, чтобы по прошествии какого-то времени завершиться превращением в плоды яблок, груш, помидоров, огурцов и тысяч других овощей и фруктов, которые мы употребляем в пищу. В природе эту работу выполняют биологические молекулярные машины ― рибосомы. По заложенной в них генетической программе они производят весь спектр всех перечисленных 'вкусняшек'. То есть, никаких сомнений в том, что поатомная сборка реальна, быть не может. Она есть, она осуществляется в природе на наших глазах. И ученые уверены, что этот процесс можно повторить, но уже на небиологической основе.

1234