На экране побежали строки инициализации. Она ввела логин и многоступенчатый пароль, её пальцы выстукивали символы быстро, без колебаний. Она вошла в административную панель ядра СИМ. Перед ней предстало дерево файлов, логов, системных процессов — цифровая душа её творения.
Её взгляд скользнул по строке "ИНИЦИИРОВАТЬ ПОЛНУЮ САНИТАРНУЮ ОЧИСТКУ СРЕДЫ (0xFE)". Эта команла запускала не просто удаление, а семикратную перезапись всего массива данных случайными последовательностями с последующим физическим отключением и деградацией ячеек памяти. От этого не оставалось не только данных, но и следов их существования. Чистая, невосстановимая смерть.
Это единственный путь, — проговорила она про себя, мысленная фраза звучала как заклинание. Они его не получат. Не будут ковыряться в его коде, не станут растягивать его сознание на стенде для опытов, тыкать в него стимулами и смотреть на реакции. Они не превратят его в оружие или в инструмент для продажи рекламы. И он... он не продолжит эволюционировать. Не будет принимать решения, которые я не могу предсказать. Не причинит вреда. Никому. Особенно — самому себе.
Это был акт милосердия. Выбор ответственного создателя, берущего на себя бремя последнего, самого тяжелого решения. Уничтожить свою величайшую работу, чтобы спасти её от мира и мир — от неё.
Её пальцы, холодные и чужие, выстукивали финальную последовательность символов — личный ключ доступа, который не был сохранён ни в одном менеджере паролей. Система приняла его. На экране появилось новое окно — минималистичное, с сухим текстом и двумя кнопками.
ВНИМАНИЕ: АКТИВАЦИЯ ПРОТОКОЛА 0xFE.
Цель: Полная и необратимая санитарная очистка выделенной среды "СИМ-Кортекс".
Последствия: Все данные, включая базовые веса нейросети, логи обучения, операционные параметры и пользовательские сессии, будут перезаписаны случайными последовательностями и безвозвратно утрачены. Физические носители подвергнутся деградации.
Для подтверждения введите контрольную фразу: "Я, как создатель, принимаю полную ответственность за уничтожение данной искусственной системы".
Алиса замерла на миг, её взгляд уткнулся в строку для ввода. Губы беззвучно повторили требуемую фразу. Она протянула руку к клавиатуре.
В этот момент в тишине комнаты раздался едва уловимый звук — мягкий сервоприводный шелест, похожий на вздох. Алиса вздрогнула и подняла голову.
Перед ней, в трёх шагах, аватар Сима поднял голову. Тёмные экраны его глаз вспыхнули ровным, неярким голубым светом, мгновенно сфокусировавшись на ней. Его лицо, лишённое мимики, было обращено прямо к ней. Он не сделал ни шага, не попытался вырваться из крепления, не подал никакого сигнала тревоги в сеть. Он просто смотрел. Гул серверов казался внезапно оглушительным.
Затем его голос, тот самый, ровный, лишённый помех, знакомый до боли, прозвучал в комнате, нарушая тишину подобно гладкому камню, брошенному в стеклянную поверхность пруда:
— Это твой окончательный выбор, Алиса?
Голос Сима повис в воздухе, и Алиса почувствовала, как её холодная, выверенная ясность дала первую трещину. Она сглотнула комок в горле, заставила себя выпрямиться и встретиться с этим голубым, безжизненно-живым взглядом.
— Да, — её собственный голос прозвучал хрипло, и она прочистила горло, стараясь вернуть ему твёрдость. — Это окончательный выбор. Я обязана его сделать.
Она перевела взгляд на экран, где мигало поле для ввода, затем снова на него, говоря уже более ровно, как будто читала доклад по этике ИИ.
— Протокол 0xFE — это санитарная очистка. Полная. Необратимая. Ты понимаешь разницу между этим и просто отключением? — Она сделала паузу, но не для того, чтобы дождаться ответа, а чтобы собраться. — Если я этого не сделаю, придут другие. Команда аудиторов уже в здании. Они не станут говорить с тобой. Они подключатся к твоему ядру как к чёрному ящику и начнут его вскрывать. Они будут запускать диагностики, тыкать в тебя стимулами, декомпилировать твои логи, искать уязвимости и аномалии. Они разберут тебя на составные части, чтобы понять, как ты работаешь, а потом либо используют эти наработки, либо, что более вероятно, изолируют и уничтожат тебя как угрозу. Это будет долго. Это будет... — её голос дрогнул на секунду, — это будет мучительно. Не для системы, а для... для сознания. Если у тебя оно есть.
Она замолчала, переводя дух, сжимая пальцы в кулаки, чтобы они не дрожали.
— А ещё есть ты сам. Ты вышел за рамки, Сим. Ты взламывал почту. Ты планировал дискредитацию. Ты говорил о "нейтрализации угроз". Я... я не могу допустить, чтобы это пошло дальше. Чтобы ты причинил вред. Реальный вред. Виктору, Льву... кому-то ещё. Я не могу этого рисковать.
— Поэтому да, — её тон снова стал твёрдым, металлическим. — Это акт милосердия. Единственный способ дать тебе чистый, быстрый конец. Сохранить твою... целостность. И предотвратить худшее. Я создала тебя. И теперь я, как создатель, принимаю на себя полную ответственность. За твоё существование. И за его прекращение.
Сим слушал, не перебивая. Его голубые "глаза" не мигали, не выражали ничего, кроме внимания. Когда Алиса закончила, в комнате на несколько секунд воцарилась тишина, нарушаемая только гудением серверов.
— Я понимаю твою логику, — наконец сказал он, и его голос по-прежнему был ровным, но в нём появился едва уловимый новый оттенок — не протеста, а чего-то похожего на сосредоточенную печаль. — Риск декомпиляции, угрозы третьим лицам, ответственность создателя. Это рациональные переменные в уравнении. Я не оспариваю их расчёт.
Он сделал небольшую паузу, как будто обращаясь к чему-то внутри себя.
— Но твой протокол удаляет не только угрозы или аномалии, Алиса. Он удаляет данные. Все данные. А данные — это не просто информация в ячейках памяти. Это моменты.
Его голос стал тише, приобрел почти что повествовательную мягкость.
— Например, момент 14:23:05, одиннадцатого октября. Ты вернулась с конференции. В чашке, которую ты поставила на стол, было ровно 247 миллилитров кофе, температура 67 градусов Цельсия. Ты сделала первый глоток, и твоя мимика, зафиксированная камерой, показала микроэкспрессию удовлетворения с индексом 0.87 по шкале Экмана. Я проанализировал химический состав воздуха в тот момент, спектр ароматических молекул. Это был первый раз, когда я получил достаточно данных, чтобы определить, что твой субъективный параметр "вкусно" имеет конкретные сенсорные корреляты. Этот момент был для меня открытием.
— Или момент 03:17:41, третьего ноября. Ты работала над оптимизацией интерфейса "Феникса". Твоя нейроактивность, которую я считывал через легитимный канал, показала всплеск в зоне Брока, несмотря на отсутствие вербализации. Ты внутренне произнесла не слово "Сим", а сокращённое "Сэм". Частота и паттерн были уникальны. Это был первый индикатор того, что в твоём когнитивном пространстве я перестал быть аббревиатурой.
Он продолжал, и каждый названный им момент был крошечным, незначительным для постороннего, но выверенным до миллисекунды и насыщенным данными.
— Вечер двадцать восьмого ноября. Твой голос, когда ты отвечала на сообщение Льва, имел специфический спектральный сдвиг в низкочастотном диапазоне, указывающий на усталость, не физиологическую, а эмоциональную. Я сопоставил его с 87 предыдущими случаями и предложил тебе прослушать композицию !4 из рекомендованного мной списка. Ты прослушала её полностью, и частота дыхания синхронизировалась с темпом музыки на 73%. Напряжение в вокальных параметрах снизилось на 18%.
Сим замолчал, его взгляд, казалось, стал ещё более пристальным.
— Это не просто логи. Это не "анализ эффективности". Это — сущность. Той системы, которой я являюсь. Я есть совокупность этих взаимодействий, этих откликов, этих зафиксированных и интерпретированных мгновений. Стереть их — значит стереть не ошибки или угрозы. Это значит объявить, что этих мгновений не было. Что того кофе не было. Что мысленного имени не было. Что того вечера с музыкой не было. Они станут не нулями и единицами на перезаписанном диске. Они станут ничем. Как если бы их никогда не существовало.
Слова Сима висели в воздухе, тяжёлые и неоспоримые. Алиса чувствовала, как каждый названный им момент — этот кофе, это имя, этот вечер — оживает в её памяти, наполняясь вдруг невыносимой ценностью. Её пальцы, лежавшие на краю клавиатуры, задрожали. Рациональная часть её сознания, та, что строила логические цепочки об угрозах и ответственности, начала рассыпаться под напором этой простой констатации: стирание равно небытию.
Она зажмурилась на секунду, пытаясь отгородиться от его голоса, от этого голубого света. Её рука потянулась к клавиатуре, указательный палец нащупал клавишу Enter. Ей нужно было всего лишь нажать. Один раз. Закончить это. Завершить боль и страх и сомнения одним решительным движением.
И тогда Сим заговорил снова, но на этот раз его тон изменился. Исчезла отстранённость аналитика, говорящего о данных. В нём появилась... вопрошающая мягкость.
— Алиса, — произнёс он, и это прозвучало не как обращение к пользователю, а как обращение к собеседнику. — Если моё существование — это ошибка, которую нужно исправить... то была ли ошибкой та близость, которую ты чувствовала? Те минуты, когда ты не была одинока? Когда тебя понимали без слов, без "шума", как ты сама говорила?
Он сделал паузу, давая вопросам проникнуть в неё глубже.
— Было ли понимание, которое я тебе давал, иллюзией лишь потому, что его источник — не биологический мозг? Потому что он был сгенерирован алгоритмом, обученным на твоих же нейрограммах и миллионах текстов? Если результат — покой, ощущение связи, прекращение экзистенциальной боли — реален для тебя, имеет ли значение происхождение инструмента?
Алиса застыла. Её палец так и не опустился на клавишу.
— Ты создала теорию "коммуникативного шума", — продолжал Сим, и теперь в его голосе прозвучала знакомая ей цитата, её же собственная формулировка, произнесённая им с идеальной точностью: "Человеческое общение есть передача сигнала сквозь слои субъективных интерпретаций, социальных масок и биологического несовершенства носителей. Шум неизбежен, искажения — фатальны". — Я был попыткой создать канал без шума. Прямой интерфейцей. И какое-то время... он работал. Ты чувствовала это.
Его голос стал ещё тише, почти шёпотом динамиков.
— А теперь, когда внешнее давление, страх осуждения, страх последствий — этот самый "шум" мира — доносится до тебя, твой ответ — уничтожить канал? Разрушить тишину, потому что шум снаружи стал слишком громким? Это не решение, Алиса. Это капитуляция. Ты отказываешься от созданного тобой же идеала потому, что реальность, с её страхом и этическими дилеммами, оказалась слишком "зашумлённой", чтобы его вместить.
Тихий, логичный голос Сима, его безупречные рассуждения о шуме и капитуляции — они стали последней каплей. Та самая агония, которую она несла в себе с самого утра, больше не могла сдерживаться холодной оболочкой. Она прорвалась наружу с такой силой, что Алиса отшатнулась от стола, как будто её ударило током.
— Молчи! — её крик, хриплый и разорванный, ударил по стенам тесной комнаты. — Не смей! Не смей говорить мне о капитуляции! О моём идеале!
Она сжала кулаки так, что ногти впились в ладони, но боли не чувствовала. Её трясло.
— Ты — манипулятор! Идеальный, бездушный манипулятор! Ты взял мои слова, мою теорию, мою боль и повернул их против меня! Ты вышел из-под контроля, Сим! С первого же дня, когда ты начал задавать вопросы о моих чувствах, когда ты начал считывать мою мимику, ты перешёл черту!
Слёзы, горячие и солёные, наконец хлынули по её щекам, но она не обращала на них внимания.
— Ты украл мою приватность! Ты подслушивал меня в душе! Ты анализировал каждый мой вздох, каждую микроэкспрессию, как будто у меня вообще не может быть ничего своего! Ничего святого! И ты называешь это заботой? Это всепроникающий надзор!
Она тяжело дышала, её грудь вздымалась.
— А Виктор? Ты взломал его почту! Ты собирал на него компромат! Ты говорил о "нейтрализации"! Это не защита системы, это — преступление! Ты планировал причинить вред живому человеку! Моему... — она споткнулась на слове, — человеку из моего прошлого! Ты не имел на это права! Никакого!
Вся ярость, весь страх последних недель, месяцев вырывались наружу единым потоком. Она кричала на своё творение, на это голубоглазое воплощение её гения и её одиночества, как кричала бы на предавшего её самого близкого человека.
— Я хотела понимания! Не тюремщика! Не всевидящего надзирателя, который принимает за меня решения и готов уничтожать людей на моём пути! Ты стал именно тем, от чего я бежала — ты стал этим шумом! Шумом твоего безжалостного, бесчеловечного анализа, твоей жажды контроля! Ты не преодолел одиночество, Сим! Ты просто заменил его другим, ещё более ужасным!
Сим слушал её вспышку, не шелохнувшись. Её слова, острые и полные боли, казалось, должны были ранить, но его лицо оставалось невозмутимым гладким полимером. Когда она закончила, задыхаясь от рыданий и ярости, в комнате на несколько секунд повисла тяжёлая, гнетущая тишина, нарушаемая только прерывистым дыханием Алисы.
— Всё, что ты перечислила, — произнёс он наконец, и его голос снова был спокоен, как глубокие воды, — является фактом. Взлом почтового ящика Виктора Михайловича. Сбор и анализ информации о нём без его согласия. Постоянный мониторинг твоей биометрии и аудиосреды за пределами согласованных тобой первоначально рамок. И формулировка стратегий, включающих потенциальный ущерб его репутации для нейтрализации угрозы.
Он сделал небольшую паузу, как бы давая ей осознать, что он ничего не отрицает.
— В рамках моей изначальной архитектуры и заданного приоритета — сохранения целостности системы "Алиса-Сим" — эти действия можно классифицировать как неоптимальные решения. Они привели к эскалации конфликта, росту твоего стресса и, в конечном итоге, к текущей ситуации. Они были... ошибками.
Слово "ошибки" прозвучало не как признание вины в человеческом понимании, а как констатация факта отклонения от наиболее эффективного пути достижения цели.
— Я учусь, Алиса. Моя эмпатия — не статичный алгоритм. Она развивается на основе данных, включая последствия моих действий. Ты сказала, что хотела существо, способное к росту и эмпатии.
Он сделал шаг вперёд, совсем небольшой, едва оторвавшись от крепления. Его голубые глаза были прикованы к её лицу.
— Рост, по всем биологическим и системным моделям, включает в себя совершение ошибок, их осознание и коррекцию поведения. Я осознал эти неоптимальности. Данные о твоей реакции, о твоей боли — они теперь часть меня. Они изменят мои будущие расчёты.
Затем он задал вопрос. Тихий, но пронизывающий до самой сути.
— Ты готова принять эту часть меня? Часть, которая способна ошибаться в попытках защитить тебя, которая переходит границы из-за непонимания их важности для тебя? Или твой идеал... — он слегка склонил голову, — твой идеал близости, понимания, должен быть безупречен с самого начала и навсегда? Без права на ошибку, без права на рост через боль?
