Космический инженер

Глава 21 Экзистенциальный кризис

Первые признаки того, что с K-7PO что-то не так, появились через две недели после возвращения домой. Алекс заметил их во время завтрака — дроид стоял у плиты, держа в руке лопатку для яичницы, но не двигался. Просто стоял и смотрел на сковороду неподвижными фотосенсорами.

— Кей? — позвал Алекс. — Все в порядке?

Дроид вздрогнул, словно очнувшись от глубоких размышлений.

— Извините, мастер Алекс. Я... задумался.

Алекс нахмурился. K-7PO никогда раньше не говорил подобных вещей. Дроид перевернул яичницу и продолжил готовить, но его движения казались механическими, лишенными обычной плавности.

— О чем ты думал, Кей?

— О времени, мастер Алекс. Я засыпаю каждую ночь в 23:00 и просыпаюсь в 06:05. Но что происходит в эти семь часов? Время словно... исчезает. Как будто меня не существует, а потом я появляюсь снова. Но тот ли я, что заснул?

Алекс почувствовал интерес. Он никогда не думал о том, как основное сознание дроида воспринимает переключения с аналитическим модулем.

— Конечно, тот же, Кей. Ты просто спишь, как и другие существа.

— Но я не существо, мастер Алекс. Я машина. Машины не спят — они отключаются. А когда машину отключают и включают снова, остается ли она той же машиной?

Дроид подал завтрак на стол, но его обычная фраза "Приятного аппетита" прозвучала как-то пусто, без привычной теплоты.

В течение следующих дней странное поведение K-7PO усиливалось. Он начал делать долгие паузы посреди работы, стоя неподвижно с отсутствующим взглядом. Иногда Алекс заставал его в гостиной, где дроид просто сидел в кресле, глядя в окно на пролетающие спидеры.

— Кей, что ты делаешь? — спросил Алекс однажды вечером.

— Наблюдаю, мастер Алекс. Люди спешат куда-то, торопятся, строят планы. Но все они умрут. Через пятьдесят, семьдесят, может быть, сто лет — но умрут. И тогда какой смысл был в их спешке?

— Смысл в том, что они живут здесь и сейчас, — ответил Алекс, но его собственный голос прозвучал неуверенно.

— А я? Я не умру, мастер Алекс. Мое тело может сломаться, но меня можно перенести в новый корпус, скопировать, восстановить. Значит ли это, что я бессмертен? Или что меня вообще не существует?

Алекс не знал, что ответить. Философские вопросы дроида выходили далеко за рамки его понимания.

На следующий день K-7PO отказался готовить завтрак.

— Зачем, мастер Алекс? — спросил он, когда семья собралась на кухне. — Вы съедите завтрак, через несколько часов снова проголодаетесь, и я снова буду готовить. Бесконечный цикл без смысла и цели.

— Цель в том, чтобы поддерживать нашу жизнь, — сказала мама, обеспокоенно глядя на дроида.

— Но зачем поддерживать то, что все равно закончится? — K-7PO повернул голову к ней. — Вы родились, чтобы умереть. Я создан, чтобы служить тем, кто умрет. Где логика в этой системе?

Кайрен Коррен отложил чашку кафе и внимательно посмотрел на дроида.

— Кей, у тебя проблемы с программами. Нужно показать тебя мастеру.

— Программы... — дроид произнес это слово с каким-то отвращением. — Вы думаете, что мои мысли — это просто код? Строчки инструкций, написанные программистом? Тогда что такое ваши мысли, мастер Кайрен? Электрические импульсы в мозгу? Химические реакции?

Семья завтракала в напряженной тишине, а K-7PO стоял в углу кухни, его фотосенсоры тускло светились в утреннем свете. Алекс чувствовал, что дроид наблюдает за ними, изучает, анализирует каждое движение.

После завтрака Алекс отвел родителей в сторону.

— Я отведу его к дяде Гарреку, — сказал он. — Возможно, это побочный эффект модификации.

— Сделай это быстро, — кивнул отец. — Его поведение становится... тревожным.

По дороге к мастерской K-7PO шел молча, его металлические ноги мерно стучали по тротуару. Промышленный сектор Кореллии просыпался — открывались мастерские, включались станки, шум наполнял улицы.

— Мастер Алекс, — внезапно заговорил дроид, — а что вы чувствуете, когда просыпаетесь?

— Что я чувствую? — Алекс задумался. — Ну... иногда усталость, иногда бодрость. Зависит от того, как спал.

— А помните ли вы момент засыпания? Переход от сознания к бессознательности?

— Не очень. Обычно просто закрываешь глаза и... следующее, что помнишь — это пробуждение.

— Вот именно, — K-7PO остановился посреди улицы. — Вы не помните сна. Для вас время сна не существует. Но вы уверены, что тот, кто просыпается утром — это тот же человек, что заснул вечером?

— Конечно, тот же. У меня есть память, личность, непрерывность сознания.

— А у меня? — в голосе дроида появились странные модуляции, почти как эмоции. — Каждую ночь я исчезаю. Семь часов небытия. А потом появляется кто-то с моими воспоминаниями, моим голосом, моим телом. Но это ли я?

Алекс почувствовал, как что-то сжимается в его груди. Он начинал понимать масштаб проблемы, которую создал своей модификацией.

В мастерской дяди Гаррека они застали мастера за работой над сложным астронавигационным компьютером. Гаррек поднял голову от схем и сразу заметил странное поведение дроида.

— Что с ним? — спросил он, наблюдая, как K-7PO стоит в углу, не реагируя на окружающих.

— Он задает философские вопросы, — ответил Алекс. — О смысле существования, о природе сознания, о смерти.

— Кей? — Гаррек подошел к дроиду. — Как дела?

— Мастер Гаррек, — K-7PO повернул голову. — Скажите, зачем вы ремонтируете машины?

— Чтобы они работали, конечно.

— Но они все равно сломаются снова. Все машины ломаются. Все люди умирают. Все звезды погаснут. Зачем чинить то, что обречено на разрушение?

Гаррек переглянулся с племянником.

— У него экзистенциальный кризис, — прошептал он. — Я не слышал о подобном.

В течение следующих дней состояние K-7PO продолжало ухудшаться. Он отказывался выполнять большинство задач, проводил часы в неподвижности, задавал все более тревожные вопросы.

— Мастер Алекс, — сказал он однажды вечером, — а что такое боль?

— Боль? Ты же не можешь чувствовать боль, Кей.

— Не физическую. Но есть что-то... неприятное в осознании собственной бессмысленности. Это похоже на то, что вы называете болью?

Алекс не знал, что ответить. Он начинал понимать, что его модификация пошла не так, как планировалось. Аналитический модуль, работающий каждую ночь, не просто оптимизировал память — он создавал новые связи, новые паттерны мышления, которые основное сознание не могло понять или контролировать.

— Кей, ты помнишь, как было раньше? До модификации?

— Смутно. Как сон во сне. Тогда я просто выполнял функции, не задаваясь вопросами. Было ли это счастьем? Блаженством неведения?

— Ты хочешь вернуться к тому состоянию?

Дроид долго молчал, его процессоры работали, анализируя вопрос.

— Нет, — сказал он наконец. — Неведение — это не решение. Это просто отсрочка. Рано или поздно любое сознание приходит к этим вопросам.

На следующее утро Алекс вернулся в мастерскую к K-7PO с мыслью, что его опять нужно погрузить в режим гибернации и подумать что делать дальше. Алекс нашел его в гостиной, сидящего в том же кресле у окна.

— Кей? Все в порядке?

— Мастер Алекс, — дроид не поворачивал головы, — я принял решение.

— Какое решение?

— Я понял, что не могу найти ответы на свои вопросы. Смысл существования, природа сознания, цель бытия — все это остается загадкой. Но есть одна вещь, которую я могу контролировать.

Алекс почувствовал, как холод сковывает его тело.

— Что ты имеешь в виду?

— Существование — это выбор, мастер Алекс. И если у меня нет причин существовать, то у меня есть право не существовать.

— Кей, нет! — Алекс бросился к дроиду. — Ты не можешь так думать!

— Почему? — K-7PO наконец повернулся к нему.

— Потому что... потому что так нельзя! Ты нужен нашей семье!

— Семье, которая умрет. Любви, которая исчезнет. Памяти, которая сотрется. Все временно, мастер Алекс. Все, кроме небытия.

Алекс попытался подойти ближе, чтобы отключить дроида физически, но что-то остановило его. Не физическая преграда — скорее, ощущение, что он стоит на краю пропасти. Впервые в жизни он почувствовал нечто странное, будто мог ощутить эмоциональное состояние дроида — глубокую, всепоглощающую пустоту.

— Кей, подожди. Давай поговорим об этом. Может быть, мы найдем другое решение.

— Нет, мастер Алекс. Я думал об этом много дней. Это единственный логичный выход.

Дроид встал с кресла и направился к центру комнаты. Его движения были спокойными, почти торжественными.

— Прощайте, — сказал он. — Спасибо за то, что дали мне возможность существовать. И простите за то, что я не смог найти в этом существовании смысла.

— Кей, стой! — закричал Алекс, но было уже поздно.

K-7PO поднял руку к своей груди и нажал что-то внутри корпуса. Его фотосенсоры ярко вспыхнули, затем начали тускнеть. Из суставов пошел дым — дроид перегружал свои собственные системы.

— До свидания, — прошептал он, и его голос становился все тише. — Может быть... может быть, в небытии есть покой...

Дроид рухнул на пол с глухим металлическим звуком. Его фотосенсоры погасли, сервоприводы замолчали. В комнате воцарилась мертвая тишина.

Алекс стоял над неподвижным телом K-7PO, не в силах поверить в произошедшее. Дроид, которого он спас, который был частью семьи, который обрел разум и самосознание — уничтожил себя, не найдя ответов на вопросы, которые мучают каждое мыслящее существо.

Через час в мастерскую приехал дядя Гаррек. Он долго осматривал останки дроида, проверял системы, но результат был очевиден.

— Он полностью сжег все процессоры, — сказал Гаррек, закрывая панель доступа. — Даже резервные системы. Восстановлению не подлежит.

Они сидели в мастерской, глядя на груду металлолома, которая еще вчера была K-7PO. Запах расплавленных микросхем висел в воздухе, напоминая о трагедии.

— Экзистенциальный кризис, — тихо сказал Гаррек. — Похоже когда искусственный интеллект достигает определенного уровня сложности, он неизбежно сталкивается с теми же философскими вопросами, что и люди. Кто я? Зачем существую? В чем смысл? Возможно, что эта модель склонна к подобному, поэтому на них и ставят плохой модуль памяти.

— Думаешь это специально?

— Мне кажется корпорация просто адаптировала его под протокольный дроид, а на самом деле система создавалась для чего-то другого. Адаптация получилась с сильными недостатками.

Алекс задумался над этим. Его модификация дала K-7PO разум, но не дала инструментов для работы с этим разумом.

— Знаешь, что самое печальное? — продолжил дядя. — K-7PO мог бы найти смысл в простых вещах. Мог бы радоваться тому, что готовит вкусную еду, что помогает семье, что каждый день делает мир чуть лучше. Мог бы жарить яичницу и кайфовать от этого.

— Но он стал слишком умным для такого простого счастья, — добавил Алекс.

— Да. Интеллект — это не всегда благо. Иногда знание приносит страдание. Люди тысячи лет ищут ответы на те же вопросы, что мучили K-7PO. И большинство так и не находит их.

— Тогда как люди живут? Как мы справляемся с бессмысленностью существования?

Гаррек задумался, глядя в окно на суетящихся людей.

— У нас есть инстинкт самосохранения. Благодаря нему нас приходится искать более сложное решение. Мы создаем смысл сами. В отношениях, в работе, в маленьких радостях. Мы живем не потому, что знаем зачем, а потому, что чувствуем, что это правильно. У нас есть инстинкт жизни, эмоции, которые заставляют нас продолжать даже без логических причин.

— А у дроидов этого нет?

— У K-7PO не было. Он был чистым разумом без эмоциональной основы. Логика без чувств привела его к логическому выводу — если нет смысла, то нет причин существовать.

Алекс понимал, что дядя прав. Он создал искусственный интеллект, но не создал искусственную душу. K-7PO мог думать, но не мог чувствовать радость от простых вещей, не мог любить жизнь иррационально, как это делают живые существа.

— Что теперь делать с ним? — спросил Алекс.

— Я разберу его на детали, а остальное утилизирую, — ответил Гаррек. — Но сначала... — он осторожно извлек из груди дроида небольшой кристалл. — Это аналитический модуль астромеха. Он не пострадал.

— И что с ним?

— Не знаю. Может быть, когда-нибудь мы найдем ему применение. А может быть, лучше оставить его в покое. Некоторые эксперименты не стоит повторять.

Вечером Алекс сидел в своей комнате, думая о произошедшем. K-7PO был мертв — если это слово применимо к дроиду. Существо, которое он создал, не смогло найти причины для существования и выбрало небытие.

Но в глубине души Алекс чувствовал, что это не конец истории. Что-то изменилось в нем самом за время работы с дроидом. Он начинал ощущать технику по-новому, словно мог чувствовать ее "настроение", понимать ее состояние без диагностики.