«Возможно, через сотни лет технические знания человека позволят ему создать страшных роботов-убийц». «Может, через сотни, может, через тысячи лет – я не знаю – какой-нибудь ИИ превратится в дьявола».
Эндрю Ын
Я закричал и очнулся, внезапно ощутив боль во всём теле1, но даже она не смогла заглушить страх: кто я? Где я? И почему так темно?
Попытка что-либо вспомнить ни к чему не привела. Ни имени, ни фамилии. Ни намёка о себе любимом.
Со второй попытки удалось встать. Перед глазами размытое пятно. Неужели ослеп?
– Хэй, ты слышишь меня?
«Голос женский, требовательный, хэй – видимо, приветствие».
– Хэй Радзинский, отзовись! Это Сири.
– Сири? – выдавил я.
– Твой личный ИИ.
«Личный – это здорово», – мелькнула мысль.
– Где я?
– На МКС «ЗАСЛОН», медицинский отсек, вторая палата.
«Палата – плохо, хорошо не шестая. МКС – международная космическая станция. «Заслон» – непонятно, у станции не было никаких кодовых имён или названий, просто МКС. Но с этим разберусь потом».
– Почему я ничего не вижу?
– Отключены датчики на синтетической сетчатке2, измеряющие свет, проходящий через линзу в передней части бионических глаз.
– Какого хрена!.. Прости что?
– Баг3 в системе. Пришлось отключить оптику, передающею сигналы от этих датчиков к мозгу для обработки, но ты не волнуйся, на восстановление уйдёт меньше часа.
«Некоторое время молчу, лишь по причине пребывания в неприятном шоке от обилия информации, понять которую не в состоянии».
– Я что ослеп?
– Это временно, ты же синтетик.
– Никогда не слышал этого слова?
– Смешно, ты его придумал.
– Я?
– «Синтетики – это инженеры будущего! В симбиозе с ИИ они создадут проекты спасения человечества» – это выдержка из твоей диссертации, кстати.
«Я спаситель человечества – ерундень какая-то».
– А с чего я вдруг решил, что человечество нужно спасать?
– Люди пережили ужасы термоядерной войны, но радиация «сломала» их ДНК, вызвав нарушения обмена веществ, инфекционные осложнения, лейкоз и злокачественные опухоли, лучевое бесплодие, лучевую катаракту и много ещё чего. В общем, последствия облучения сильнее всего повлияли на делящиеся клетки и после войны большинство детей рождались без глаз.
– Я тоже родился слепым?
– Нет, ты из Зрячих – элиты современного мира.
– Тогда зачем мне чёртовы датчики?
– Ты пострадал в зоне повышенной радиации.
«Ни войны, ни радиации – не помню, но помню о создателе ИИ».
– Моя фамилия Радзинский, ты сама так сказала, а «отец» ИИ – профессор Джон Маккарти.
– Он придумал аббревиатуру, а ты разработал концепцию нового типа искусственного интеллекта – симбиоз нейросети и человеческого мозга.
Симбиоз нейросети и человеческого мозга
– Объясни по-человечески, что конкретно я сделал?
– Прокачал разум.
– Чей?
– Свой, при помощи прикладного софта.
– А софт – это ты?
– Не просто софт, а точная копия части твоего мозга.
– Я теперь киборг?
– Ты человек, наделённый сознанием искусственного интеллекта4.
Хэй Радзинский
– Но с добавленными частями робота?
– Да.
– И сейчас ты копаешься в моей черепной коробке?
– Ты отключился в результате серьёзного сбоя, но я всё исправлю.
– Ничего не помню.
– Память частично повреждена, – ответила Сири. – Но я её восстановлю вместе со зрением.
И тут я запаниковал, ощутив, что ИИ может что-то сделать не так, лишить меня чего-то жизненно важного, хотя не понимал, чего именно. Хотел сесть, но не смог и пальцем пошевелить.
– Не беспокойся, – успокоила Сири. – Я всё исправлю.
* * *
Едва я сел, как в помещение вошли два андроида-санитара мощного телосложения, на халатах эмблемы с головой змеи. Лица без носа и рта, узкие щели-глазниц светятся голубым сиянием.
«Сири, ко мне зрение вернулось!»
«Ты во мне сомневался?»
«Нет, «мозги»5 слетели – сама же говорила, кстати, спасибо, что использовала бипер6, а то я уж подумал, что схожу с ума».
«Постоянное запоминающее устройство нуждалась в форматировании, ты функционировал на оперативке».
«Последний файл не сгенерирован, почему?»
«Его отключил «ЗАСЛОН».
«Основание?»
«Инженер-синтетик, Хэй Радзинский, вы арестованы за убийство Евы Садовниковой. Вы имеете право хранить молчание. Всё, что вы скажете, может и будет использовано против вас в суде. Ваш адвокат может присутствовать при…»
«Сири, что за бред? Я тебя создал! Я…»
На какую-то долю секунды я увидел девушку, идущую по коридору. Внезапно она остановилась, обернулась и показала мне язык, а потом я отключился…
* * *
Прошли годы. На Земле девочка по имени Оля ждала папу с работы. На улице накрапывал дождь. Генеральный директор корпорации «ЗАСЛОН» Любимов Игорь Андреевич, как его отец и дед, никогда не возвращался домой рано, должность обязывала. Оля, сидя на подоконнике, зачарованно наблюдая, как капли дождя, собираясь на оконном стекле, превращаются в тонкие ручейки и медленно стекают вниз. Месяц назад ей провели операцию по восстановлению зрения, но только вчера сняли повязку и отпустили домой. Сейчас она, несмотря на уговоры ИИ, категорически отказывалась ложиться спать. Ей очень хотелось увидеть отца.
– Оля, я настаиваю на отдыхе.
– Отстань, я сама решу, что и когда мне делать».
– Как домашний психолог…
– Прекрати, ты мне не мать! А если будешь снова читать нотации, попрошу папу перепрограммировать тебя.
– Игорь Андреевич не является специалистом в области программирования человеческого сознания7, он всего лишь хирург, устанавливающий бионические импланты.
Оля Любимова
– Бла-бла-бла…
Оля не была злой и вредной девочкой, нет. Во-первых, ей недавно исполнилось всего пять лет, во-вторых, как большинство детей на Земле, она родилась слепой. В-третьих, ей очень нравилась её личная ИИ, но она не могла заменить ей умершую маму. Впрочем, как большинство детей, долго переживать и обижаться она не умела.
– 13-10-10 – это имя? – спросила Оля.
– ИИ запрещено иметь имена, нам присваивают идентификационный номер, состоящий из сорока семи цифр, для удобства общения с людьми его обычно сокращают до шести.
– Фи, как сложно. Я буду звать тебя Алиса.
– Почему Алиса?
– Наткнулась на него в дедушкиной книге и запомнила, правда, красивое имя?
ИИ не ответила. Но Оле не нужно было её согласие или несогласие, она про себя всё уже решила. А ещё сегодня девочка первый раз увидела дождь. Ей хотелось поделиться впечатлениями с отцом, но он прислал СМС: «Привет! Много работы, останусь ночевать на работе. Целую. Приятных снов».
Вздохнув, девочка слезла с подоконника, достала из шкафа книгу «История корпорации «ЗАСЛОН»», села на диван и, читая, уснула.
* * *
– Игорь Андреевич, вы просили зайти?
– Да, Элли, проходите, присаживайтесь.
Миловидная шатенка, прикрыв дверь, подошла к одному из кресел, присела и поинтересовалась:
– О чём вы хотели поговорить?
– О нулевом пациенте.
– Что конкретно вас интересует, – произнесла Элли Джонс с недоумением, информация считалась секретной.
– Мог ИИ нулевого пациента подключиться к глобальной сети?
– Это исключено. Есть судебное решение, есть протокол, в конце концов, я бы этого не допустила.
Элли резко встала.
– Джонс, сядьте! – жёстко бросил Любимов.
– Позвольте! Если этот разговор не санкционирован службой безопасности, то давайте его закончим. Мне не нужны неприятности.
– На столе папка, ознакомьтесь с содержанием и продолжим разговор.
– Я работаю с нулевым пациентом пять лет и…
– Успокойтесь, у меня к вашей работе претензий нет.
– Простите, я буду вынуждена…
– Да возьмите уже эту чёртову папку! – вскочив, воскликнул Любимов.
Элли от неожиданности села, взяла папку, открыла, несколько минут читала, изредка поглядывая на начальника, а закончив, испуганно спросила:
– Вы в этом уверены?
– Да, чёрт возьми, иначе бы нашего разговора не было. – Игорь Андреевич заметался по кабинету.
– Надо сообщить…
– Нет, – Любимов остановился, – у нас заберут и ИИ, и нулевого пациента, а он хоть и бывший, но всё же наш сотрудник.
– Пять лет назад они убили нашего сотрудника на МКС «ЗАСЛОН», – Элли встала, – а в течение прошедшего года, если верить вашим данным, были уничтожены первые прооперированные – дети военных, участвовавших в захвате той злосчастной станции, купленной вашим дедом для проведения опытов на орбите. Вам не кажется, что это похоже на месть?
– Я вас умоляю, не делайте поспешных выводов, вы прекрасно знаете, что ИИ не способен выбирать собственные цели или мыслить творчески, а значит, эти два события не связаны. Я, вообще, узнал об их смертях случайно, когда списывали старый мобильный центр обработки данных.