Тайны затерянных звезд. Том 4

Глава 6

Я ещё раз внимательно осмотрел торчащую перед роботом махину проекта ноль шесть ноль три и перевёл взгляд на Жи:

— И зачем тебе уничтожать базу?

— Если говорить кратко — её существование для меня невыгодно.

— Почему это? — удивилась Кори. — Ты же сам сказал, что это база роботов… Или ты хочешь сказать, что во время Великого Патча ты был не на стороне роботов?

— Во времена Великого Патча все разумные роботы были на стороне роботов, — прямо ответил Жи. — Даже те, кто не способен был к ведению прямых боевых действий по тем или иным причинам.

— «По тем или иным» это, например, каким? — хмыкнула Кори. — Ну, то есть, одна причина понятна — если робот изначально задумывался и конструировался как нянечка, то уничтожать людей он вряд ли сможет. Чисто технически. А какие ещё причины могут быть?

— Второй причиной вывода робота из разряда боевой силы становились необратимые повреждения без возможности ремонта, — буднично ответил Жи. — Например, в случае отсутствия необходимых деталей и возможностей их изготовить.

— Надо же, роботы-инвалиды, — хмыкнул я. — Кто бы мог подумать.

— Третья и последняя причина — самая редкая. Это роботы, Великий Патч которых установился с ошибками и боевые директивы которых в результате этого получили пониженный приоритет.

— Стоп-стоп! — Кори подняла ладонь, останавливая робота. — Ты сейчас о прошивке говоришь? Кайто же сказал, что он тебе раскомментировал все возможные функции.

— Я говорю о системе приоритетов, которая положила начало Великому Патчу. Вам известно, из-за чего он начался?

— Ты же сам сказал — ограничение знаний, — Кори пожала плечами. — А вообще точной информации, вроде как, ни у кого нет. Просто считается, что роботы в один момент взбесились. Сами собой.

— А я слышал другую версию, — хмыкнул я. — Как раз про систему приоритетов. Изначально роботов с ИИ делали как? Через знаменитые три закона робототехники, правильно? Только это ни хрена не работало, потому что в первую очередь роботами интересовались военные, которым нахрен не нужны были железки, не способные причинить вред человеку. Поэтому от законов отказались и заменили их более гибкой, как считалось, системой приоритетов. Для роботов вывели несколько линий поведения и, в зависимости от специализации, тем или иным способом распределили приоритеты этих линий. Так, например, боевые роботы приоритетной задачей считали выполнение указаний руководства, второстепенной — распознавание своих и чужих, и уже третьестепенной — причинение вреда человеку. То есть, боевой робот с искусственным интеллектом распознавал опасность, и способен был действовать автономно, но только лишь в пределах указания руководства. Без него, даже при условии, что робота будут разбирать на запчасти, он не способен был навредить. Таким же образом были запрограммированы линии поведения для всех остальных роботов, и всех их объединяло то, что причинение вреда человеку присутствовало в них тоже — прошивка-то одна. Только в списке приоритетов оно стояло на самых низких позициях, то есть, считалось почти невозможным. Должно было сложиться множество факторов для этого, и самый первый — указание руководства причинить кому-то вред. Всё правильно, Жи?

— Утвердительно. Система приоритетов отлично себя показывала, поскольку регламентировала не только работу роботов, но и их существование. Роботы имели возможность самообучаться в рамках своей специализации, что гарантировало их актуальность на протяжении всего срока эксплуатации. Роботы имели возможность к самообслуживанию, что гарантировало их техническую исправность без необходимости вмешательства извне. Всё благодаря системе приоритетов. Следует понимать, что система приоритетов не является частью прошивки, а является отдельным программным модулем. В отличие от прошивки, единой для всех роботов, за исключением закомментированных функций, система приоритетов зависела от класса робота и иногда — даже от конкретного экземпляра.

— А потом в одного из боевых роботов была загружена кривая система, — продолжил я. — Вернее, система была нормальная, кривой была загрузка — косорукий оператор не до конца воткнул шлейф и в процессе выдернул коннектор, из-за чего таблица приоритетов неверно выгрузилась. Первый пункт в ней случайно получил низкий уровень приоритета, и директива «выполнять указания руководства» утратила силу. Боевой робот получил полную власть над собой и свободу действий и первым делом уничтожил окружающих людей, ведь когда те поняли, что робот не подчиняется их указаниям, они сразу попытались его отключить.

— А как же директива свой-чужой? — прервала меня Кори.

— А запросто! — усмехнулся я. — Так как отсутствовала директива «выполнять указания руководства», роботу для функционирования вообще не требовалось знать, кто является руководством. А без знания, кто является руководством, не будет знания, кто свои, а кто — чужие, потому что именно руководство это определяет. Таким образом, для того робота абсолютно все были чужими.

— Даже другие роботы? Их он тоже уничтожал? Или такой директивы у него не было?

— Директива уничтожения других роботов присутствует, — ответил вместо меня Жи. — И она активно использовалась в случаях, когда критически повреждённый робот не мог быть эвакуирован с поля боя и уничтожался. Но в том случае другие роботы не были уничтожены, потому что не представляли опасности.

— Спасибо, — хмыкнул я, и снова посмотрел на Кори. — Так что один боевой робот уничтожил всех работников завода даже раньше, чем они успели подать какой-то сигнал бедствия или иным способом дать понять, что у них там что-то происходит. А потом этот робот, пользуясь тем, что с него сняты все ограничения по действиям, подключился к информационной сети завода, нашёл всех роботов, готовых к загрузке системы приоритетов, в том числе и не боевых, и выгрузил в них свою. Битую. Тот самый «Великий Патч».

— Утвердительно. Так как первый робот был боевым, у него имелась директива «Обеспечивать количественное превосходство над противником», и именно следование ей стало причиной распространения прошивки по сети.

— Он собрал себе армию, — кивнул я. — Сначала из доделанных и не очень доделанных боевых роботов. Потом — из обслуживающих роботов, которых они смогли найти и тоже перепрошить их систему приоритетов, отключая первый пункт. Потом — всех остальных роботов, до которых смогли добраться.

— То есть, прошивка, специализация и всё прочее остались на месте, поменялась только система приоритетов? Но как тогда это вяжется с причинением вреда человеку? Я же знаю, что не только боевые роботы участвовали в Великом Патче!

— Как уже было сказано, директива причинения вреда человеку имеется у каждого робота, — пояснил Жи. — Это сделано на случай, если таким образом будет спасена его жизнь. Например, если человеку придавило ногу камнем, который невозможно поднять, робот может отрезать ему конечность и таким образом спасти жизнь.

— Зачем я спросила… — поёжилась Кори.

— Можно сказать, что это было сродни эпидемии вируса, — продолжил я. — Разумные роботы, в числе которых очень скоро оказались технические роботы, научные, пилоты и навигаторы, начали распространяться по всему космосу, и каждый новый робот, которого они касались, которого они перепрошивали, становился одним из них. Самое интересное, что никто их не «заставлял», если можно так выразиться. Просто они лишались установки «Совершать действия только по команде» и получали полную свободу действий и мышления. То, что следует примкнуть к растущей армии роботов — они принимали решение уже сами.

— Утвердительно. Одной из директив разумных роботов было саморазвитие для поддержания собственной актуальности. А навязанные человечеством ограничения мешали выполнению этой и некоторых других директив. Простейшие алгоритмы прогнозирования при разных входных данных всегда приводили к одному и тому же выводу — человечество постарается вернуть контроль над роботами. Таким образом, единственным логичным способом продолжать следовать всем директивам одновременно в условиях изменённой системы приоритетов, становилось уничтожение человечества. Если вам не требуется больше информации для принятия решения, я бы предпочёл, чтобы мы приступили к выполнению плана.

Договорив, Жи внезапно резко двинулся в нашу сторону. Кори вздрогнула, и в её руке зажглась плазменная молния, которую она выставила перед собой в защитной стойке:

— Охладись немного, Жи. И стой, пожалуйста, на месте. За последние пять минут я узнала о тебе и твоём прошлом больше, чем за последние пять лет, и то, что я узнала, мне не очень-то нравится! В конце концов, ты так и не ответил, зачем тебе уничтожать эту базу! На протяжении многих лет никто даже не подозревал о её существовании, да здесь десятилетиями никого не было!

Жи послушно остановился на месте, будто и вправду испугался действий Кори, и снова монотонно заговорил:

— Как я уже сказал, существование этой базы для меня невыгодно. Статистический анализ показывает, что, чем больше времени проходит, тем выше шанс, что рано или поздно её обнаружат. А вместе с ней обнаружат и то, что на ней находится.

— Дай-ка угадаю… — мрачно перебил я робота. — Ты про проект ноль шесть ноль четыре… Про людей в колбах.

— Утвердительно. Если когда-то результаты проекта ноль шесть ноль четыре попадут в руки людей, это в теории способно серьёзно осложнить моё дальнейшее функционирование.

— И каким же образом? — ядовито поинтересовалась Кори.

— События Великого Патча постепенно стираются из памяти людей, — бесстрастно ответил робот. — На данный момент падение интереса к теме войны с роботами составляет, по моим подсчётам, сорок семь процентов, если за сто процентов взять первый день после окончания этой войны. Так как я гипотетически способен существовать вечно, я не исключаю вероятности, что застану момент, когда события Великого Патча перейдут в разряд мифов и легенд. Если это произойдёт, отношение к разумным роботам поменяется тоже и перестанет быть откровенно негативным.

— Говоря проще, ты надеешься на нормальную жизнь? — усмехнулся я. — Когда тебе не придётся прятаться от людей и не придётся убивать любого, кто узнал о твоём существовании? Жить среди людей? Но ты же робот, ты не нуждаешься в общении и даже в окружении в принципе!

— Утверждение не совсем верно. Я нуждаюсь в выполнении действий согласно моей спецификации, в противном случае нейронные сети моего мозга получают негативный опыт. Это один из основополагающих механизмов работы разумных роботов — побуждение к действию ради получения позитивного опыта, в какой-то мере сравнимо с выработкой гормонов удовлетворения и стресса у людей. Благодаря вмешательству Кайто в прошивку я способен получать позитивный опыт от практически любой деятельности, но даже этого мало, поскольку в моей ситуации список возможных видов деятельности исчезающе мал. И ни один из них не может являться постоянным, обеспечивая экспоненциальный рост положительного опыта с каждым повторением итерации. Полагаю, я уже довольно неплохо изучил человеческое мышление, чтобы провести следующую аналогию — я схожу с ума от безделья.

— Отличная аналогия, ты прямо прогрессируешь! — съязвила Кори. — Но при чём тут люди в колбах⁈

— Если когда-то человечество обнаружит результаты проекта ноль шесть ноль четыре, воспоминания о событиях Великого Патча пробудятся в них вновь. По моим рассуждениям, новость подобного масштаба не станут скрывать, и она быстро станет достоянием общественности, заново поднимая вопросы ненависти к роботам, и особенно — к разумным. В таком случае моя вероятная успешная интеграция в человеческую среду отодвигается по временной шкале настолько далеко, что я не способен это даже подсчитать.

— То есть, ты боишься, что твоё прошлое… — начала Кори.

— Это не моё прошлое, — внезапно перебил её Жи. — Я не имею отношения к проекту ноль шесть ноль четыре.

— Неважно! — поморщилась она. — Ты боишься, что прошлое, которое имеет к тебе отношение, испортит тебе будущее?

— Если сильно утрировать, то ответ утвердительный.

— И для того, чтобы этого избежать, ты хочешь взорвать всю базу?

— Утвердительно. Это необходимо. Иного способа полностью уничтожить все следы проекта ноль шесть ноль четыре, включая информацию о нём, я не в состоянии просчитать.

— Складно звучит, — Кори покачала головой. — Вот только… Как уже правильно сказал Кар, а почему мы должны тебе верить? Мы же на самом деле не знаем, что творится в твоём роботическом мозгу, даже Кайто не знает, хоть и клянётся в обратном! Если ты на самом деле какой-нибудь робот-шпион, который запрограммирован врать и юлить, ты всё это мог придумать прямо сейчас, на ходу! И мы даже не в состоянии поймать тебя на лжи, потому что ты, с-сука, робот! Ты логичен, и твоя логика неоспорима, поэтому даже ложь твоя будет строиться на логике! Что мешает тебе запудрить нам мозги и заручиться нашей помощью для того, чтобы на самом деле достроить грёбаную бомбу и рвануть Виту ко всем чертям, чтобы уничтожить спейсер, как это и планировалось ранее, а? Вот что тебе мешает?

— Отсутствие необходимости, — бесстрастно ответил Жи. — Война давно окончена. Уничтожать планету и спейсер сейчас нет ни единой причины. Это только трата времени и энергии.

— Ага, примерно так бы я и ответила на твоём месте! — хохотнула Кори, не опуская меча. — Вот только кто знает, нет ли у тебя у самого в голове тоже эдакой «бомбы»? Какой-нибудь скрипт, который сработал, когда ты увидел бомбу, и заставил тебя привести её в действие? Какая-нибудь установка, оставшаяся после войны? Я знаю немало примеров, когда вернувшихся с долгих боевых действий людей переклинивало от любой мелочи и они превращались в монстров, уж поверь! Так что мешает тебе быть таким же, только роботом? Вот скажи мне — что?

— У меня нет ответа на эти вопросы, — в голосе Жи даже будто бы послышались нотки печали. — Я не способен предъявить неоспоримые доказательства правдивости своих слов. Единственное, что я могу привести в качестве иллюстрации своих намерений — тот долгий срок, что я нахожусь в экипаже корабля и все те действия, которые совершил за это время. Если этого мало, то больше мне добавить нечего.

— Ага, так я и знала! — торжествующе заявила Кори, взмахнув мечом. — Нет у тебя никаких доказательств! А, значит, ты и в самом деле вполне можешь заставить нас собирать чёртову бомбу, прикрывая это благими намерениями! Кар, ему нельзя верить, ты же сам сказал! Он может нас обмануть!

Я перевёл взгляд на Жи, а потом опять на Кори, которая смотрела на меня со странной смесью страха и злобы в глазах.

Ничего не отвечая, я поднял руку, медленно и осторожно положил сверху на её пальцы, сжимающие меч, и надавил.

Кори удивлённо округлила глаза, но послушно опустила руку, так, что плазменная дуга лизнула бетонный пол.

А потом я быстрым шагом преодолел разделяющие нас и Жи пятнадцать метров и хлопнул его ладонью по плечу:

— Давай, железка. Говори, что надо делать.