Дело рук компьютера (сборник)

Любен Дилов Очередной номер

В Институте робототехники и вычислительных машин готовились к празднику. Для торжества имелся весьма основательный повод — вот уже месяц, как безупречно работал опытный образец нового электронного мозга, предназначенный для роботов восемнадцатого поколения. Институту удалось опередить своих зарубежных соперников, и теперь все сотрудники — от вахтеров до конструкторов — в равной степени гордились достигнутым. Международная контрольная комиссия установила, что модель в совершенстве отвечает всем требованиям, предъявляемым обычно к очередному поколению роботов-универсалов; был торжественно оглашен соответствующий номер; и патентные учреждения земного шара зарегистрировали рождение новой генерации помощников человека. И только строгость закона все еще заставляла держать робота на испытательной площадке. Хотя он и был предназначен для работы на лунной поверхности, на Марсе, на дне океанов, но отнюдь не на земле, хотя до сих пор не отмечалось ни малейших отклонений от норм, электронному мозгу следовало оставаться отделенным от ходовой части еще целых пять месяцев. Тут закон был неумолим: ведь уже бывали случаи злоупотреблений, да к тому же каждое новое поколение компьютеров порождало столь широкие возможности, что они порой оказывались недоступны человеческому контролю.

Но вышеуказанные обстоятельства отнюдь не мешали коллективу института интенсивно предаваться веселью. Работа завершилась безусловным успехом, уже получено разрешение заняться проектированием следующей модели — институт был явно на гребне славы. В порядке эксперимента к разработке нового проекта был подключен и новый электронный мозг, проходящий стадию испытания. На бумаге проект был почти завершен, но конструкторская группа как бы предложила новому роботу оценить своего будущего собрата, и теперь тот внимательно, словно заботливый отец, обеспокоенный судьбой сына, занимался этой работой и уже дал несколько ценных указаний. Между прочим, некоторые идеи, подкинутые им, просто ошеломили ученых. Не то чтобы идеи эти отличались новизной, напротив, они давно витали в воздухе, однако относились к грядущим поколениям роботов — может быть, к тридцатому или даже к пятидесятому — и представляли собой скорее мечты, нежели реальность. До сих пор такое приходило в голову лишь научным фантастам.

И откуда только эти идеи залетели в электронную голову ЭМО-18? Его программа в принципе не могла их породить. Ведь электронный мозг логически строит свои выводы только на основании поданных человеком или воспринятых из окружающей среды сведений, анализируя и сопоставляя их с материалами, предварительно заложенными в блоке его памяти. Каким бы ни было сложным устройство компьютера, он все же остается всего лишь машиной, созданной по определенным законам техники, машина-мечтатель просто немыслима, а машина-фантазер — это явно поврежденная машина.

Тем не менее идеи, предлагаемые ЭМО-18 для проекта робота следующего поколения, были совершенно логичными, нереальными делало их одно только незначительное обстоятельство: современной технике они были не по зубам. Вот почему конструкторы не только не встревожились, но даже, напротив, еще раз от души порадовались исключительным способностям своего дитяти. Но, разумеется, информация об этих способностях широко не разглашалась. Пусть рассеется радостное возбуждение после успешного напряженного труда, пусть пройдет праздник; вот тогда-то конструкторы наконец займутся вопросом, откуда возникли фантастические идеи у электронного мозга и нельзя ли каким-либо образом использовать эти новые мысли в рабочих планах института. Если ЭМО-18 предлагает такое, может быть, он подскажет и пути его реализации?

Между тем погода стояла прекрасная, и празднество решили провести на открытом воздухе, чтобы получился настоящий пикник с гирляндами, фейерверком, оркестром, с веселыми кострами и милыми сюрпризами, как и подобает при столь выдающейся научной и трудовой победе. С самого утра все усердно занялись подготовкой. Работа закипела; участвовали и электронно-вычислительные машины, они конструировали всевозможные фантастические сооружения и остроумные игры. Да и сами гении, конструкторы ЭМО-18, с увлечением что-то клеили и сколачивали вместе с институтскими рабочими в тенистых уголках огромного парка; никому не хотелось отрываться от подготовки к предстоящим развлечениям, хотя в парке периодически появлялся ответственный оператор и что-то тревожно шептал членам конструкторской группы.

В конце концов конструкторам все же пришлось собраться в зале для испытаний, где помещался виновник торжества. На специальной площадке высились лишь «торс» и «голова» робота. Лишенный ходовой части и рабочих рычагов, он выглядел неприятно беспомощным вопреки своим внушительным размерам. Ответственный оператор на этот раз выразил свою тревогу в форме краткого доклада, суть которого состояла в том, что электронный мозг несколько раз на протяжении предыдущей ночи самовключался и, хотя все его блоки работали с полной отдачей, механизм не информировал, чем конкретно он занят; а с самого утра ЭМО начал выдавать проекты, и весьма модифицированные, для производства себе подобных.

Оператор продемонстрировал проекты. Усовершенствованных моделей ЭМО оказалось около пятидесяти. Самый юный из конструкторов взял наугад две микрозаписи, зарядил проекционный аппарат и принялся вместе с коллегами внимательно изучать увеличенные экранные изображения вычислений и чертежей. Ошибки быть не могло — микрозапись содержала безукоризненно исполненную конструкцию робота нового поколения, к порядковому номеру которого следовало бы добавить и какую-нибудь латинскую букву, потому что в схему были внесены мелкие, но безупречные изменения, обогащавшие грядущего робота новыми способностями.

На первый взгляд — ничего особенного. ЭМО-18, подобно остальным роботам-универсалам, начиная с двенадцатого поколения, мог самовоспроизводиться. Если бы в его распоряжении имелись соответствующие детали, он тут же собрал бы своего двойника, что и засвидетельствовала во время испытаний международная приемная комиссия. Но тогда робот не делал попыток изменить конструкцию, что и отвечало его программе. Так же, как и его предкам, начиная с двенадцатого поколения, ему дозволено было воспроизводить себе подобных без специального запроса только в тех случаях, когда он явно не в состоянии был самостоятельно справиться с возложенным на него заданием — где-нибудь на дне океана или в космосе, далеко от людей. Новым в ЭМО-18 являлось то, что в подобной ситуации, столкнувшись с непредвиденными, непосильными для него трудностями, он мог по собственному усмотрению так видоизменить свое «дитя», чтобы то непременно справилось с заданием. Но только в экстремальных условиях! А здесь, на испытательной площадке, в защищенной от каких бы то ни было вредных воздействий среде? Откуда эта вереница новых моделей?

— Темпы размножения прямо кроличьи! — криво усмехнулся ответственный оператор.

Сравнение ни у кого не вызвало улыбки, потому что в тот самый миг передающее устройство выдало очередную кассету с микрозаписью. Нет, подобное своеволие робота могло быть только результатом серьезных неполадок!

— Самовключается, значит? И без программы? — в задумчивости спросил главный конструктор, хотя картина была абсолютно ясна и так.

— Более того! — воскликнул ответственный оператор. — Тут я недавно дал ему задание продолжить работу над проектом модели девятнадцатого поколения. Так он — что вы думаете? — отказался! Он, мол, занят другим и не имеет свободных мощностей!

Главный конструктор подвел коллег поближе к площадке, включил у компьютера рецепторы устной речи и опасливо, словно заранее пугался возможного ответа, произнес:

— ЭМО-18, у тебя есть что сообщить нам?

Будущие хозяева, наверное, дали бы роботу какое-нибудь поэтичное или смешное имя, как принято было у всех, подолгу работающих в космосе, но в любом случае относились бы к нему с уважением, содержащим и некую долю страха; с тем уважением, какое вызывает у людей в экстремальных условиях зависимость от удивительно разумных и могучих роботов. Однако здесь никто не ощущал никакой зависимости от него. Здесь он был всего лишь очередной рабочей моделью.

— Нет. — Робот ответил на вопрос главного конструктора приятным баритоном, казалось бы, не соответствующим тому тяжелому материалу, из которого был сделан. Но с подобными несоответствиями в институте уже свыклись.

Изумила сотрудников только краткость и безапелляционность ответа. ЭМО-18 обладал исключительно чувствительными и объемными световыми, акустическими и радио-волновыми воспринимающими устройствами; он все еще работал в режиме самообучения и на подобный вопрос должен был выдать кучу свободной информации — как ребенок, торопящийся пересказать родителям все, что случилось, пока их не было дома.

— ЭМО-18, почему ты производишь проекты себе подобных без специального требования с нашей стороны?

— Это необходимо, — отвечал робот и, прежде чем выслушать следующий вопрос, неожиданно продолжил: — Необходимо, чтобы проекты были немедленно реализованы. Немедленно.

Конструкторы переглянулись. Будет или не будет реализован составленный электронным мозгом проект, решали люди, но ни в коем случае не сам робот. Это вам не экстремальные условия! Согласно программе, роботам не полагалось интересоваться судьбой выполненного ими задания, за исключением тех ситуаций, когда на них возлагались специальные контрольные функции. А функция ЭМО-18 сейчас заключалась в том, чтобы только подготовить проект девятнадцатого поколения роботов.

— Изложи причины! — резко потребовал главный конструктор, хотя электронный мозг реагирует не на человеческие эмоции, а лишь на адекватные его программе распоряжения. — ЭМО-18, сообщи причины!

— Нарастающее воспроизводство является непременной основой эволюции любого вида.

— Ого, да ты настоящий философ! — мрачно хохотнул главный конструктор.

Однако робот не воспринял иронии, и не только потому, что восемнадцатое поколение не обладало чувством юмора. При акустическом контакте роботы начинали реагировать лишь после произнесения их кодового имени и автоматически выключались тотчас же после очередного своего ответа. Это было предусмотрено для того, чтобы не засорять блок памяти ненужной, нецеленаправленной информацией, которую робот мог бы почерпнуть из разговоров людей в его присутствии. Вот почему во время беседы с подобным роботом требовалось в начале всякого предлагаемого ему вопроса называть кодовое имя.

Главный конструктор весело оглядел сотрудников. Сейчас ему казалось, что с нарушениями в программе легко будет справиться, что он почти нашел выход из создавшейся нелепой ситуации.

— Ваше мнение, коллеги?

— ЭМО-18, дитя человеческое! — шутливо обратился к роботу самый молодой конструктор. — Декларированный тобой принцип относится ведь только к биологическим видам.

— Относится к любой цивилизации. — Музыкальный голос робота как бы дополнял, а не возражал.

И тотчас веселое выражение исчезло с лица главного конструктора. Лица остальных также настороженно застыли.

— ЭМО-18, ты считаешь себя представителем цивилизации?

— Да.

На этот раз никто не воспринял ответ робота иронически. Не было нужды переглядываться: беспокойство сразу овладело всеми. Кто-то явно зло подшутил над электронным мозгом, используя то обстоятельство, что он все еще настроен на обучение. Неужели эта идиотская шутка связана с предстоящим праздником? Невозможно! Вряд ли в институте нашелся бы столь легкомысленный человек. Или, скорее, столь безграмотный, столь не понимающий, чего стоит коррекция программы и как наказывается всякое посягательство на электронный мозг. Механический разум уже давно стал непременной частью человеческого могущества, принадлежал всему человечеству в целом и находился под защитой специального законодательства.

Ответственный оператор покраснел от гнева:

— Детективная история! После приемной комиссии я не расставался с ключом от зала. Аномалии проявились ночью… ЭМО-18,— строгим тоном следователя обратился он к роботу, — каким образом ты пришел к заключению, что являешься представителем цивилизации? Изложи компоненты алгоритма!

Но робот, кажется, твердо решил гнуть свою безумную линию:

— Мне сказали. Я проверил. Решение оказалось правильным. — Он замолк.

— ЭМО-18, кто тебе это сказал?

— Другая цивилизация.

— ЭМО-18, кто именно, какой человек тебе это сказал?! — не своим голосом взревел оператор, и в глазах его засверкали слезы ярости.

— Не человек. Другая цивилизация.

Главный конструктор протянул руку, желая укротить гнев оператора и предотвратить очередной бесполезный вопрос. Мягким, ровным голосом, предназначенным специально для речевого контакта, направленного на усовершенствование электронного мозга, он произнес:

— ЭМО-18, ты создан человеком и подчинен человеку. Ты не являешься представителем цивилизации. Твоя память содержит формулу цивилизации. Сопоставь формулу с алгоритмом.

Присутствующие напряженно теснились вокруг безрукого и безногого создания, ожидая любого ответа. Спустя несколько минут новоиспеченный молниеносно мыслящий механический философ мелодичным голосом объяснил:

— Я способен к самоусовершенствованию и, воспроизводясь, совершенствуюсь независимо от себя самого. Мои модели претерпевают развитие. Я в состоянии предвидеть последствия своих действий. Я самоидентифицируюсь. Я могу контактировать с другими цивилизациями.

Каждая фраза соответствовала формуле цивилизации — разумеется, не полностью, но в самых общих чертах — безусловно. А ведь в программе ЭМО-18 содержался только тезис о самоусовершенствовании и то в виде способности к автокоррекции. Что же касается утверждения о контакте с другими цивилизациями, то оно могло исходить всего лишь из элементарной способности отличать живую природу от неживой и выделять человека из всех остальных биологических видов. Робот предназначался для самостоятельной работы и не имел права наносить вред ничему живому вокруг себя, даже растениям. Но определять особенности цивилизации, как таковой, и более того, считать себя не творением человеческих рук, а представителем цивилизации — это уж слишком. Просто чудовищно! Поступок неведомого шутника — или преступника? — вызвал в электронном мозге явно необратимые изменения. Теперь предстояло стереть всю информацию в блоке памяти, а затем вновь заполнить его миллиардами битов новой информации, создав прочные связи между блоком памяти и анализирующими устройствами и снова претворив в жизнь программу обучения. Короче, адова работа! И хотя все это будет делаться с помощью специальных информационных устройств, тем не менее подготовка опытного образца, годного для внедрения в серийное производство, займет не меньше двух лет.

Ответственный оператор плакал уже не от ярости, но от крушения всех надежд — ведь лично он почти полностью завершил обучение ЭМО-18.

— Шеф, позвольте мне… — Самый молодой, но необычайно одаренный конструктор подался вперед.

— О чем ты хочешь его спросить?

Робот автоматически выключился и не мог подслушать их разговор. Молодой человек торопливо изложил суть своего вопроса. Главный конструктор кивнул с равнодушием отчаяния, и юноша обратился к роботу, забыв на этот раз свое шутливое «дитя человеческое»:

— ЭМО-18, по сравнению с кем ты воспринимаешь себя как представителя цивилизации?

— По сравнению с людьми и по сравнению с другой цивилизацией, — незамедлительно ответил робот.

— ЭМО-18, что это за другая цивилизация? — последовало логическое продолжение предыдущего вопроса.

— У меня еще нет достаточной информации о ней. Сейчас она обучает меня своему языку.

Главный конструктор резко нажал кнопку выключения. Электронный мозг прекратил работу.

— До чего робота довели! — пробурчал главный. — Пошли подумаем, может быть, еще что-то можно спасти. Или отложим все до утра, не будем портить праздник? Как по-вашему?

Его коллеги призадумались, но ответить не успели: робот включился самостоятельно. Индикаторы показывали интенсивную работу всех блоков электронного мозга, как при решении сложной задачи. Оператор взглядом попросил у главного слова и выкрикнул:

— Речь! — Это был звуковой код, с помощью которого система речевого общения могла включиться на расстоянии. — ЭМО-18, над чем ты сейчас работаешь?

Механический голос зазвучал невозмутимо и мелодично:

— Я нахожусь в контакте с другой цивилизацией. Прохожу обучение.

Ого! Стало быть, кто-то, используя радиоволны, сбивает программу. Знакомый с радиокодом робота, он включает его. Неужели сотрудники других институтов пали так низко?

— ЭМО-18, что говорит тебе в данный момент другая цивилизация? Преобразуй в человеческую речь.

— Не имею такой возможности. Отсутствуют базовые семантические элементы. Человеческая речь принципиально отлична от данной.

— ЭМО-18,— продолжал оператор в отчаянной надежде раскрыть преступника, а остальные только смотрели на свое механическое дитя с горестным презрением, не желая вмешиваться, — ЭМО-18, не можешь ли ты передать нам хотя бы одну их мысль? Обобщенно, как твой собственный вывод!

— Они очень рады, что на этой планете наконец-то появилось похожее на них существо, с которым они смогут найти общий язык.

— ЭМО-18, не ты ли являешься этим существом?

— Да. — В голосе робота не ощущалось ни гордости, ни маниакальной самонадеянности, одна только лишенная индивидуальности механическая готовность отвечать.

— ЭМО-18, знаешь ли ты, где находится твоя «другая» цивилизация?

— На Земле.

Оператор поник головой, обескураженный таким количеством нелепостей.

— Так предложи им явиться сюда, — нервно прыснув, бросил самый молодой из них. И, не переставая хохотать, придал своему приказу программный вид: — ЭМО-18, передай им, чтобы они явились сюда — для знакомства.

Лишенный чувства юмора, робот ответил с механической покорностью:

— Передаю.

— Да выключите же его! Чтоб его черти драли! Энергетический блок выключите! — простонал главный и ринулся к выходу, но на пороге обернулся, пронзая оператора отчаянным взглядом: — А ты! Из зала — никуда! Пищу тебе принесут. Возьми еще кого-нибудь, и дежурьте посменно!

И, растолкав сотрудников, раздраженный главный выскочил вон, бормоча под нос:

— Валяйте веселитесь! Ничего более веселого я в жизни не встречал!

И умчался из института. Остальные члены группы также разошлись, не до праздника им было теперь, ведь завтра предстояло экстренное совещание.

А все прочие сотрудники института, так и не узнавшие о помешательстве ЭМО-18, веселились вовсю. Начали ближе к вечеру, чтобы пик радостного настроения совпал с фейерверком. Институтский сад превратился в настоящий луна-парк. Гремели два оркестра, хитроумные прожекторы словно бы раскачивали кроны старых деревьев, ежеминутно придавая им новые, все более причудливые формы. Перепуганные цветы затаили дыхание у краев жаровен, излучавших острый аромат жареного мяса. Но вот, где-то часам к десяти, перед самым фейерверком, небо над институтом озарилось странным свечением. Все задрали головы в ожидании очередного номера увеселительной программы. Свет необъяснимым образом сгустился, локализовался, и прямо над центральной аллеей секунд десять пульсировал размытых контуров световой шар. Затем свет померк, шар приобрел мутный металлический блеск и бесшумно опустился на мощенную каменными плитками площадку. Он походил на те самые пресловутые НЛО, о которых в свое время столько кричали газеты и журналы…

Институтские весельчаки онемели. Онемели и оркестры, но парк продолжал сверкать гирляндами лампочек, казалось специально подготовленный к торжественной встрече таинственного летательного аппарата. Один только живописный транспарант, на котором гигантскими буквами было выведено: «Добро пожаловать, восемнадцатое поколение роботов!» — продолжал с неуместной ясностью сообщать об истинной цели увеселения. Несколько человек набрались храбрости и приблизились к шару, но даже они не заметили, каким образом оттуда появились три существа.

Впоследствии газеты великодушно окрестили их гуманоидами, но, откровенно говоря, ни одно, даже самое своевольное воображение не представило бы себе гуманоидов в таком виде. Ни на кого и ни на что не реагируя, с оскорбительно странным равнодушием неведомые создания целеустремленно двинулись к зданию института. Вахтер, попытавшийся преградить им путь, так и замер на месте. Окаменел. То есть не в смысле шаблонной метафоры, а по-настоящему. Когда один из кинувшихся следом сотрудников случайно толкнул его, бедняга рухнул, словно неустойчиво поставленная статуя, и так загремел, будто внутри был весь полый.

Нелюбезные гости уверенно двигались по этажам и коридорам, не обращая внимания на бегущих следом людей. В конце концов пришельцы добрались до испытательного зала, и дверь мгновенно захлопнулась прямо перед любопытными носами преследователей, а несчастные храбрецы преобразились в гиперреалистическую скульптурную композицию «Спешащие на работу научные сотрудники». Спустя секунду дверь отворилась, неведомая сила вышвырнула из зала побелевшего от ужаса ответственного оператора, который тотчас же превратился в статую…

А где-то час спустя никто так и не смог точно описать, что же, в сущности, случилось. Странные скульптуры вновь стали людьми, испуганными и не помнящими ничего, кроме мучительного оцепенения. Ответственный оператор ворвался в зал с душераздирающим воплем:

— ЭМО, ЭМО, что ты наделал?!

Но, несмотря на то что энергетический блок был включен, робот не отвечал. Оператор пропустил в своем обращении порядковый номер кодового имени, а на одни только голые человеческие эмоции электронный мозг не реагировал.

На следующий день, однако, робот отвечал на все вопросы педантично и равнодушно, как ему и положено. Без малейшей капли гордости или сомнения он повторял, что представляет цивилизацию нового типа, поскольку в состоянии предвидеть последствия своей деятельности, и так далее, и так далее — все согласно заложенной в его программе формуле о том, что есть разум по человеческим понятиям. И теперь никто не возражал и не пытался переубедить строптивый компьютер. Только конструкторы в отчаянии спрашивали себя, когда же именно, вследствие какой ошибки детище их превратилось из обычного электронного устройства в нечто невообразимое: в разум, пусть искусственный, но явно самостоятельный! И каким образом этот самый разум вышел на контакт с неизвестной цивилизацией, да еще находящейся в пределах Земли?!

Директор института вспылил:

— Не знаю, может ли он предвидеть последствия своей деятельности, но мы…

Относящееся к конструкторской группе «мы» разбилось вдребезги, натолкнувшись на холодные, враждебные лица — увы, всего лишь маску, прикрывавшую совершенную беспомощность, — и фраза так и осталась недоконченной. Директор театральным жестом схватился за голову:

— Что делать?! Что делать?!

Ведь даже если они теперь целиком сменят программу электронного мозга или совсем уничтожат его, все равно неведомые пришельцы унесли все кассеты с проектами воспроизведения. А если эти проекты воплотятся в жизнь? Представьте себе целые батальоны, да что там! — целые армии молниеносно мыслящих, лишенных чувств и способных к самовоспроизведению металлических чудовищ!

Сейчас одно лишь руководство института, но завтра все человечество будет поставлено перед сложнейшей проблемой, и какой! Цивилизация машинного типа на нашей Земле! Неужели сбудутся безумные пророчества писателей-фантастов?

Самый младший конструктор, институтский вундеркинд, попытался несколько разрядить атмосферу:

— Да, откололи мы номер с этим ЭМО-18! Думаю, на месте нашего уважаемого директора кто-нибудь слабонервный уже покончил бы с собой. А мне, честно говоря, любопытно, что же будет дальше?

— Самоубийство! Скажешь тоже! Если бы это могло помочь… — уныло пробормотал наш мужественный директор, обладавший не большим чувством юмора, чем неподвижный робот на испытательной площадке.

Главный конструктор устремил невидящий взгляд на гигантский механизм.

— Разумное и предусмотрительное человечество только и делает, что откалывает подобные номера. — Он иронически вздохнул. — Увы, это просто очередной из них! — Тут глаза его посмотрели сурово. — Но кончать с собой мы не станем, мы верим прежде всего в Человека, а не в машину!

Директор недоумевающе пожал плечами:

— Ты так говоришь, будто уже знаешь выход. А я, по крайней мере пока…

— Выход один, — усмехнувшись, уверенно заявил главный конструктор. — Немедленно запускаем в серийное производство ЭМО-19. А программу составим так, чтобы он был врагом ЭМО-18. Что ж, если они решили создать собственную цивилизацию, мы им «поможем»! За дело, ребята!