Три закона роботехники:
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
2. Робот должен повиноваться всем приказам человека, кроме тех случаев, когда эти приказы противоречат Первому закону.
3. Робот должен заботиться о собственной безопасности в той мере, в которой это не противоречит Первому и Второму законам.
Перед фирмой «Ю. С. Роботс энд Мекэникл Мен Корпорейшн» стояла серьезная проблема. Этой проблемой были люди.
Питер Богерт, Главный Математик, встретил директора научно-исследовательского отдела Альфреда Лэннинга на пути к залу заседаний. Опираясь о перила балкона и свирепо хмуря седые брови, Лэннинг разглядывал расположенное внизу помещение вычислительного центра. Там стояла группа посетителей — мужчин и женщин различного возраста; с любопытством осматриваясь по сторонам, они внимали пояснениям своего гида.
— Компьютер, который вы видите, — рассказывал он, — самый большой в мире среди вычислительных машин подобного назначения. Он содержит пять миллионов триста тысяч криотронных ячеек и способен обрабатывать численные массивы, включающие более ста тысяч переменных. С его помощью специалисты «Ю. С. Роботс» производят сложнейшие вычисления, необходимые при проектировании позитронных мозгов для роботов новых моделей.
— Задания, поступающие в компьютер, предварительно кодируются на пленку с помощью этой клавиатуры, — гид показал рукой на панель с множеством клавиш и кнопок. — Она похожа на очень усложненную клавиатуру пишущей машинки или линотипа и содержит, кроме букв, ряд математических и логических символов. Здесь задание переводится с человеческого языка на логически строгий язык вычислительных машин. Затем оно вводится в компьютер, которому требуется всего около часа, чтобы выдать нашим специалистам полную позитронную карту мозга новой модели…
Лэннинг недовольно отвернулся и, наконец, заметил математика.
— А, Питер, это вы, — сказал он.
Богерт провел ладонями по голове, приглаживая свои и так уже идеально приглаженные черные волосы, и произнес, кивнув на группу экскурсантов:
— Не похоже, чтобы это вас сильно занимало, Альфред.
Лэннинг иронически хрюкнул. Идея о проведении подобных экскурсий возникла недавно; по мнению некоторых руководителей «Ю. С. Роботс», они должны были способствовать решению двух проблем. Во-первых, как утверждали психологи, ознакомление с процессом производства роботов способно уменьшить тот инстинктивный страх, который питали люди к этим механическим созданиям. Во-вторых, среди посетителей могли оказаться способные молодые люди, способные посвятить свою жизнь роботехнике.
— Вы правы, меня это не занимает, — сказал, наконец, Лэннинг. — Раз в неделю все работы приостанавливаются. Мы теряем много сотен человеко-часов, не получая взамен почти никакой пользы.
— Значит, притока новых специалистов пока не наблюдается?
— Нет, есть кое-что, но только в таких областях, которые не являются жизненно важными. Нам нужны творческие люди, способные к научной работе. Вы сами это знаете. Однако после запрещения использовать роботов на Земле роботехника стала непопулярной профессией.
— Проклятый комплекс Франкенштейна, — сказал Богерт, довольно удачно имитируя одну из любимых сентенций Лэннинга.
Но тот, оставив без внимания эту дружескую шпильку, продолжал:
— Я должен был бы использовать полезные результаты от этих посещений, но я не могу использовать то, во что не верю. Вы полагаете, что теперь каждый человек на Земле знает, что Три закона являются идеальной охранительной системой, что роботы просто не могут стать опасными? Посмотрите на этих, — он пренебрежительно ткнул вниз пальцем. — Большинство из них проходит через сборочный цех с трепетом и ужасом, как через кладбище с ожившими мертвецами. А потом, когда им показывают модель МЕК… Черт побери, Питер, модель МЕК, которая умеет сделать только два шага вперед, произнести «Добро пожаловать, сэр», пожать руку и затем сделать два шага обратно… матери хватают детей на руки и все в панике бросаются прочь… Можно ли ожидать, что мы найдем нечто полезное среди таких идиотов?
Богерт не ответил. Стоя рядом на балконе, они снова посмотрели вниз, на цепочку посетителей, проходивших теперь из вычислительного центра в секцию сборки позитронного мозга. Затем они продолжили свой путь в зал заседаний. Поэтому они не заметили Мортимера В.Джекобсона, шестнадцати лет от роду, который… Впрочем, следует быть справедливым к нему — он не хотел сделать ничего плохого.
В действительности же нельзя сказать, что Мортимер был в чем-то виноват. День недели и время проведения экскурсий были отлично известны работникам «Ю. С. Роботс». Все приборы и установки, расположенные по пути следования посетителей, подлежали обязательному отключению, поскольку было бы неразумным надеяться, что человеческие существа могут противостоять соблазну потрогать ручки, переключатели и кнопки. Кроме того, в задачу гида входило неусыпное наблюдение за теми, кто поддавался искушению.
Но на этот раз сопровождающий проходил в следующее помещение, когда Мортимер случайно оказался на самом конце цепочки. Он проходил мимо пульта, с помощью которого в компьютер поступали задания. Он даже не подозревал, что в этот момент в машину вводились исходные данные для проектирования новой модели, иначе он, будучи хорошим мальчиком, обошел бы пульт на расстоянии трех ярдов. Он не мог также знать, что пульт не был выключен из-за почти преступной небрежности дежурного техника.
Итак, Мортимер коснулся клавиш и пробежал по ним пальцами, как по клавиатуре пианино. Он, конечно, не заметил, что в ответ на этот аккорд из установки, расположенной в другой части огромного помещения, бесшумно появился кусок перфоленты.
Не заметил того и дежурный техник. Он немного растерялся, заметив, что пульт не был выключен, но не додумался провести проверку. Через несколько минут его растерянность прошла и он продолжил ввод данных в компьютер.
Новые роботы модели ЛНЕ предназначались для добычи бора в поясе астероидов. Гидриды бора из года в год поднимались в цене; это уникальное сырье использовалось в протонных микрореакторах — основных энергетических установках космических кораблей. Скудные земные запасы бора продолжали уменьшаться, что сделало разработку месторождений на астероидах с помощью роботов необходимой и достаточно выгодной.
На деле это означало, что роботы модели ЛНЕ оборудовались глазами-датчиками, чувствительными к спектральным линиям бора, и приспособлениями, предназначенными для переработки руды в конечный продукт. Как всегда основная проблема заключалась в создании специализированного позитронного мозга.
Первый робот типа ЛНЕ был уже готов. Это был прототип, который после испытаний помещался для хранения в коллекцию прототипов «Ю. С. Роботс». Высокий, стройный, с блестящим полированным корпусом, он выглядел так же, как любой другой робот широкого применения.
Техник, проводивший его проверку, спросил в соответствии с указаниями «Руководства по роботехнике»:
— В каком ты состоянии?
Ожидаемый ответ должен был звучать примерно так: «Я в полном порядке и готов к выполнению своих функций. Я надеюсь, что вы тоже отлично себя чувствуете». Этот первый тест не преследовал какую-либо специфическую цель; он просто показывал, что робот может слышать, понимать простые вопросы и отвечать на них. Затем, согласно «Руководству», задавались более сложные вопросы. По реакции и ответам робота можно было проверить выполнение Трех законов и выяснить особенности их взаимодействия со специальными знаниями роботов каждой конкретной модели.
Итак, техник спросил:
— В каком ты состоянии?
Спустя мгновение он был потрясен тембром голоса прототипа ЛНЕ. Этот голос звучал совершенно иначе, чем голоса других роботов, а их технику доводилось слышать немало. Каждый слог, который произносил ЛНЕ был подобен удару колокола, звучащего в низкочастотном диапазоне. Это было так удивительно, что только через минуту до техника дошло, что, собственно, говорил робот. Он бубнил:
— Ба, ба, ба, да, да, гу, гу.
Потом он сунул палец правой руки в рот.
Техник замер от удивления и ужаса. Потом он выскочил за дверь, тщательно запер ее и стал звонить доктору Сьюзен Кэлвин.
Доктор Сьюзен Кэлвин была единственным робопсихологом «Ю. С. Роботс». Фактически она являлась единственным специалистом подобного рода среди земного человечества. Кэлвин не стала проводить детальную проверку прототипа ЛНЕ; сначала она затребовала нарисованную компьютером карту-чертеж позитронного мозга робота и программу, управляющую процессом его создания. Потратив некоторое время на изучение этих материалов, она послала за Богертом.
Когда математик вошел в комнату, она повернула к нему свое бледное, холодное лицо, прорезанное вертикальными морщинами и перечеркнутое щелью тонкогубого рта, и сухо спросила:
— Что это, Питер?
Богерт изучал указанный ею фрагмент программы с возрастающим изумлением. Наконец, он поднял глаза и сказал:
— Боже мой, Сьюзен, в этом нет никакого смысла.
— Конечно нет, но как это попало в программу?
Был вызван и допрошен техник, который искренне поклялся, что это не его работа. Попытка разыскать следы преступника с помощью компьютера также не привела к успеху.
— Этот позитронный мозг, — задумчиво сказала Сьюзен Кэлвин, — невозможно восстановить. Так много высших мыслительных функций нарушено этими бессмысленными инструкциями в программе, что в результате получилось нечто близкое к мозгу ребенка.
Богерт удивленно поднял брови, и Сьюзен Кэлвин немедленно приняла холодный вид, как она делала всегда, когда кто-нибудь выражал сомнение в ее словах. Пристально глядя на математика, она сказала:
— Мы стремимся максимально приблизить мышление робота к человеческому. Уничтожение того, что мы называем «взрослыми функциями» мозга, привело к естественному результату — мы получили ребенка. Почему же это вас так удивляет, Питер?
Прототип ЛНЕ, никак не реагировавший на происходящие вокруг него события, внезапно с грохотом уселся на пол и принялся исследовать свои нижние конечности. Богерт пристально взглянул на него и сказал:
— Жаль, что придется разобрать его. Внешний вид у него очень представительный.
— Разобрать? — сказала робопсихолог, повысив тон.
— Конечно, Сьюзен, какой от него прок? Господи, если есть что-либо совершенно бесполезное, то это робот, который не может выполнять работу, для которой он предназначен. Вы ведь не думаете, что найдется работа, которую это создание сможет выполнять?
— Нет, конечно, нет.
— Ну тогда в чем же дело?
Сьюзен Кэлвин упрямо сказала:
— Я хочу провести его подробное изучение.
Богерт с недоумением взглянул на нее, затем пожал плечами. Если в «Ю. С. Роботс» и была какая-нибудь личность, споры с которой являлись бесполезным занятием, так это, без сомнения, Сьюзен Кэлвин. Роботы являлись для нее всем, что она понимала и любила; и, как всегда казалось Богерту, долгое общение с ними лишило ее всяких признаков человечности. Он давно убедился, что споры с ней так же продуктивны, как с отключенным ядерным реактором. Поэтому Богерт только вздохнул и спросил:
— Вы дадите знать, когда закончите испытания?
— Непременно, — ответила она. — Пойдем, Лэнни.
(«ЛНЕ, — подумал Богерт. — Значит, он становится Лэнни. — Это неизбежно».)
Сьюзен Кэлвин протянула руку, но робот только бессмысленно уставился на нее. Робопсихолог мягко дотронулась до руки робота и взяла ее. Лэнни плавно поднялся на ноги, как минимум его пространственная координация работала отлично. Они вместе вышли из комнаты — худощавая женщина и робот, возвышавшийся над ней на добрых два фута. Когда эта странная пара шествовала по коридору, ее провожало много любопытных и удивленных взглядов.
На одной из стен лаборатории Сьюзен Кэлвин появилась большая великолепная карта позитронного мозга. Робопсихолог погрузилась в ее изучение на большую часть месяца. Она тщательно выявляла и анализировала все искажения в сложной схеме позитронных связей. Позади нее сидел на полу Лэнни. Он сдвигал и раздвигал свои ноги, издавая бессмысленные булькающие звуки голосом столь прекрасным, что слушать эту чепуху было наслаждением.
Сьюзен Кэлвин повернулась к роботу.
— Лэнни, Лэнни, Лэнни…
Она терпеливо повторяла его имя, пока, наконец, Лэнни не посмотрел на нее, издав вопросительный звук. Робопсихолог допустила на свое лицо бледное подобие улыбки. За довольно короткий промежуток времени ей удалось обратить на себя внимание робота. Она сказала:
— Подними руку, Лэнни. Руку — вверх. Руку — вверх…
Одновременно с этими словами она снова и снова поднимала свою руку.
Глаза Лэнни следили за движением руки. Вверх—вниз, вверх—вниз… Затем он сделал неуклюжий жест собственной рукой и мелодично прозвенел:
— Уку — вер, уку — вер.
— Очень хорошо, Лэнни, — серьезно сказала Сьюзен Кэлвин. — Попробуй еще раз. Руку — вверх.
Очень осторожно она взяла руку робота в свою, подняла ее и опустила, приговаривая:
— Руку — вверх, руку — вверх.
— Сьюзен? — прервал ее работу знакомый голос. Робопсихолог оглянулась, недовольно сжав губы:
— Что, Альфред?
Директор научного отдела «Ю. С. Роботс» вошел в комнату, бросил быстрый взгляд на висевшую на стене карту и затем оглядел робота.
— Все еще возитесь с ним?
— Я выполняю свою работу, сэр.
— Ну, ладно. Вы знаете, Сьюзен… — он вытащил было сигару, но, встретившись с суровым взглядом Кэлвин, со вздохом сожаления спрятал ее обратно. — Вы знаете, Сьюзен, что модель ЛНЕ пошла в серийное производство.
— Да, я слышала. В связи с этим вы что-то хотите от меня?
— Н-нет. Робот запущен в серию и зарекомендовал себя хорошо. Не значит ли это, что пора прекратить бесполезные эксперименты с вашим образцом?
— Короче говоря, Альфред, вы хотите напомнить мне, что я просто расточаю свое довольно хорошо оплачиваемое фирмой время. Успокойтесь, мое время не тратится даром. Я работаю с этим роботом.
— Но работа не имеет смысла!
— Об этом лучше судить мне, Альфред, — ее голос подозрительно спокоен, и Лэннинг решил, что следует переменить тему разговора:
— Скажите мне, что вы хотите выяснить? Например, что вы делаете с ним сейчас?
— Пытаюсь заставить его поднимать руку по команде. Пытаюсь дать ему понятие о связи действия и звуков слов команды.
Как бы в ответ на эту реплику Лэнни сказал «Уку — вер» и поднял руку.
Лэннинг кивнул головой.
— Изумительный голос. Как у него это получается?
— Я еще не знаю, — ответила Сьюзен Кэлвин. — Его микрофон в полном порядке. Он может говорить нормально, я уверена, но почему-то не делает этого. По-видимому, такой голос является следствием каких-то нарушений позитронной структуры мозга; пока я их не нашла.
— Найдите обязательно. Такой необычный тембр голоса может оказаться полезным.
— О, значит есть какой-то прок от моих занятий с Лэнни?
— Ну это же мелочь, — в смущении пожал плечами Лэннинг.
— Жаль, что вы не видите Более важного повода для данной работы, — резко сказала Сьюзен Кэлвин, — но это уже — не моя вина. Идите, Альфред, мне надо двигаться дальше…
Лэннинг смог добраться до своей сигары только в кабинете Богерта. Он выпустил клуб дыма и кисло произнес:
— С каждым днем поведение этой женщины становится все более странным.
Богерт понял его превосходно. В «Ю. С. Роботс энд Мекэникл Мен Корпорейшен» была только одна «эта женщина». Богерт спросил:
— Она все еще возится с этой пародией на робота — с этим ее Лэнни?
— Пытается научить его говорить, как мне кажется.
Богерт пожал плечами.
— Такое впечатление, что ее не интересует стоящая перед компанией проблема. Я говорю о том, как нам заполучить квалифицированных специалистов, способных проводить научные исследования. Имей мы других робопсихологов, Сьюзен можно было бы освободить от подобной задачи. Но, пока… — он снова пожал плечами, затем поднял глаза на Лэннинга, утопавшего в клубах дыма. — Могу я предположить, Альфред, что завтрашний совет директоров будет посвящен этому вопросу?
Лэннинг кивнул и уставился на свою сигару с таким видом, будто обнаружил в ней отраву.
— Да, нашей проблемой является качество персонала, а не его количество. Мы поднимали заработную плату, пока поток желающих работать у нас не стабилизировался. Но это все люди, заинтересованные, в первую очередь, в деньгах. Вся хитрость заключается в том, как заполучить тех, кого в первую очередь интересует роботехника, хотя бы немного похожих на Сьюзен Кэлвин.
— Нет, к дьяволу! Только не на нее!
— Ну я же не имею в виду ее характер. Но вы должны согласиться, Питер, что она просто помешана на роботах. У нее нет никаких других интересов в жизни.
— Я знаю. И именно это делает ее такой невыносимой.
Лэннинг кивнул. Он не мог сосчитать, сколько раз желал Сьюзен Кэлвин провалиться на месте. Но он также потерял счет миллионам долларов, которые она спасла компании. Она была женщиной совершенно необходимой для фирмы и она будет оставаться таковой до самой смерти либо до того момента, когда им удастся найти других мужчин и женщин с такими же способностями и тоже помешанных на роботехнике.
Он сказал:
— Я думаю, надо прекратить эти экскурсии.
Питер пожал плечами.
— Как вы скажете, но все-таки, что же нам делать со Сьюзен? Она целиком поглощена работой с этим роботом. Вы же знаете, в каком она бывает состоянии, когда находит так называемую интересную проблему.
— Но что мы можем сделать? — сказал Лэннинг. — Если мы настойчиво попытаемся вытащить ее из этой работы, она в соответствии с женской логикой будет поступать наоборот. Так что лучше всего оставить ее в покое.
— Я не рискнул бы применить определение «женская» к любой черте ее характера, — ухмыльнулся черноволосый математик.
— Ну, ладно, — сказал Лэннинг сердито. — В конце концов эти ее занятия вполне безобидны.
Однако он сильно ошибался.
Сигнал тревоги — крайне неприятная вещь для любого крупного предприятия. Такой сигнал звучал дюжину раз за всю историю «Ю. С. Роботс»: во время пожаров, аварий сети водоснабжения, беспорядков и мятежей.
Но никогда еще сигнал не был подан по такой причине. Никогда на сигнальном табло не вспыхивала надпись: «РОБОТ ВЫШЕЛ ИЗ-ПОД КОНТРОЛЯ». Никто даже не мог предположить, что может произойти нечто подобное, и соответствующий сигнал был предусмотрен только по требованию правительства («Проклятый комплекс Франкенштейна», — чертыхался Лэннинг в тех редких случаях, когда давал себе труд вспомнить об этом).
Сейчас, однако, визгливый вой сирены поднимался и спадал с десятисекундными интервалами, и практически любой его слышащий, от председателя совета директоров до помощника привратника, в несколько мгновений распознал смысл этого странного звука. После секундного замешательства отряды вооруженных охранников и медиков устремились со всех сторон в район предполагаемой опасности, а весь прочий персонал «Ю. С. Роботс» замер в тревожном ожидании.
Чарльз Рэндоу, техник вычислительного центра, был доставлен в госпитальное отделение с переломом руки. Других повреждений он не имел. И больше никто не пострадал.
— Но моральный ущерб, — ревел Лэннинг, — не поддается оценке!
Сьюзен Кэлвин взглянула на него с убийственным спокойствием.
— Вы ничего не сделаете с Лэнни. Ничего. Вы поняли?
— А вы понимаете, Сьюзен? Это создание ударило человека! Оно нарушило Первый закон! Вы что, забыли значение Первого закона?
— Вы ничего не сделаете с Лэнни.
— Бог мой, Сьюзен, я должен напомнить вам Первый закон? РОБОТ НЕ МОЖЕТ ПРИЧИНИТЬ ВРЕД ЧЕЛОВЕКУ ИЛИ СВОИМ БЕЗДЕЙСТВИЕМ ДОПУСТИТЬ, ЧТОБЫ ЧЕЛОВЕКУ БЫЛ ПРИЧИНЕН ВРЕД. Положение нашей компании полностью зависит от того факта, что Первый закон строго выполняется всеми роботами всех типов. Если общественность услышит, — а она услышит обязательно, — что было нарушение Первого закона, хотя бы только один раз, нас заставят прикрыть наше дело. Единственный шанс выжить, который мы имеем, — объявить, что нарушивший Первый закон робот немедленно уничтожен; объяснить, при каких обстоятельствах произошло нападение; и, наконец, надеяться, что общественность поверит в то, что это никогда больше не повторится.
— Я хочу точно выяснить, что произошло, — холодно сказала Сьюзен Кэлвин. — Меня не было в лаборатории, и я желаю знать, что там делал без моего разрешения этот паренек, Рэндоу.
— Наиболее важный момент из всего случившегося — очевиден, — настаивал Лэннинг. — Ваш робот ударил Рэндоу, бедный дурень нажал кнопку этого проклятого сигнала — и карусель завертелась. Но робот действительно его ударил и сломал ему руку. Следовательно, ясно, что ваш Лэнни настолько расстроен, что не подчиняется Первому закону и он должен быть уничтожен.
— Он не может не подчиняться Первому закону. Я исследовала его мозг и знаю это.
— Тогда как же он ухитрился ударить человека? — отчаяние толкнуло его к сарказму. — Спросите Лэнни. Уверен, вы уже научили его говорить!
Щеки Сьюзен Кэлвин покраснели. Сдержавшись, она сказала:
— Я предпочитаю взять интервью у жертвы. И, пока я отсутствую, пусть моя лаборатория будет опечатана, разумеется, с Лэнни внутри. Я хочу, чтобы никто не приближался к нему. Если с ним что-нибудь сделают, пока меня нет, компании придется распроститься со мной.
— Вы согласитесь на его уничтожение, если выяснится, что он действительно нарушил Первый закон?
— Да, — твердо сказала Кэлвин, — потому что я знаю — он его не нарушал.
Чарльз Рэндоу с забинтованной рукой лежал в постели. Больше всего он пострадал от нервного потрясения в те несколько мгновений, когда думал, что робот собирается убить его. На Земле не было другого человека, который когда-либо испытал страх по такому же поводу. Рэндоу обладал уникальным опытом.
Сьюзен Кэлвин и Альфред Лэннинг стояли около его кровати вместе с Питером Богертом, который встретил их по пути в госпиталь. Доктора и санитарки были удалены из палаты.
Сьюзен Кэлвин сказала:
— Ну, теперь расскажи, как это случилось?
Рэндоу был в явном смущении. Пробормотав проклятье, он сказал:
— Эта штука ударила меня по руке. Он направлялся ко мне…
Кэлвин прервала его.
— Давай вернемся к началу истории. Что ты делал в моей лаборатории?
Юноша судорожно сглотнул, было заметно, как дернулось «адамово яблоко» на его тонкой шее. Его щеки подозрительно побледнели и на лбу выступил пот. Наконец, он сказал:
— Всем известно о вашем роботе. Ходят слухи о том, что вы пытаетесь научить его разговаривать. Мы побились об заклад: умеет ли он уже говорить или нет. Некоторые парни… уфф… утверждают, что у вас даже воротный столб заговорит.
— Я полагаю, — сказала холодно Сьюзен Кэлвин, — что это комплимент. Так что же ты должен был сделать?
— Мне предстояло пойти и все выяснить… ну, умеет ли он говорить… Вы понимаете. Мы стащили ключ от вашей комнаты… и я подождал, пока вы не ушли… и зашел туда. Мы бросили жребий, кому идти… и выпало мне.
— Дальше.
— Я попытался заставить его говорить, и он меня стукнул.
— Что значит «попытался заставить его говорить»? Как ты это делал?
— Я… я задавал ему вопросы, но он ничего не отвечал… и я подумал, что надо его встряхнуть как следует… и…
— И?
Последовала долгая пауза. Под пристальным взглядом Сьюзен Кэлвин Рэндоу, наконец, выдавил:
— Я попробовал напугать его, чтобы он сказал что-нибудь или крикнул… Я только хотел устроить ему небольшую встряску…
— Каким же образом ты пытался его испугать?
— Я притворился, что ударю его кулаком.
— И он отбросил твою руку от себя?
— Он ударил по моей руке.
— Достаточно. У меня больше нет вопросов. — И повернувшись к Лэннингу и Богерту, она сказала: — Пойдемте, джентльмены.
В дверях она обернулась к Рэндоу:
— Я готова разрешить ваше пари, если это еще тебя интересует. Лэнни может вполне сносно произносить несколько слов.
Они не разговаривали, пока не оказались в кабинете робопсихолога. Его стены покрывали полки с книгами, некоторые из них были написаны самой Кэлвин. Обстановка здесь не располагала к задушевной беседе. В комнате находился только один стул, и Сьюзен Кэлвин уселась на него. Лэннинг и Богерт остались стоять.
Она сказала:
— Лэнни только защищался. Это — Третий закон: РОБОТ ДОЛЖЕН ЗАБОТИТЬСЯ О СОБСТВЕННОЙ БЕЗОПАСНОСТИ.
— В ТОЙ МЕРЕ, — быстро сказал Лэннинг, — В КОТОРОЙ ЭТО НЕ ПРОТИВОРЕЧИТ ПЕРВОМУ И ВТОРОМУ ЗАКОНАМ. Дадим полную формулировку! Лэнни не имел права защищаться таким способом, который мог нанести хотя бы малейший вред человеку.
— Он не делал этого, — парировала Сьюзен Кэлвин, — не делал сознательно. У Лэнни неполноценный мозг. Он не имеет представления о собственной силе и о слабости человека. Отбрасывая грозящую ему руку, он не мог знать, что кость сломается. Если перейти на привычный для нас язык, нельзя винить того, кто не может различать добро и зло.
Богерт мягко перебил ее:
— Поймите, Сьюзен, мы никого не виним. Мы понимаем, что, говоря человеческим языком, Лэнни просто ребенок, и, повторяю, не обвиняем его. Но в глазах общественного мнения он останется виновным. Если мы не примем мер, «Ю. С. Роботс» будет закрыта.
— Совсем наоборот! К сожалению, Питер, мозгов у вас меньше, чем у блохи, иначе бы вы поняли, что такой благоприятный случай «Ю. С. Роботс» не должна упускать. Он позволит решить все наши проблемы.
Лэннинг поднял свои седые брови и осторожно спросил:
— Какие проблемы вы имеете в виду, Сьюзен?
— Разве корпорация не заинтересована в том, чтобы ее научный персонал неизменно отвечал — помоги нам, господи! — самым высоким требованиям?
— Конечно.
— Ну и что же вы предлагаете будущим исследователям? Романтику новизны? Трепет прикосновения к неведомому? Радость открытий? Нет! Вы даете им приличный оклад и гарантии, что они не будут иметь никаких проблем.
Богерт раздраженно переспросил:
— Никаких проблем? Что вы имеете в виду?
— Только то, что при отсутствии проблемы невозможен научный прогресс. Посмотрите, каких роботов мы выпускаем? Высокоспециализированных роботов, полностью ориентированных на выполнение определенных задач. Промышленность говорит нам, что ей необходимо — и вот оно, полностью готовое к употреблению. Питер, недавно вы спрашивали меня, зачем я вожусь с Лэнни. Вы сказали, что робот, не способный выполнять свою работу, — самая бесполезная вещь в мире. Теперь же я спрошу вас, какая польза от робота, предназначенного только для одного вида работы? Роботы модели ЛНЕ спроектированы для добычи бора. Они бесполезны при разработках, скажем, бериллия. Если изменится технология очистки бора, они тоже станут бесполезными. Пока что мы производим не роботов, а пародию на них.
— Вы хотите создать универсального робота? — с изумлением спросил Лэннинг.
— А разве это невозможно? — ее щеки порозовели от возмущения. — В мои руки попал робот с дефектным мозгом. Я обучала его, и вы, Альфред, интересовались, какая от этого польза. В данном случае очень небольшая, так как Лэнни в своем развитии не сможет подняться выше уровня пятилетнего ребенка. А в общем? Огромная польза, если рассматривать мою работу как первую попытку решения абстрактной проблемы обучения роботов. Мне удалось нащупать условия, при которых начинается генерация новых нервных путей в позитронием мозге. Дальнейшие исследования позволят детально разработать соответствующую методику и тогда…
— Ну!?
— Предположим, мы имеем позитронный мозг, в котором установлены основные нервные связи — своего рода безусловные рефлексы, включающие, кстати, все Три закона. На этой основе с помощью специальных методов мы можем приступить к моделированию вторичных нервных связей. Это позволит подготовить робота к определенной деятельности, а затем, если необходимо, изменить его специализацию. Роботы могут стать такими же многогранными существами, как люди.
Роботы могут учиться!
Мужчины уставились на нее.
Она нетерпеливо спросила:
— Вы все еще не понимаете?
— Мне кажется, я понял то, что вы сказали, — неуверенно пробормотал Лэннинг.
— Вы еще не поняли, что это открывает совершенно новую — и огромную! — область для исследований, для развития новой технологии? И что прогресс роботехники в. этом направлении, связанный с романтикой поисков и открытий, неизбежно привлечет талантливую молодежь? Попытайтесь — и вы увидите, что получится.
— Я должен заметить, — произнес Богерт, — что ваше предложение довольно опасно. Появление роботов, не обладающих сразу всеми необходимыми знаниями и, следовательно, способных ошибаться, приведет к тому, что никто не сможет доверять Первому закону. Собственно, так и получилось в случае с вашим Лэнни.
— Правильно. Разрекламируйте опасность.
— Разрекламировать ее!
— Конечно. Сообщите по телевидению и радио о создании нового исследовательского института на Луне, чтобы не подвергать население Земли даже тени опасности; однако постарайтесь подчеркнуть, что опасность существует.
— Господи, зачем? — сказал Лэннинг.
— Потому что пряный вкус опасности послужит хорошей приманкой. Вы полагаете, что ядерная технология и космические исследования не допускают опасности? Возможно, миф об абсолютной безопасности нашей профессии сыграл с вами плохую шутку, Альфред? Не ему ли обязаны вы комплексом Франкенштейна — да, да, тем самым комплексом, который вы так презираете?
Из-за двери, ведущей в лабораторию Кэлвин, раздался звук, подобный мелодичному перезвону колокола. Роба-психолог моментально прервала разговор, прислушиваясь. Затем она сказала:
— Извините. Кажется, Лэнни зовет меня.
— Он может позвать вас? — спросил Лэннинг.
— Я уже говорила вам, что мне удалось научить его произносить несколько слов. — Она шагнула к двери, затем нерешительно повернулась к мужчинам. — Если вы подождете меня…
Они наблюдали, как она покинула свой неуютный кабинет; несколько мгновений они оба молчали, затем Лэннинг сказал:
— Как вы думаете, Питер, есть ли нечто полезное в том, что она говорила?
— Вполне возможно, Альфред, — ответил Богерт, — вполне возможно. Во всяком случае, эти идеи можно изложить на совете директоров и посмотреть, как они отреагируют. Но надо учитывать, что крыша над нами уже занялась. Робот нанес травму человеку, и общественности об этом уже известно. Конечно, как говорит Сьюзен, надо попробовать повернуть это дело к нашей пользе… Однако я не очень доверяю ее истинным побуждениям.
— Что вы имеете в виду?
— Если даже все, что она тут наговорила, является чистой правдой, то пока это лишь перспективная тема для исследований. Ее настоящий мотив — желание сохранить этого робота для себя. Если мы попытаемся давить на нее, она станет утверждать, что робот нужен ей для отработки методики обучения. Но я думаю, что ока нашла другое применение для Лэнни, такое, которое доступно только единственной женщине в мире, — доктору Сьюзен Кэлвин.
— Я не уловил, куда вы клоните.
Богерт усмехнулся и сказал:
— Вы слышали, что говорил робот, когда звал ее?
— Боюсь, что я не… — начал Лэннинг, когда дверь внезапно отворилась — мужчины сразу же прекратили разговор.
Сьюзен Кэлвин шагнула в комнату, оглядываясь по сторонам.
— Может быть, кто-нибудь из вас видел… Я уверена, она где-то тут… О, вот она!
Она подбежала к одному из книжных шкафов и вытащила из него металлический предмет странной формы. Эта штука была полой внутри, с несколькими отверстиями, за которыми находились ярко раскрашенные кусочки металла, по-видимому, достаточно большие, чтобы они не могли вываливаться через отверстия. Когда Сьюзен подняла предмет, металлические кусочки внутри него задвигались и мелодично зазвенели. Лэннинга вдруг осенило, что это устройство напоминает детскую погремушку в специальном исполнении для роботов.
Когда Сьюзен Кэлвин снова открыла дверь, голос Лэнни опять донесся из лаборатории. На этот раз Лэннинг ясно различил, каким словам обучила Сьюзен Кэлвин своего подопечного.
Голосом, подобным звону небесных колоколов, он звал:
— Мамочка, я хочу к тебе. Я хочу к тебе, мамочка.
Из-за двери донеслись торопливые шаги Сьюзен Кэлвин. Она торопилась к своему малышу — странному дитяти механической породы, единственному в мире ребенку, которого она могла когда-либо иметь и любить.