«Если», 2016 № 03

Наталия Андреева
ОТ ПЕРЕСТАНОВКИ МЕСТ СЛАГАЕМЫХ…

/экспертное мнение

/гуманитарные технологии

▲ © Vildram, илл., 2016

Галактический архив, секция 18-501-00-14, кластер 268170.Транскрипт рубрики «Лавка древностей» от пиратской станции Radio Free Jupiter (вечерний эфир 18.05.2071,20:00–20:30 по общесистемному времени): обзор книги «Нужны ли мы нам?», опубликованной в 2022 году издательством The Futuris на средства совместного гранта ООН и Евразийского агентства по перспективным исследованиям и разработкам.

[Opening theme]

Ведущий 1 (B1): Здравствуйте, наши дорогие любители винтажа, антиквариата и прочего бесполезного, но интересного старого хлама! В эфире Radio Free Jupiter с рубрикой «Лавка древностей». Сегодня мы, как и обычно по пятницам, познакомим вас с очаровательным приветом из прошлого. На этот раз мы раскопали в одной из заброшенных библиотек — кто-нибудь вообще еще помнит, что это такое?.. — забавную книжицу, которая называется «Нужны ли мы нам?» и которая посвящена ни много ни мало будущему роботов.

Ведущий 2 (В2): То есть буквально-таки нашему с вами прошлому и — совсем немного — настоящему… [помехи с 20:01:01 до 20:01:19].

В1: …Видимо, такое заумное название для своей книги авторы выбрали, чтобы показать: они серьезно допускают возможность вымирания людей за полной ненадобностью.

В2: Ну, сейчас их об этом уже не спросишь. Книга была опубликована в самом начале 2020-х, и вряд ли кто-то из ее авторов смог дожить до бума геропротекторных технологий. Но если кто-то из них еще жив, то он всегда может подключиться к нашему интерактивному каналу и высказать все, что думает по поводу наших комментариев, нашей радиостанции и мира в целом.

В1: О, надо же, нам уже начали поступать сообщения от слушателей. Только это не авторы «Нужны ли мы нам?». Номером один идет вопрос «Какого [неразборчиво] вы занимаетесь обзорами чего ни попадя вместо того, чтобы ставить нормальную музыку?».

В2: Судя по криптоидентификатору, этим интересуются коллеги с конкурирующей станции Radio Free Mars. Спрашивали — отвечаем. Коллеги! Вы крутите свои треки для дальнобойщиков? Вот и крутите себе дальше. Мы такое же [неразборчиво] пиратское радио, как и вы, поэтому мы будем делать обзоры того, чего захотим. Извините, дорогие, никакой свободы выбора и никаких гарантий для слушателей не предполагается.

В1: Звучит знакомо, да? Наверняка вы следите за текущей предвыборной кампанией на Марсе, так там ровно то же самое происходит. Расчлененка и неконтролируемый угар полит-технологического произвола. Чем мы хуже? Они же всю сеть замусорили. Хулиганы, тунеядцы… [помехи с 20:12:12 до 20:13:02]…И снова про «Нужны ли мы нам?». Должен сказать, что читается книга на одном дыхании, почти как подборка свежих историй из жизни астрошахтеров. Ну потому что авторы книги излагают множество страшилок и исторических анекдотов, после чего на-гора выдают несколько прогнозов разной степени нелепости.

В2: Лично мне больше всего понравился раздел про историю «военных» роботов и ИскИнов. Оказывается, в самом начале XXI века многие умники дискутировали по поводу того, можно ли применять роботов и прочие автоматизированные системы в военных действиях. Поскольку умников пищевым концентратом не корми, а дай порассуждать на тему «за» и «против». Так вот, в пользу применения роботов озвучивали несколько доводов. Во-первых, возможность снижения потерь среди гражданского населения, поскольку роботы не способны к эмоциональным реакциям.

В1: Очень, очень смешно. Это они не видели, какие рожи корчат роботы-официантки, когда не оставляешь им на чай пару-тройку ядерных батареек. Я уже не говорю про… [помехи с 20:14:08 до 20:14:19] [звуки ударов]… Это не передатчик, а [неразборчиво] хлам какой-то!

В2: Полегче! Один ты уже раскурочил, а бюджет у нас не резиновый. И напомню, рубрика называется «Лавка древностей». Считай, что это декорация. Итак, во-вторых. Ученые говорили про необходимость «быть готовыми», поскольку террористы и страны — потенциальные противники все равно могут использовать боевых роботов.

В1: Это просто без комментариев. Отличный довод любого генерала любой эпохи. Что-то еще они придумали, умники эти?

В2: Ну, третьим любимым аргументом яйцеголовых было то, что запрет на использование роботов для ведения боевых действий не решит реальную проблему, то есть — не ликвидирует желание человека использовать технологии «во зло». Кто бы спорил. Доводов против применения военных роботов, кстати, было гораздо больше, начиная с того, что все не очень понимали, кого назначать виноватым, если робот по ошибке порешит пару сотен человек. И конечно, была еще масса туманных соображений этического свойства. В самом начале века умники даже несколько петиций подписывали, предупреждали неразумное человечество об опасностях «военного» искусственного интеллекта.

В1: Толку-то. Петиции, шметиции. Ясное же дело, что на реальные решения это никак не повлияло. И войну на Титане мы все равно получили. Сначала вояки потратили деньги честных налогоплательщиков на создание полностью автоматизированного полигона для отработки разных видов… э-э-э… всего, а потом им пришлось уничтожать взбесившуюся «безлюдную систему» с помощью тех самых человеческих ресурсов, которые она должна была заменить. Потому что система, не будь дура, легко и непринужденно перехватывала управление любой техникой, где была хоть какая-то электроника. А сейчас, как мы хорошо знаем, правительство Марса и кое-какие крупные корпорации обсуждают создание на Титане парка аттракционов «Или быстрый — или мертвый» для любителей острых ощущений, чтобы хоть как-то снизить уровень уличной преступности на базовых планетах. Понятное дело, что это просто [неразборчиво] предвыборная шумиха, но, глядишь, через пять-десять лет у субчиков, которые сидят в правительстве, дойдут руки и до этого проекта.

В2: Ну, справедливости ради надо сказать, что как минимум прогнозы про ужасы «военного» искусственного интеллекта таки сбылись. Продолжаем разговор. Вот, кстати, поступил по интерканалу еще один вопрос. Для разнообразия он даже связан с темой нашей передачи. С роботами то есть. «Снятся ли электроовцам андроиды?» Видимо, интересуется либо электроовца, сомневающаяся в том, что она электроовца, либо андроид, который очень хочет, чтобы его видела во сне хотя бы… хм… овца.

В1: Н-да, в школе этот человек — или ИскИн? — явно не учился. Академиев не кончали, бетховенов не читали, о конфигурации нейросетей ничего не знаем. Но раз уж вопрос поступил, с уверенностью отвечаем: да, снятся! Принесло ли это знание вам счастье?

В2: Давай-ка без философии. Вернемся лучше к нашим овцам. В смысле — к баранам. В смысле… Ну, все поняли. «Нужны ли мы нам?».

В1: Оки-доки. Тебе ближе война, а меня вот порадовала часть, в которой авторы рассуждают про грядущее вытеснение людей роботами и ужасы безработицы. Сейчас все эти страхи выглядят немного наивно, но авторам книги, амигос, явно было не до смеха. Потому что ровно тогда, в 2020-х, когда они ваяли свои прогнозы, в мире происходило много всего интересного. Бунты в Китае и Индии, погромы, партии противников роботизации, робофобия…

В2: А ведь начиналось все очень невинно, с китайской программы «Made in China-2025» и каких-то локальных инициатив. Впереди планеты всей, если я правильно помню, была провинция Гуандун. Та самая, где когда-то был город Гуанджоу и на месте которой нынче красуется лунный пейзаж. Бунты-то подавляли как могли. А акции протеста работников сетей быстрого питания в Америке? А ритуальные самосожжения любителей го перед офисами производителей ИскИнов — после очередного юбилейного тысячного проигрыша человека машине? Сколько бензина извели по всему миру, подумать страшно. Или вот секты, которые считали дронов предвестниками Антихриста?.. Так что панические настроения авторам книги вполне можно простить.

В1: Самое увлекательное все равно началось тогда, когда контора под пафосным названием OpenAI году этак в 2030-м выкинула на просторы всемирной сети первого ИскИна класса Open Source. Я так понимаю, ребята просто хотели облагодетельствовать человечество. Во всяком случае, потом, уже на международном трибунале, они говорили именно об этом. Тогда мало кто понимал, что общедоступный искусственный интеллект куда опаснее невинного биохакинга в гараже. Да, после первых масштабных инцидентов для ИскИнов тут же ввели режим нераспространения вроде того, который на заре цивилизованных времен был придуман для ядерного оружия. Но было уже малость поздно.

В2: Точно. Потому что ровно в то же время какие-то уже позабытые всеми французы довели до ума алгоритмы адаптации роботов ко внешним условиям. И дали им возможность выживать при повреждениях почти любой степени тяжести… [неразборчиво]… Хотя и полезного тогда было сделано немало. Например, после старой аварии на АЭС Фукусима ребята сделали в префектуре целый полигон для испытаний разных роботов, вбухав туда какие-то запредельные деньги.

В1: Смешные люди! Сейчас бы к ним целая куча туристов — любителей экстрима насыпалась. Ты никогда не думал о том, что культ опасности у нас так расцвел именно из-за вытеснения людей из самых опасных зон?.. Роботы для работы на местах техногенных катастроф в итоге хорошие получились, но они же весь героизм и ликвидировали — вместе с этими катастрофами. А пространство для самореализации, геройства и риска осталось только за пределами стратосферы.

В2: То есть за то, что раз в месяц лично я за каким-то чертом удираю от полиции, таща на себе передатчик, гору голокристаллов и не в меру болтливого коллегу, я должен сказать спасибо АЭС Фукусима и роботам?.. Интересная мысль. Вполне в духе адреналинового наркомана. Ну да ладно. Не исключено, что паникеры начала века все же внесли свой вклад в наше относительно светлое настоящее. Потому что после ада в Гуанчжоу и проблем с ИскИнами корпорации начали вкладываться в симбиоз людей и механизмов. И заодно в массовые программы социальной адаптации для людей, у которых были проблемы с восприятием роботов. А к 2040-м навыкам сосуществования с роботами уже в школах учили. Просто потому, что без очеловечивания машин и омашинивания людей выжить было невозможно.

И в какой-то момент мы перестали отличать роботов от людей, людей от роботов…

В1: Роботов от роботов и людей от людей. Об этом в «Нужны ли мы нам?» почему-то нет ни слова, хотя вывод-то очевидный. Гуманисты прошлых веков должны ворочаться в своих гробах.

В2: Ты так говоришь, как будто в этом есть что-то плохое. Пусть их ворочаются. Это же элементарно: если относиться к роботу или ИскИну, которые неотличимы от человека, как к вещи, то и к человеку рано или поздно начнешь относиться как к той же вещи. Нам это надо? Или ты тайный сектант-луддит и ночами отстреливаешь бездомных дронов?

В1: Это ложь, [неразборчиво] и провокация! [помехи с 20:26:06 до 20:26:31]

В2:… Ну и последний вопрос от одного из наших слушателей. «Если вы такие умные, то можете ли вы по этому вопросу определить, человек я или робот?».

В1: Какой вопрос, такой и ответ. Да, можем. Но не хотим, потому что нам совершенно все равно, кто вы там на самом деле: мы всех одинаково не любим. И вообще, от перестановки мест слагаемых механочеловеческой системы сумма не меняется.

В2: На этом мы заканчиваем разговор о древностях. Напоминаю, сегодня мы обсуждали книгу «Нужны ли мы нам?», авторы которой в 2020-х пытались предсказать, как именно роботы повлияют на нашу с вами жизнь.

В1: Обсуждали — и пришли к выводу, что это удалось им не слишком-то хорошо.

В2: Далее в программе Radio Free Jupiter — ремиксы из 2040-х, прогноз метеоритной активности для наших слушателей с Земли…

В1: И главное, никаких рекламных пауз. Мы все-таки [непереводимая игра слов тихуанского диалекта английского] пиратское радио.

В2: Оставайтесь с нами!

Bl: See you [неразборчиво].

[Ending theme]