«Если», 2015 № 03

Александра Ольховик
КАК СПАСТИСЬ ОТ УЖАСНЫХ РОБОТОВ?
руководство по выживанию для человечества

_{/форсайт}

_{/безопасность}

_{/сервисные роботы}

Роботы уже среди нас, и они могут быть потенциально опасны, как, впрочем, и газонокосилки, обычные, не роботизированные. Так как средний робот устроен несколько сложнее средней газонокосилки, то и спектр возможных угроз получается шире. Рассмотрим их по порядку.

1. ФИЗИЧЕСКИЙ УЩЕРБ

1.1. Случайный

Большая часть действующих роботов не предназначена для причинения вреда человеку, что совершенно не гарантирует отсутствия сбоев или ошибок в эксплуатации, ведущих к несчастным случаям. Прежде всего это касается промышленных автоматов и сложных роботизированных инструментов, управляемых человеком непосредственно. Отдельную группу риска составляют автономные транспортные средства. Например, 1 июля 2015 года в Маунтин-Вью произошло первое ДТП с участием беспилотного автомобиля, в результате которого пострадали люди. В самоуправляемый экомобиль Google сзади врезалось другое транспортное средство. Причиной аварии послужил человеческий фактор. Все участники ДТП пострадали незначительно.

Бытовые роботы пока еще не так распространены и возможностей для причинения серьезного вреда имеют меньше (пол поцарапать или кота напугать — максимум, что может учинить взбесившийся робот-пылесос, кроме того, в случае необходимости его всегда можно прибить табуреткой).

Обезопасить себя от физической робоугрозы можно несколькими способами.

РЕШЕНИЕ № 1.

Инженерно-техническое

Данный вариант предполагает работу с «железом»: усовершенствование системы датчиков, повышение точности управления, облегчение конструкции и т. д.

Интересный подход к обеспечению безопасности роботов, непосредственно взаимодействующих с людьми, предлагает компания Bionic Robotics. Вместо того чтобы полагаться на системы контроля, данная фирма проектирует роботов таким образом, что они физически не могут приложить достаточно усилий, чтобы нанести вред человеку.

РЕШЕНИЕ № 2.

Идеологическое

Три закона робототехники Азимова продолжают вдохновлять разработчиков на попытки встроить в автономных роботов алгоритмы морали и нравственности.

В частности, созданием искусственного интеллекта, способного принимать этические решения в сложных ситуациях, занимается группа исследователей из Университета Тафтса, Университета Брауна и Политехнического института Ренсселера совместно с ВМС США.

На практике это направление пока дает больше вопросов, чем ответов. Во-первых, само определение базового перечня норм в непротиворечивой форме достаточно затруднительно. Во-вторых, действительно сложные с точки зрения этики ситуации единственно верного решения не имеют по определению. Например, как должен среагировать беспилотный автомобиль, если на дорогу выскочил ребенок и избежать столкновения можно только ценой жизни пассажира? Наконец, остается проблема ответственности за сделанный роботом выбор.

РЕШЕНИЕ № 3.

Нормативно-правовое

Принятие формальных правил существенно снизит риски, связанные с взаимодействием человека и робота, и, кроме того, позволит определить степень ответственности.

Первым местом в мире, где официально разрешили движение беспилотных автомобилей по дорогам общего пользования, стал штат Невада (США). Свод специальных правил, регулирующих использование автономных транспортных средств в штате, был опубликован в 2012 году.

1.2. Намеренный

Казалось бы, то, что создание Терминатора — плохая идея, в настоящее время должно быть понятно интуитивно, однако люди работают и в этом направлении.

Военные беспилотники сейчас уже никого не удивляют, да и участие роботов в боевых действиях уже скоро станет реальностью. Например, в демилитаризованной зоне между Северной и Южной Кореей наряду с солдатами службу несут боевые машины, оснащенные пулеметами и датчиками тепла и движения.

В настоящее время решение открывать огонь принимает оператор, но, в принципе, роботы могут действовать и автономно.

В теории защититься от армии роботов-убийц для человечества не так уж и сложно, достаточно их не создавать. На практике, как правило, все несколько сложнее. И хотя решение проблемы лежит в плоскости международного и национального законодательства, в мире уже сейчас набирает обороты движение за запрет на разработку и использование роботов-убийц. В 2013 году для продвижения этой идеи было создано объединение неправительственных организаций The Campaign to Stop Killer Robots. К запрету автономных боевых систем призывает ООН. В 2015 году с аналогичной инициативой выступили известные ученые и технологические предприниматели со всего мира, в том числе Элон Маек, Стив Возняк и Стивен Хокинг.

2. МОРАЛЬНЫЙ УЩЕРБ

Распространение сервисной и потребительской робототехники может привести к тому, что личного пространства у человека практически не останется. Для нормального функционирования роботам необходимы сложная система датчиков и определенный набор информации о клиенте. Использоваться же собранные данные могут далеко не всегда на благо потребителя. Домашний робот-помощник вообще представляет собой идеальное средство проникновения в частную жизнь.

Насколько легко люди могут дать неограниченный доступ к личной информации случайному роботу просто потому, что он выглядит мило и безобидно, демонстрирует робот Boxie — собиратель историй, разработанный специалистами Массачусетского технологического института. Маленькая картонная коробочка с нарисованной милой улыбкой, снабженная видеокамерой и системой сенсоров, была специально спроектирована для того, чтобы вызывать у людей доверие и заставлять делится личными историями — разумеется, исключительно для съемок документального фильма в рамках эксперимента.

РЕШЕНИЕ № 1.

Спокойствие и бдительность

Помните, роботы вам не друзья. Утешает, что ненавидеть они вас тоже не могут. По крайней мере, пока.

Справедливости ради следует заметить, что самую разнообразную личную информацию при желании можно добыть о любом человеке, использующем мобильный телефон, уже сейчас, без роботов-посредников. Персональные данные в социальных сетях вообще находятся в открытом доступе, и мы сами их туда поместили. Ничего, живем.

РЕШЕНИЕ № 2.

Нормативно-правовое

Законодательное регулирование использования робототехники и данных, полученных с помощью роботизированных средств, снижает риск морального вреда в той же степени, что и вреда физического.

3. ВЫТЕСНЕНИЕ С РЫНКА ТРУДА

Роботы становятся все умнее и могут все больше. Мы успели привыкнуть к автоматизации производственных задач, в то время как сфера применения робототехники продолжает расширяться.

Гости отеля Aloft в Калифорнии могут встретиться с роботом-дворецким, в Китае в ресторане Haohai Robot Restaurant работают механические официанты и повара, а в Японии с июля 2015 года открывается гостиница Hennna Hotel, в которой роботы составят большую часть персонала.

Под удар попадают не только материальное производство и сервис, но и интеллектуальная деятельность, например, подготовка финансовых и спортивных обзоров. Услугами робожурналистов — специальных программ, способных собирать и обрабатывать различную информацию без непосредственного участия человека, успешно пользуются журнал Forbes, The Los Angeles Times, информационно-новостное агентство Associated Press.

Для общества в целом массовая роботизация сулит немало преимуществ: повышение производительности труда, избавление от рутины, расширение возможностей. По оценкам McKinsey Global Institute, системы автоматизации умственного труда смогут взять на себя задачи по производительности, равные отдаче от 110 до 140 млн полных рабочих мест. Ежегодный экономический эффект от такого увеличения производительности к 2025 году составит от 5,2 до 6,7 трлн долларов.

Однако резкий технологический сдвиг для отдельных людей может пройти достаточно болезненно. По прогнозу компании Gartner, роботы и специальные программные средства к 2025 году займут треть существующих рабочих мест.

РЕШЕНИЕ № 1.

Продуманные социальные программы

Часть работ, требующих низкой квалификации и при этом сложно алгоритмизируемых, еще долго останется прерогативой человека просто потому, что труд людей обойдется дешевле, чем производство, эксплуатация и обслуживание роботов. В сочетании с замещением более квалифицированного, но рутинного труда автоматами это может привести к росту расслоения общества, для сглаживания которого и снижения социальной напряженности потребуются специальные инструменты государственного регулирования.

РЕШЕНИЕ № 2.

Учиться, учиться и еще раз учиться

Роботы не только и не столько заменяют труд человека, они изменяют природу деятельности. В результате появляются совершенно новые профессии и повышаются требования к квалификации действующих работников.

Согласно «Атласу новых профессий»[1], еще до 2020 года в сфере робототехники и машиностроения могут появиться следующие вакансии:

• Проектировщик промышленной робототехники. Специалист, занимающийся проектированием роботизированных производственных устройств, а также роботизированных комплексов, например, автоматизированных заводов.

• Оператор многофункциональных робототехнических комплексов. Специалист по управлению и обслуживанию роботизированных систем на сложных и опасных производствах и при работе с труднодоступными объектами или микрообъектами.

• Проектировщик-эргономист. Специалист, проектирующий роботизированные системы с учетом эргономических требований пользователей, исходя из их физических и психических особенностей.

• Инженер-композитчик. Специалист, занимающийся подбором композитных материалов для производства деталей, механизмов, соединительных элементов робототехнических устройств с заданными характеристиками, в том числе с использованием 3D-печати.

• Проектировщик детской робототехники. Специалист, разрабатывающий детские игрушки, игры, гаджеты и различные механизированные товары широкого потребления на основе программируемых роботов с учетом психофизиологических особенностей детей разного возраста.

• Проектировщик нейроинтерфейсов по управлению роботами. Специалист, проектирующий системы управления промышленными и боевыми роботами с помощью нейроинтерфейсов индивидуальными операторами и распределенными коллективами.

По мнению авторов «Атласа», после 2020 года следует ожидать появления специалистов, занимающихся разработкой и программированием домашних роботов, а также биосовместимых робототехнических комплексов и киберустройств для медицины и биотехнологической отрасли.

Развитие робототехники открывает для человечества новые перспективы, пугающие и вдохновляющие одновременно. Пытаться остановить его бессмысленно, а вот направить в нужное русло — жизненно необходимо.