«Если», 2016 № 03

ДЕТИ РАЗУМА Вернор Виндж о будущем мышления

_{Беседовал Артем ЖЕЛТОВ}

/экспертное мнение

/искусственный интеллект

/постчеловечество

▲ Иллюстрация создана с помощью проекта Ostagram (ostagram.ru). Для обработки изображений используются нейронные сети и алгоритмы художественных стилей.

Что ждет человечество за пределами «безлюдной технологической революции»? Как изменится мир под воздействием сверхчеловеческого интеллекта? И есть ли будущее у человеческого мышления? С этими вопросами журнал «Если» обратился к знаменитому писателю-фантасту, автору концепции Сингулярности Вернору Винджу.

Роботы, ИскИны и прочие «безлюдные» (или «бесчеловечные»?) технологии постепенно вытесняют человека из когда-то привычных сфер деятельности. А что ожидает мышление под воздействием «безлюдной технологической революции»?

«Безлюдные технологии» и «бесчеловечные технологии» — интересные термины, я с подобными раньше не сталкивался.

Научно-популярная книга Ника Бострома «Искусственный интеллект» — отличный обзор чисто машинного подхода к искусственному интеллекту. Он обсуждает различные невинные причины, по которым подобная технология может стать очень опасной, и предлагает набор подходов, направленных на смягчение этой угрозы. Я надеюсь, что участие человека в новом сознании будет велико, по крайней мере в первое время. Это может происходить и в логике Усиления интеллекта[2], и в логике прорастания Коллективного сознания[3] из Интернета.

Сохранит ли человеческое мышление свою конкурентоспособность в наступающем веке ИскИнов?

Хотя я полагаю, что Усиление интеллекта и Коллективное сознание способны обеспечить сверхчеловеческую интеллектуальность, не думаю, что в долгосрочной перспективе биологические сознания смогут конкурировать с интеллектом, функционирующим на другом материальном носителе.

Чего можно хотеть от «безлюдных технологий»? Какие мечты они могут помочь осуществить?

Усиление интеллекта и Коллективное сознание должны помочь нам решить самую главную задачу — включить заветные человеческие цели и мечты в «безлюдные технологии». Результатом должны стать те, кого можно назвать нашими «детьми разума» (обратите внимание на книгу Ганса Моравека 1988 года с таким же названием). Если мы достигнем успеха, то обычное неразвитое человечество сможет остаться в живых, а в то же самое время некоторая форма наших человеческих сознаний сможет расти, навеки став частью куда более великих мыслящих сущностей Вселенной. Вспомните маленькое стихотворение Огастеса де Моргана…

Какие новые угрозы, реальные или воображаемые, могут появиться под влиянием этих технологий?

В очень коротком горизонте (даже сейчас!) противоестественный союз сетей и Интернета вещей способен привести к масштабным физическим катастрофам. Что касается более долгосрочного периода, Ник Бостром провел превосходный анализ правдоподобных угроз существованию человечества со стороны чисто машинного искусственного интеллекта.

Каким станет мир после «революции безлюдных технологий»? Как изменится под ее влиянием человечество?

Если нам удастся миновать физическую катастрофу (или мировую войну), я думаю, мир будет во многом похож на мой роман «Конец радуг», но с непрекращающимися разрушительными изменениями от растущей эффективности автоматики. Одним из важнейших приоритетов человечества станет управление плавным развитием этого процесса (недопущение войн, решение проблем вездесущей безработицы, растущей под влиянием технологий, установка доброкачественной этики в грядущие суперсознания).

Ник Востром. Экзистенциальные риски: анализ сценариев исчезновения человечества

Категории классификации экзистенциальных рисков:

• Взрыв — разумная жизнь земного происхождения исчезает вследствие относительно внезапной катастрофы, связанной или со случайностью, или с намеренным актом уничтожения.

• Хруст — потенциал развития человечества в постчеловечество перманентно потерян, хотя его существование в той или иной форме продолжается.

Визг — достигнута некая форма постчеловечества, но в чрезвычайно узкой форме, чем было бы желательно и возможно.

• Хныканье — постчеловеческая цивилизация возникает, но развивается в направлении, которое постепенно, но необратимо ведет или к полному исчезновению вещей, которые мы ценим, или к состоянию, когда эти вещи доступны лишь в минимальной степени.

Что произойдете миром, если ИскИны станут частью распределенного мышления человечества? Возможно ли это? К чему это приведет нас? И будем ли мы этому рады?

Я полагаю, появление Усиления интеллекта и Коллективного сознания очень возможным. Что касается облика нового мира, то описать его гораздо сложнее, чем предсказывать будущее. Описание изменения мира под влиянием сверхчеловеческого интеллекта — это как шимпанзе будет пытаться разобраться в развитии современной цивилизации. Вот поэтому я считаю, что термин «Сингулярность» хорошо описывает подобный переход: представить себе новый мир — все равно что пытаться познать изнанку черной дыры!

Одни сценарии кажутся явно опасными, другие могут оказаться, скорее, удивительными. Например, много людей, размышляющих о суперинтеллекте, считают, что одиночный сверхразум с высокой вероятностью окажется куда более опасным по сравнению с несколькими независимыми сверхразумами. Короче говоря, сверхразуму-синглету нет необходимости учиться взаимодействию с прочими людьми.

Какие книги, по вашему мнению, надо читать, чтобы лучше понимать наступающее светлое (или темное) будущее?

Поскольку мы точно не знаем, что может произойти, я полагаю, размышлению о будущем очень поможет чтение разнообразной твердой научной фантастики — и обдумывание выводов из прочитанного. Превосходных писателей подобного жанра много: Чарльз Стросс, Дэвид Брин, Карл Шредер, Ханну Райаниеми…

В каком произведении из области научной фантастики, на ваш взгляд, мы сегодня живем?

Не знаю. Но очевидные тренды указывают на сюжеты, подобные «Концу радуг».