«Если», 2015 № 05

Искусственный интеллект:
ЖИЗНЬ КРУЧЕ ФАНТАСТИКИ

/экспертное мнение

/информационные технологии

/искусственный интеллект

Астрофизики спорят с уфологами, есть ли братья по разуму в далеких галактиках. Биологи спорят с политиками о критериях разумности животных. А вот специалисты по искусственному интеллекту ни с кем не спорят: они просто создают будущее. Мир, где люди будут существовать бок о бок с разумными ИскИнами. О том, каким окажется это будущее, журнал «ЕСЛИ» побеседовал со специалистами по технологиям искусственного интеллекта Анатолием Левенчуком и Михаилом Бурцевым.

Что сейчас происходит в области разработки систем искусственного интеллекта?

Анатолий Левенчук: Разные люди по-разному отвечают на вопрос про происходящее в области искусственного интеллекта. Кто говорит о «прорыве», кто об окончании «зимы», кто о растущем числе применений давным-давно открытых алгоритмов, кто о надувающемся пузыре фондового рынка. Для меня существенным замечанием явилось то, что мой партнер Виктор Агроскин предложил уже опускать слово «искусственный» — результаты уже сравнимы с человеческими, а то и превосходят его. Как булгаковская осетрина, которая бывает только первой свежести, так и здесь: либо интеллект, либо его отсуствие.

Направлений в искусственном интеллекте сейчас множество — коннекционисты (deep learning и нейронные сети как раз оттуда), эволюционисты, последователи Байеса, символисты-логики, использователи аналогий. Я рекомендую книжку Pedro Domingos «The Master Algorithm», которая дает общий обзор этих направлений и возможные пути их объединения в один «царский алгоритм».

Михаил Бурцев: Разработки ИскИн идут сверху вниз — от моделирования приемов, которыми человек решает интеллектуальные задачи, и снизу вверх — от моделирования нейронных механизмов обучения. Это если рассматривать ИскИн как область фундаментальных исследований. В области приложений, которая называется машинное обучение, используются оба подхода вперемешку — главное, чтобы работало, но и задача ставится менее амбициозная — создание специализированных интеллектуальных систем, а не общего искусственного интеллекта, эквивалентного человеческому. Сейчас в этой прикладной области происходит революция: оказалось, что давно уже известные алгоритмы нейронных сетей начинают давать результаты, существенно превосходящие аналоги, если их масштабировать по входному объему данных и объему вычислений.

Что означает часто встречающийся по отношению к развитию искусственных интеллектов термин «deep Learning»?

Анатолий Левенчук: Learning означает, что вместо выполняемой человеком инженерии знаний (ручного определения понятий, а потом ручного выписывания способа рассуждения с этими понятиями — каких-то формул или алгоритмов) всю инженерную работу делает компьютерный алгоритм, который «учится» — сам выявляет в ходе обучения знания, сам выстраивает в ходе обучения способы рассуждения с использованием этого знания. A deep означает, что уровней представления и обработки знания много, больше трех: представление и обработка входной информации, выходной информации и более одного находящегося между ними, говорят «скрытого». Чаще всего эти уровни представления и обработки информации — слои нейронов в многослойной нейронной сети, но там необязательно нейроны, могут быть и самые разные другие уровни-слои.

Как ИскИны изменят мир?

Анатолий Левенчук: А как человек изменяет мир? А как человек изменяет мир, если у него есть компьютеры? Я не думаю, что тут что-то существенно поменяется: просто в разы и разы возрастает скорость изменения мира. Впрочем, и человек при этом изменении уже не совсем человек, и ИскИны не совсем искусственные. Фантастика давно решила вопрос, что важен разум, а природа носителя разума вторична — физиологические потребности носителя относительно легко удовлетворить.

Михаил Бурцев: Один из вариантов — постепенная интеграция людей и окружающих их интеллектуальных систем. Как сегодня многие не мыслят передвижение без автомобиля, так завтра ИскИн будет расширять когнитивные возможности человека, формируя суперинтеллектуальную среду.

Каким может стать мир сосуществования людей и ИскИнов?

Анатолий Левенчук: Любым, не противоречащим законам физики! Уже и сейчас люди и компьютеры вполне сосуществуют — у каждого в кармане смартфон, на улицах уже появились автомобили без водителей, а фирмы объединяют деятельность тысяч людей через информационные корпоративные системы управления проектами, процессами, задачами, ресурсами. Так оно и будет дальше — больше здоровья, более точечные войны, быстрее транспорт, доступней пища и жилье.

Михаил Бурцев: Возможно, в ближайшее десятилетие каждый человек будет окружен «облаком» виртуальныых ИскИнов-помощников, которых он даже не будет замечать. В области кибербезопасности произойдет качественный переход к новому витку борьбы между средствами нападения и защиты, как первые, так и вторые станут самообучаемыми.

Чего можно хотеть от искусственного интеллекта к 2035 году? А чего — нельзя? Какие, по вашему мнению, могут появиться и/или реализоваться «страшилки» и «хотелки», связанные с ними?

Анатолий Левенчук: Главная страшилка — это сами люди, они придумывают себе самые разные пугавчики и потом их долго боятся. Боятся гнева богов, боятся глобального потепления, боятся друг друга. Системы искусственного интеллекта вызывают три главных страха:

1. «Мы победили неандертальцев в эволюционной борьбе, и те вымерли. А роботы победят нас, и мы вымрем»;

2. «Пришли роботы, они отберут у нас работу»;

3. «Нехорошие люди-редиски сделают роботов-убийц, и они будут править миром».

Все это хорошо знакомые страхи появления любой техники, из них хоть как-то специфичен для искусственного интеллекта только первый. Я этих страхов не разделяю. Более того, я не поддерживаю разговора про AGI (искусственный общий интеллект, что-то типа «искусственного человеческого интеллекта»), потому что этот разговор как магнитом притягивает всяких фриков, желтую прессу, дилетантов — и дальше мы обсуждаем не жизнь, а фантазии худших произведений Голливуда. Хочется пожелать всем этим добрым людям не путать плохую фантастику и реальную жизнь.

К 2035 году мы будем общаться с хорошо аватаризованными (т. е. с человеческим обликом и хорошей речью и манерами — чтобы быть, как индийские боги, совместимыми в общении с людьми) индивидуальными и коллективными виртуальными помощниками. Роботы будут уже передвигаться более-менее ловко и выполнять простые работы, а программы искусственного интеллекта существенно продвинут медицину. Воплей про искусственный интеллект будет немного, всех будет заботить практическое здоровье и бессмертие — тут я ожидаю прорывов как раз в силу использования новых алгоритмов для решения биологических загадок.

Ключевой для меня рубеж (он же и для многих и многих других исследователей) — это возможность пообщаться с роботом-домом, роботом-кораблем, роботом-автомобилем. Я думаю, что в какой-то мере это уже реализовано. Робот сегодня может уверенно выполнять голосовые команды и как-то аватаризован — достаточно вспомнить майкрософтовскую Кортану. Кстати, образ для аватара Кортаны пришел из фантастики.

Какие идеи или произведения еще предстоит реализовать?

Анатолий Левенчук: Мы вплотную подошли к реализации чего-то типа компьютера HAL9000 из «2001: A Space Odyssey». Дуглас Ленат даже хотел реализовать такой проект аккурат к 2001 году, но так и не смог. Сейчас появились новые надежды, но вряд ли такой амбициозный проект будет реализован в ближайший пяток лет. Но посмотрим, что будет к 2035 году.

Кстати, специфически про нейронные сетки, один из корифеев, Andrej Karpathy, написал недавно фантастический рассказ, «Short Story on Al: A Cognitive Discontinuity», где подробно прописал натаскивание (там оно называется shaping — учтите, что в психологии и биологии shaping означает «формирование навыка» или «формирование условных рефлексов») полуавтономного робот-агента-на-нейронных-сетях. Только нужно учесть, что рассказ предназначен для весьма специфической аудитории: в нем много деталей, которые могут быть непонятны, если не знаешь механизмов работы современных нейронных сетей (типа всех этих «градиентов»). В каждом фантастическом рассказе есть доля фантастического рассказа. А уж когда это учебный рассказ, то и подавно.

Какое произведение в области научной фантастики, на ваш взгляд, лучше всего описывает современный сценарий развития систем искусственного интеллекта?

Анатолий Левенчук: Это, безусловно, «Accelerando» Чарльза Стросса, хотя целых десять лет прошло с момента выхода книги в 2005 году. Это, конечно, радикальный и экстремальный сценарий, но мы же понимаем, что жизнь может оказаться круче любой самой крутой фантастики!