«Если», 2016 № 03

_{ДЕЖУРНЫЙ ПО ВЕЧНОСТИ}
Анатолий Левенчук
ИГЕОИБИОЦЕНОЗЫ А РАЗУМ ПАХНЕТ РАЗУМОМ, ТЫ КАК НИ НАЗОВИ

© Ronamis, илл., 2016

/экспертное мнение

/мир без людей

Будущее интересно тем, что предсказанное приходит всегда, но это «всегда» обычно неожиданно. Так, самолет появился, но он не махал крыльями. Киборги появились, но не в виде cybernetic organisms, т. е. организмов с половиной черепа из железа и допотопной оптикой в глазу, а в виде cybernetic organizations — тысяч и тысяч организованных людей в транснациональных корпорациях, склеенных в единое действующее целое корпоративными информационными системами.

Искусственный интеллект на основе логики (и даже нечеткой логики) так и «не взлетел», но зима искусственного интеллекта была окончена неведомой для компьютерной науки (computer science) математикой «от физиков»: линейной алгеброй и математическим анализом. Прорывы готовятся в одних областях, а проявляются совсем в других. Кто бы мог предсказать, что опорой нынешнего прорыва в искусственном интеллекте станут графические ускорители в видеокартах? По факту развитие сегодняшнего искусственного интеллекта было профинансировано родителями любителей драться нарисованными мечами с нарисованными драконами. Спасибо им!

Так что предсказанное будущее с ИскИнами опять наступило, но не такое, каким оно представлялось массовой культурой совсем недавно. В нынешних ИскИнах вместо тупой математической логики первых компьютеров, как вершины цивилизационного мышления, оказалась реализована инфраструктура чувствующих существ — животное восприятие, осмысление воспринятого и рефлекторное действие. К черту сознание. Когда собака приносит нам тапочки, нас мало волнует ее сознание и владение римановской геометрией. Когда медведь едет на велосипеде (а он ведь едет!), нас мало волнует, какие дифференциальные уравнения решает его мозг. Скорее всего, никаких, что не мешает медведю осваивать велоспорт.

Современные компьютеры научились делать то же самое, что медведи и собаки, а также детсадовские дети: они справляются с ездой не только на велосипеде, но и на автомобиле и не только могут отличить тапочки от ботинок, но и эротику от секса, — и тысячи сотрудников социальных сетей, которые этим занимались, уже уволены. Животная, в том числе и двуногого без перьев, чуйка в 2012 году (именно тогда первый раз применили видеокарты для глубокого обучения искусственных нейронных сетей) оказалась реализована не только эволюцией мокрых нейронных сеток головного мозга, но и проектированием сухих нейронных сеток кремниевых микросхем. Компьютер после этого немедленно получил чувство прекрасного — для этого было достаточно ознакомиться, какие картины и фотографии лайкают люди в социальных сетях. Немедленно он начал узнавать в лицо не только людей, но и диких зверей (например, различать отдельных китов по аэрофотоснимкам), а уж почерк людей и на английском, и на китайском различает лучше самих людей. Никакой логики в распознавании переломов на рентгеновских снимках нет, но компьютер распознает эти переломы не хуже рентгенологов. Огромное число чисто человеческих задач оказались автоматизируемыми, когда зацикленность людей на правилах и логике для компьютеров закончилась.

С другой стороны, расхожее определение «интеллекта» — это то, что люди не могут объяснить (а следовательно, реализовать инженерно «в железе и софте»). Арифметика была высокоинтеллектуальной когда-то. После арифмометров «Феликс» перестала таковой быть, ушла в общественные низы. Шахматы были интеллектуальным видом спорта, ушли в область цирковых достижений из книги рекордов Гиннеса, равно как и го. Художественный вкус перестал быть признаком интеллекта, равно как и умение читать. Яндекс, Гугл, Фейсбук и многие другие дата-центры стали переводчиками — не высокооплачиваемыми, конечно, но много ли выпускников школ и даже вузов могут переводить на таком же «плохом» уровне? Особенно если учесть, что переводить приходится отнюдь не только с английского и на английский, но и с какого-нибудь фарси на суахили. Мир-то большой! Когда-то давным-давно Билла Гейтса упрекали, что его операционная система содержит недопустимо большое число ошибок, она плохая! Он отвечал, что «зато она самая дешевая на рынке». Машинный разум хорош тем, что он необязательно должен быть лучше человеческого. Отнюдь. Он должен быть прежде всего дешевым и быть доступным повсеместно.

Опять же компьютеры быстро учатся. Буквально: они учатся, а не программируются. В этом основная разница, это отличает интуитивное понимание «чувствующих существ» от существ программируемых. Чтобы программировать программу-переводчик, нужно было десяток человеко-лет на каждый язык. Современная программа-переводчик выучивает по языку за ночь — не качественно, зато быстро и дешево. Через год программа-переводчик станет лучше, но останется такой же дешевой. И будет выучивать язык так же быстро, а то и еще быстрее.

Даже искусственность интеллекта оказалась не важным признаком, поэтому сейчас все чаще различают человеческий и машинный интеллекты, а не естественный и искусственный. Инженеры систем машинного интеллекта (они же — системы машинного обучения, которые сначала рожают… тьфу, делают, а потом долго учат) заняты сейчас тем, что машинные интеллекты будут проектироваться и обучаться дальше уже не только и не столько людьми, сколько компьютерами. Впрочем, слово «будут» в этой сфере лучше уже не использовать, это уже происходит, хотя еще и не во всех лабораториях. И это инженерные лаборатории условного Эдисона, а не научные лаборатории условного Эйнштейна.

Кто-то при виде ножа думает о колбасе, кто-то об убийстве. Кто-то при виде ИскИна думает о безлюдной земле, кто-то о симбиозе роботов и людей. Думайте, думайте. Все одно не угадаете: будет симбиоз нелюдей и нероботов. Точнее, не симбиоз, а биоценоз — совместная жизнь многих и многих видов. Нет, там «и биоценоз тоже» — ибиоценоз, потому что на биоценоз накладываются еще и техноценозы. Да, будут геоибиоценозы, которые будут сочетанием геотопов и биоценозов. Ах, и гео- тут тоже устарело, обитатели Земли выходят за ее пределы. Так что «и геотопы тоже» — игеотопы. В мире ближайшего настоящего будут игеоибиоценозы, в которых подразумевается присутствие в том числе неземных топов и небиологических тварей. Цветущая сложность, цветущая жизненность. Про цветущую смертность я писать не буду. При виде ножа я лично думаю про колбасу, апокалиптические сценарии всегда найдется кому написать.

Итак, ибиоценозы во всех игеотопах: что там происходит? Ничего необычного: рутинная эволюция, рост разнообразия форм жизни и нежити, рост разнообразия проявлений «интеллекта», по-всетварное и повсеместное индивидуальное и коллективное «творчество» — что бы ни означали эти уже порядком стертые слова.

Когда случится весь этот праздник жизни? А уже случился. Тот же машинный интеллект поумнел настолько, что сдача компьютером многопредметного экзамена за восьмой класс американской школы на уровне 59 % правильных ответов (результат 2016 года) воспринимается уже не как крупная победа человечества, а как провал! Это нужно привыкнуть: разные программы машинного интеллекта такие же разные, как люди. Одна программа обыгрывает чемпиона мира в го, а другая сдает экзамен за восьмой класс на троечку. Сравнение же человечества с одним роботом мне кажется сегодня несправедливым. Если и сравнивать человечество, то сразу с робовечеством. Я, например, плохо рисую. Но человечество-то рисует отлично! Так и робовечество: один робот хорошо рисует, а другой хорошо диагностирует рентгеновские снимки. Да-да, умение «творить новое» у современных компьютеров уже есть. Это философы и прочие теоретики пытаются построить демагогическое рассуждение, по которому только обезьяна и человек могут создать что-то совсем новое. А инженеры регулярно проводят слепые тесты (известные как «тест Тьюринга»: диалоговый, музыкальный, художественный и т. д.), по которым компьютер-творец по результатам его творчества для большинства людей неотличим от человека-творца.

К этому добавляется повсеместный Интернет, который позволяет быстро найти и оплатить любую потребную экспертизу.

Но кому потребна эта экспертиза, каким разумным лицам — юридическим, физическим? Будущее отличается и тем, что не только физические лица стремительно меняют свою природу (программы, кстати, глубоко физичны — компьютер ведь представляет собой протекающий во времени физический эксперимент, в котором меняется состояние вещества и полей по ходу исполнения программы). Юридические лица тоже меняют свою природу: смарт-контракты и блокчейны не только дают нам криптовалюты, но и новые средства формирования «лица» — чиновники-клерки, регистрирующие людей, зверей и машины (мы ведь мстительно помним времена регистрации пишущих машинок!), становятся ненужными, а организации приобретают черты распределенности. Мир распределенных организаций, которые обходятся без клерков, без чинуш как корпоративных, так и государственных. Можно ли эти смарт-контракты, скрепляющие лица (и физические, и юридические) в другие юридические лица, сделать разумными? Или это обязательно должны быть «тупые алгоритмы»? Могут ли быть смарт-законы? Что будет, если это «смарт» станет «интеллект»? Что будет, если это будет интеллект, сравнимый с человеческим или, наоборот, в разы и разы его превосходящий?! А ведь эксперименты со смарт-контрактами и распределенными реестрами уже вовсю идут! Хотя какие же это эксперименты, когда оборот этого нового рынка уже миллиарды долларов?

Чарльз Стросс в романе «Accelerando» описал, как за такими распределенными корпорациями удобно прятаться ИскИнам, желающим скрыть свое нечеловеческое происхождение. Но совсем не нужно ждать «настоящих ИскИ-нов». Блокчейн Эфириума сегодня цитирует Ричарда Брауна: «…в блокчейне никто не знает, что ты холодильник». Эфириум уже работает. Accelerando уже не про будущее.