Просыпаюсь под мерный писк какого–то прибора. И именно просыпаюсь, а не прихожу в сознание. Осторожно приоткрываю глаза и бросаю взгляд по сторонам. Я не в реанимационной капсуле, что уже радует. Осмотревшись, понимаю, что это та самая комната, в которую меня поселили здесь, и лежу я на своей кровати, подключенный к какому–то незнакомому прибору.
Не заметив никого постороннего, внимательнее присматриваюсь к прибору, не рискуя пока что подниматься и вообще шевелиться, а то, кто знает, как он отреагирует на это. Похож на какой–то диагност. Вон мой пульс и давление отображаются — это из того что смог понять, а так там хватает еще кучи каких–то параметров.
Медленно сажусь, прислушиваясь к своим ощущениям. Кажется, все в порядке: ничего не болит и не напоминает о недавно пережитом ужасе. Поднявшись с кровати, замираю, смотря на натянувшиеся провода от кучи датчиков, облепивших меня всего. Снять их или не стоит? Размышления прервал звук открывшейся двери.
— Я смотрю тебе уже лучше. — раздался из–за спины голос Андрея Владимировича. — Стой смирно.
Терпеливо жду, когда он закончит что–то высматривать в показаниях диагноста и начнет снимать с меня эту кучу проводов.
— Пошли. — позвал он меня, собрав оборудование в ящик на колесиках и покатив его в сторону выхода из комнаты.
Не задавая пока что вопросов иду следом за ним. Что–то мне подсказывает что меня сейчас ждут новые обследования и эксперименты, но хрен я им дамся пока они мне все не объяснят. Ну или хоть что–то…
Предположения оказались верными. По петляв по коридорам, мы вышли к незнакомой мне лаборатории, я тут еще не разу не был. Пройдя через подозрительно массивные двери, больше похожие на от какого бункера, чем от лаборатории, мы оказались в огромном помещении, целиком заставленном различным оборудованием.
От этого многообразия даже как–то замираю, растерявшись. За время, проведенное здесь я видел многое, но вот чтобы столько в одном месте и все совершенно незнакомое… Единственное за что зацепился глаз, вычленив из общей картины — так это за кушетку ровно в центре помещения, кажется это единственное что знакомо мне из всего что тут находится.
— Проходи, чего замер? — спросил Андрей Владимирович и махнул рукой в центр комнаты, а откуда–то из–за оборудования появилось еще трое ученых.
Двое уже знакомых: один со сломанным носом, а второй вполне целый, до него в порыве членовредительства я добраться не успел. А вот третьего еще ни разу не видел.
Ловлю на себе опасливый взгляд пострадавшего ученого. Делаю виноватое выражение лица ему и отмерев иду в сторону кушетки. Так подумать, он просто делал свою работу, ну а то что не совсем получилось… все же маленькое чувство вины за сломанный нос сидит где–то в глубине меня.
— Ложись.
Э, нет, не так быстро. Сажусь на кушетку, но ложиться не спешу. Пристально смотрю на Андрея Владимировича, но тот стойко переносит мой взгляд, совершенно игнорируя его. Эх, не вышло.
— Может мне кто–нибудь объяснит, что такое было со мной совсем недавно и что вы собираетесь делать дальше? — не дождавшись реакции с его стороны, прямо задаю вопрос.
— Давай ты ляжешь, мы начнем обследование, а я буду отвечать на твои вопросы?
— Ладно, надеюсь в результате вашего обследования я не перейду в состояние овоща.
— Не перейдешь, мы просто снимем показания. — ответил он мне, как–то недовольно поморщившись.
Ладно, поверю, все равно у меня выбора особого–то и нет. Они похоже отвечать не горят желанием. Тяжело вздыхаю и растягиваюсь на кушетке. Надо мной сразу начали порхать две пары рук облепливая датчиками, третий же на пару с Андреем Владимировичем начали что–то делать с оборудованием.
— Может все же расскажете, что произошло? — снова спрашиваю, подождав несколько минут и не дождавшись обещанного.
— А? — оглянулся на меня Андрей Владимирович. — Точно. Влад, смени меня.
— Хорошо. — кивнул тот, который со сломанным носом, и встал на место своего начальника, продолжив делать то что начал тот. Ага, значит тебя зовут Влад, что ж, приятно познакомиться.
— С чего бы начать? — задумчиво произнес Андрей Владимирович.
— Может с самого начала? С того что со мной хотели сделать в тот момент, когда меня вырубило, а потом плавно перейдете в тому что произошло и чем это грозит.
Вижу, как он крепко задумался и взгляд у него стал какой–то непонятный.
— Ладно, ты должен знать. В каждой нейросети оставляется возможность подключиться к ней для управления и настройки. Твоя не исключение. В ходе тестирования все разы до этого мы подключались к так называемому внешнему уровню оболочки нейросети. Он позволяет уже непосредственно взаимодействовать с ней, но вносить какие–либо значительные изменения нельзя. В тот раз же мы должны были подключиться к ее ядру, где возможно уже вносить кардинальные изменения.
Произнеся все это, он снова задумался. Ну блин, на самом интересном прервался. В целом, рассказанное пока что особо не удивляет: оно логично и понятно, плюс все это есть в гражданских моделях, а значит и в интернете.
— И? — пытаюсь вернуть его к прерванному рассказу.
— И вот на этом этапе начались проблемы. Твоя нейросеть просто обрубила установленное соединение и практически отключилась, вырубив заодно и тебя. Что произошло и почему — этого мы пока что не знаем. Вот прямо сейчас снимаем с тебя и нее кучу различных параметров, чтобы хоть что–то понять.
— А что произошло, когда я в первый раз пришел в себя?
— Не знаю слышал ли ты что мы тогда говорили или нет. Твоя нейросеть резко вышла на пик мощности. Мы попытались снова подключиться к ней, что к ядру что к внешнему уровню. Но все попытки оказались заблокированы, правда в этот раз нейросеть уже не отключалась. Вот и все. Потом ты вскочил, сломал нос Владу и отрубился. Мы по мониторили твое состояние, но больше попыток подключиться не предпринимали. Дальше ты уже все знаешь.
Рассказать ему про то что писала нейросеть или не стоит? Наверно все же нужно.
— Перед тем как в первый раз потерять сознание, нейросеть вывела мне сообщение о каком–то внешнем вторжении. Потом, когда я очнулся в капсуле, в ответ на вашу попытку подключения она активировала какую–то защиту.
Стоило мне договорить, как со стороны всех троих ученых донесся поток матов, а Андрей Владимирович как–то сбледнул. Эм, и что это значит?
— Саморазвитие. — донесся до меня голос одно из ученых.
— Ну конечно, она наше подключение расценила как угрозу, вот и приняла меры. — ответил ему Влад.
— Тихо! — прервал их обсуждение Андрей Владимирович. — Потом все мысли. Заканчиваем снимать параметры и ты, Сергей, пока что будешь свободен, поспи, отдохни.
Дальнейшее обследование заняло минут десять от силы, и меня быстро спровадили в комнату, заперев в ней. Как–то растеряно оглядываюсь по сторонам. И что такого произошло, что как мне показалось они все оказались напуганы?
Саморазвитие… что это значит? Нейросеть может самостоятельно развиваться, эволюционировать? Да не, бред какой–то. Полноценных искинов еще не существует в реальности, а те что есть весьма ограничены, а без такого ни о каком саморазвитии и речи не может быть. Максимум реакция на угрозы.
Или не бред… Ведь так подумать, нанофабрика есть — может проводить физические модификации, а программно она точно может меняться, недавно убедился в этом. Правда, это скорее все же была реакция на угрозу. Но вот вопрос, почему она так распознала попытку подключения к ней?
Осознав до конца что это значит, не нахожу слов чтобы выразить эмоции. Надеюсь хоть какое–то ограничения у нее останутся, и она меня хотя бы за угрозу не посчитает, а то это же будет полный…
Прошла неделя с того момента, как нейросеть Сергея начала агрессивно реагировать на попытки к ней подключиться и все это время лабораторный комплекс был словно разворошенный улей: все что–то усердно делали и носились туда–сюда, пытаясь найти выход из сложившейся ситуации.
В этот раз в кабинете Андрея Владимировича было многолюдно: сам хозяин кабинета, пятеро ученых, включая его помощника, и в углу, сидя в тени притаился особист.
— Пожалуй начнем. — отвлекся от монитора компьютера Андрей Владимирович. — Алексей, обобщи то что нам известно на данный момент, а потом перейдем к конкретике.
— Не смотря на прошедшую неделю, особо больше узнать нам не удалось. Парень на пару со своей нейросетью находится в стабильном состоянии. Продолжаем снимать данные, все идет по плану, только исключили прямое взаимодействие с сетью во избежание повторения недавнего случая. В целом, все что нужно и возможно мы сняли с него, больше держать его здесь смысла нет. Дальше нужен уже специально подготовленный подопытный с нужным набором модификаций и тому подобным, а не этот простой парень с улицы. Еще могу добавить, что благодаря нейросети Сергей прекрасно справляется со всеми возложенными на него задачами и быстро адаптируется под условия: будь то стрельба из оружия или физические нагрузки — в этом нейросеть работает отлично, превосходя все наши теоретические расчеты. По поводу непосредственного взаимодействия с ней, пусть об этом лучше расскажет Влад, именно его команда занималась этим. — Закончив говорить, Алексей облегченно перевел дух.
— А вот с моей стороны с самой нейросетью не все так радужно, как расписал Алексей. — взял слово упомянутый Влад, нос которого уже давно зажил. — Она напрочь игнорирует прямые команды и не поддается управлению. Если пытаться пробиться силовыми методами, то она переходит в активную защиту и атакует программную оболочку аппаратуры, выводя ту из строя. Если действовать не напрямую, то вот тогда можно чего–то от нее добиться, но… не всегда получается задуманное, слишком много надо внести косвенных изменений и не всегда удается до конца просчитать все факторы. И важно — итоговые изменения не должны нести вреда ей или ее хозяину, тогда в девяносто девяти из ста случаев она не заблокирует их.
— Проще говоря — вы не можете контролировать нейросеть и урезать ее возможности не получится. — подал голос особист из своего угла.
— Не совсем так. Как раз вот с урезанием возможностей мы нашли выход. Уже несколько дней мы проводим точечные изменения, которые в итоге должны будут привести к нужному для нас результату. Еще неделя максимум в таком темпе, и мы сможем практически полностью заблокировать ее.
— И тогда получится подключиться к ней? — задал вопрос особист.
— Сомневаюсь. Мы урежем ей почти все внешние возможности, но вот ее защита никуда не денется. — разведя руками ответил ему ученый. — Здесь мы бессильны, никто даже не мог предположить, что такое случится, ведь управляющий доступ прописан у нее на уровне ядра.
— Выяснили почему так получилось? — спросил у Влада уже Андрей Владимирович.
— Нет, не понятно, что именно привело к такому результату. Мы проверили все записи экспериментов. Ничего выходящего за рамки. А выяснить у нее самой не получается, как вы уже поняли.
— Понятно. — кивнул ему Андрей Владимирович. — Кто–то еще что–нибудь хочет добавить?
В ответ ему была тишина.
— Тогда все свободны. — отпустил он своих подчиненных.
Все то что они рассказали он и так знал, но это нужно было обсудить, вдруг всплыли бы какие–нибудь упущенные детали или вдруг родились гениальные идеи.
— Что будешь делать? — спросил особист, когда все вышли из кабинета.
— Как и думал: урежем ему нейросеть, только придется оставить его еще на какое–то время, чтобы проверить как получится. А потом пусть живет себе.
— Ты уверен? Может проще оформить все как неудачный эксперимент?
— Зачем? Пусть себе живет, нам он ничем не помешает. А вытащить или взломать нейросеть ни у кого не получится. Особенно взломать, если этого даже мы не смогли сделать, те кто создали ее и знали все слабые места. Да и с вытащить не все так просто, она же теперь одно целое с его мозгом: умрет он уничтожится и нейросеть, а в мозге ее изучить практически не реально.
— Я не совсем понял, как вам удастся урезать ее функционал, если она блокирует негативные изменения?
— Там все хитро, изменения по отдельности не несут вреда, но стоит произойти последнему, кстати тоже в целом безвредному, как все вместе они просто положат нейросеть, обрезав ее функционал.
— Так может таким образом кто–то сможет ее взломать?
— Ага, это нужно еще знать, что и где искать. Ну и во второй раз провернуть все это не получится — сеть уже научится и не допустит. Так что после блокировки она станет совершенно неуправляемой извне.
— Ясно. Отчет готов?
— Разумеется. Сегодня вечером отправлю его, а завтра жди бурю.
— Будешь сообщать о возникшей проблеме?
— Пока что нет. Попробуем исправить ее в следующей версии, есть парочка идей.
— Хорошо. Кстати, давно хотел спросить. А что это за саморазвитие у нее? Вы туда, что, искин впихнули? На что оно способно — это я уже увидел, впечатлило, но хотелось бы хоть примерно понимать, что за оно такое.
— Все сложно, если честно. Можно сказать, что там урезанный искин с кучей наших доработок. По идее — отдельный урезанный блок с реагированием на внешние угрозы и адаптацией к ним. А вот что получилось в итоге — это хороший вопрос. Уже сейчас понятно, что мы где–то ошиблись, но к чему это приведет, помимо потери возможности внешнего управления нейросетью, неизвестно. Если так подумать, то может это не так уж и плохо. Подключились в первый раз, пока она не вышла на полную мощность, настроили все что нужно, зато потом никто уже не сможет больше управлять ею, особенно потенциальные противники, которые захотят исследовать нашу новинку.
— Может быть ты и прав. Я тебя понял. Пожалуй, пока ничего докладывать не буду, но ты долго не тяни. Если не получится исправить возникшую проблему в новой версии, сообщи мне и я преподнесу своему начальству в нужном свете.
Целые две недели меня здесь уже мурыжат, все проводя и проводя различные тесты. Не сказать, что мне так уж и надоело тут, особенно учитывая, что в нейросеть они почти не лезли, только в первые дни попробовали, но та сразу среагировала, и больше не пытались.
Но чем дальше, тем сильнее у меня ощущение, что они тянут зачем–то время: новых экспериментов уже как несколько дней нет, даже весь местный арсенал освоил, постреляв со всего чего можно и нельзя. Да и в самих них энтузиазм заметно под угас, видно, что они заняты уже чем–то другим. Ну, это не касается только тех что работают непосредственно с нейросетью, те наоборот что–то упорно считывают и пытаются понять, как получилось то что получилось.
В целом, не жалуюсь на произошедшую задержку, ведь это время не прошло даром и для меня: с каждым новым днем получается все лучше и лучше взаимодействовать с нейросетью. Если раньше нужно было напрягаться чтобы активировать какую–нибудь ее функцию, то теперь все получается при малейшем осмысленном усилии. Правда функций этих не так уж и много, для большинства теоретически возможных нужны модификации тела, которые разумеется никто проводить со мной не стал, я же не военный все же.
Еще что странно немного, но на мне никак произошедшие с ней изменения не сказались. С одной стороны, логично ведь они были программные, а с другой, кто ее знает… я уже вообще не знаю, чего от нее можно ожидать. Но чем дольше я с ней, тем грустнее становится что ее урежут. Сейчас она стала уже почти чем–то родным, своим. Не уверен, но почему–то есть ощущение, что и она привыкла ко мне, как бы дико это не звучало.
— Сергей, хватит дрыхнуть. — открылась дверь в мою комнату и в ней появился Алексей, который помощник самого главного здесь начальника.
— А? — удивленно смотрю на него. По стандартному графику у меня еще целый час должен быть чтобы отлежать бока.
— Вставай и пошли. Нужно внести последние изменения в нейросеть, и ты будешь свободен.
Вскакиваю с кровати, не зная радоваться или грустить. С одной стороны, наконец выйду отсюда, а с другой… Почему–то при мысли о предстоящем становится грустно. Задавливаю в себе эту непонятную печаль. Ну что мне от этой нейросети? Главное, что я жив и буду жить дальше.
Быстро одевшись выхожу в коридор, где меня терпеливо ждал Алексей, который просто Алексей без всякой фамилии или отчества. Несколько минут по коридорам, и мы пришли в уже знакомую лабораторию. Вижу, что там уже все готово: мое место свободно и рядом сидит Влад, явно в нетерпении ожидая меня.
Прохожу и лажусь на кушетку. Пара секунд, и на мою голову оказался водружен шлем с датчиками и кучей еще разной хрени. Замечаю, как Влад бросил взгляд на Алексея и тот кивнул в ответ. Сразу же раздался стук по клавиатуре.
Прислушиваюсь к своим ощущениям, но ничего неприятного нет, не то что было в первые разы, когда они в наглую копались в нейросети.
— Готово! — довольно произнес Влад и оглушительно громко нажал клавишу на клавиатуре.
Мгновение, и мне на голову словно мешок надели. В первый момент показалось что оглох: слух стал непривычно плохим. В придачу к этому, сразу появилось ощущение какого–то одиночества, будто у меня забрали что–то очень важное. Меня предупреждали об этом: урежут все что можно, оставив самый минимум в виде немного улучшенного контроля над организмом и собственно рабочей нанофабрики, которая по команде нейросети сможет чинить как ее, так и меня латать.
Зафиксировано внешнее вторже…
Смотрю на оборвавшееся сообщение и тоска накатывает с новой силой. От чего же я отказался? Может стоило им предложить взять меня на военную службу? Странно, почему они сами не предложили мне? Как по мне, это и им было бы удобно.