Программист из Нового Института Человека шагал по раскалённой солнцем дороге в старый институт. Город был огромен. Он разбросал тысячи многоэтажных строений по сотням кварталов. Небоскрёбы величественно возвышались над головой, наблюдая, как край города скрывается за горизонтом. Бесконечные нити дорог связывали исполин в единое целое. Он гнил, этот город. Как ржавчина съедает железо, так ветра, дожди и солнце наждачной бумагой стирали с лица земли последний город людей. Дома таращились пустыми окнами на мусор улиц, на покрытую потрескавшимся асфальтом дорогу, лентой уходящую вдаль. Если пройти ещё сотню метров, то можно наткнуться на огромный кратер. Программист знал о нём, как знал и то, что к институту сейчас легче пройти переулками, несмотря на шанс встретиться с агрессивными обитателями города. Вероятность нападения в это время незначительно. Эффективность работы, если он прибудет в институт раньше на час, вырастет. Приняв решение, программист достал из кобуры пистолет и свернул с дороги в тень многоэтажки. Кадров у Нового Института Человека было крайне мало. Всех специалистов вооружали, снабжали необходимыми инструкциями, а после отпускали в свободный полёт. Днём они изучали руины города, а ночью анализировали полученные данные, дабы возродить старую цивилизацию. Нужно было так много узнать о мире, который ушёл. Программист оглядел знакомый внутренний двор, обвитый крепостной стеной жилого дома. Обгоревшие деревья редкими столбами торчали тут и там, окна всё так же зияли пустотой. Он ходил этой дорогой десятки раз, успел запомнить неменяющуюся картину до мелочей. В городе теперь вообще мало что менялось, он стал статичен. Только медленно разрушался. И застывшая у тротуара детская коляска привлекла внимание программиста. Вероятность нападения оставалась незначительной, но потеря ещё одного исследователя было бы сильным ударом для Института. Сняв оружие с предохранителя, программист приблизился к коляске, остановившись за десять метров до неё. Ближе подходить было опасно: её вполне могли заминировать. Вещи никогда не появляются сами по себе и просто так. Тот, кто поставил здесь коляску, наверняка руководствовался своей логикой. Возможно, он даже изучил маршрут программиста и готовил ловушку. Высчитать новый маршрут оказалось несложно - программист давно обозначил его как запасной. К старому институту можно пройти через парк, ставший сейчас пустырём. Программист давно собрал о парке всю информацию, знал его назубок. Когда-то парк служил зоной отдыха: люди совершали в нём утренние пробежки, семейные пары устраивали пикники. Ничего важного. Приняв решение, программист обошёл подозрительную коляску и направился к парку. Нужно сообщить в центр об этом инциденте при возвращении. Здание института выглядело намного опрятнее остальных. Если город был похож на гниющего мертвеца, то старый институт человека – на больного раком в последней стадии. Шансов на выздоровление уже нет, но жизнь продолжает теплиться в дряхлом теле. Аварийные генераторы ещё работали, заставляя здание дышать. Можно было включить свет, воспользоваться компьютером, даже подняться на лифте. Но программист, хоть его этап работы остановился уже на последнем этаже, предпочитал пользоваться лестницей. Время, потраченное на подъем, не идёт ни в какое сравнение с опасностью пользования лифтом. Сегодня программист доберётся до очень интересной информации, и он в предвкушении улыбался. Преодолев пролёты лестницы чуть быстрее обычного, он устроился за монитором. Привычным движением объединив свой разум с компьютером, программист застыл в кресле. Знакомое чувство. Расширившееся сознание вышло из привычного, но такого тесного, тела, расползлось по всему институту. Первым делом он вошёл в систему безопасности, сканируя окрестности. Много, очень много камер было слепыми, программист починил только те из них, которые наблюдали за проходами к нему. Никто не смог бы незамеченным подобраться к программисту, занятому работой. Несколько потенциальных врагов ютились на первом, втором и пятом этажах. Это только те, кого зафиксировали датчики, на самом деле их было много больше. Но риск нападения был в пределе нормы. Проверив ещё обязательные параметры, чуть небрежнее и быстрее, чем обычно, программист наконец смог приступить к интересующей его информации. Он так ждал сегодняшнего дня, целую ночь он возбуждённо рассказывал коллегам-программистам о своей находке. Наконец, он сможет удовлетворить любопытство. Он направил своё сознание в отсек, где хранился дневник программиста, работавшего в этом самом институте человека ещё до катастрофы. Интересно, чем занимались программисты раньше? Электрические импульсы кружились в радужном вихре, складываясь в видеофайл. Разрушенная лаборатория с единственным работающим компьютером преображалась на глазах. Исчез вечный слой пыли и горы мусора, окна заросли стёклами. У стены возник платяной шкаф, через приоткрытую дверцу которого проглядывало зимнее пальто. Вглядевшись в окно, программист заметил на подоконнике белые осадки, состоящие из мелких кристалликов льда. Это было второе напоминание о снеге, найденное программистами. С лёгким скрипом отворилась входная дверь, и невидимый программист увидел своего коллегу – молодого человека лет тридцати с нахмуренным лицом. Он уселся за стол и принялся грызть ногти. Вероятно, он был чем-то расстроен. - Кто не выключил электронный дневник? – пробормотал он, простучав по клавиатуре пальцами. – Ладно, всё равно хотел его включить. Для возможных зрителей: я не псих, если беседую сам с собой. Просто мне непривычно говорить с электронным дневником, поэтому я разминаюсь. Нажав ещё несколько клавиш, молодой человек вывел на стену голографическую панель. - Меня зовут Олег Нестеров, я программист Института Человека имени Давыдова. Сейчас ровно двенадцать, у меня свободное время. Его я вижу целесообразным потратить на полезное дело. Нестеров нырнул под стол, достал целлофановый пакет, в котором оказались бутерброды. - Пока буду демонстрировать ролик, - сказал Олег, доставая бутерброд, - с вашего позволения я перекушу. Речь пойдёт об искусственном интеллекте. Как известно, наш институт долгое время занимается человекоподобными роботами. Зачем? Почему? Это остаётся загадкой. Да, прошу прощения за излишний пафос, но помяните моё слово, это может повергнуть человечество в хаос! Мы ещё не готовы к созданию самообучающегося искусственного интеллекта. Ведь самая незначительная ошибка может повести к непредвиденным результатам. Даже если её исправить, нужно будет пересмотреть всю программу целиком, ведь одно изменение может привести к цепи других изменений. Вот вам пример. Экран на стене мигнул, и на нём появилось изображение. Картинка, словно пазл, медленно собиралась в единое целое. Вот появилась деревня, крестьяне на полях убирали урожай. - Это искусственный интеллект, - пояснил Нестеров. – довольно примитивный, я прописал ему всего несколько потребностей: есть, спать и защищаться от врагов. Чтобы есть, им нужно работать в поле, собирать урожай. В мирное время всё спокойно, посмотрите, как люди трудятся. Действительно, крестьяне работали в поле, хоть довольно однообразно, но эффективно. Никто не думал о жажде, об усталости – ведь не пришла ночь, а днём никто не уставал. Олёг ввёл команду, и время ускорилось. День сменился ночью, крестьяне поели и ушли спать. Когда взошло солнце, они вновь вышли на поля. - Теперь я продемонстрирую следующую потребность – защищаться от врагов. На горизонте показались чёрные всадники, галопом скачущие на мирных работников. Те, заметив врагов, похватали вилы, чтобы тут же погибнуть под копытами коней. - Защищаться от врагов – несколько сложнее, - прокомментировал Нестеров. – Поэтому в другой деревне я на некоторое время избавил крестьян от необходимости каждый день сеять-есть-спать и, так сказать, призвал их в армию. Теперь уже сами крестьяне совершали набеги на другие деревни, участвовали в боях и учились военным премудростям. И вот, уже обученные крестьяне мирно убирают урожай, как… Вновь на экране появились чёрные всадники. Они толпой неслись на крестьян, размахивая саблями. Из-под копыт коней в небо взлетали комья грязи. Мирные крестьяне, словно спецназ, разбежались в стороны. Всадники въехали на поля, как в них со всех сторон полетели зажженные факелы. Враги сгорели вместе с урожаем. - Смотрите, крестьяне защитились от врагов, но урожай не спасли. К вечеру они все погибнут от голода. В разных деревнях были свои ошибки: некоторые так вообще, увидев врагов, заканчивали жизнь самоубийством. Команда была защищаться от врагов, а не самого себя. Эти ошибки выглядят надуманными, их можно легко проследить и исправить. Но в полноценном искусственном интеллекте, который разгуливает не в виде программы, а в виде человекоподобного – найти и исправить ошибку гораздо труднее. Скажешь ему защищать человека, так он убьёт его, дабы не подвергать опасности. Потом ошибку можно исправить, но она будет стоить жизни. Нестеров в два присеста проглотил бутерброды, запил чем-то из термоса. - Или вот ещё один пример, он описывает ситуация ярче. Деревня с крестьянами-убийцами сменилась девственным пейзажем тропического острова. Золотистый песок, лазурное морё. В центе острова – самые настоящие джунгли. На востоке, где вставало солнце, возвышался крутой утёс. - Дано: кролики и орлы. Задача орлов – жрать кроликов, задача кроликов – не быть съеденным и размножаться, дабы восполнять свою численность. Теперь проследим за одним из ушастых. Камера взяла в прицел кролика, и Нестеров чуть ускорил время. Кролик бегал, прыгал, один раз вступил в связь с другим кроликом. А потом пошёл на берег и утопился. Камера перепрыгнула на другого зверя. Тот покончил со своей кроличьей жизнью, прыгнув со скалы. - Задача была только не быть съеденным. Поэтому в довесок накажем их бояться высоты и воды. И перемотаем время на несколько дней вперёд. Мигнул экран и через секунду взору предстал остров, сплошь заселенный кроликами. Они не то, что бегать уже не могли, они еле-еле стояли, прижатые со всех сторон собратьями, и с опаской сторонились воды. - В чём же дело? Ошибка в том, что для кроликов нет различия – орёл или другой ушастый. Им всё одно с кем размножаться. Кролик прыгает на орла, тот влетает… А кролик спрыгнуть не может – высоты боится. Вот и делает своё чёрное дело, зараза. Нестеров нажал клавишу, гася голографический экран. - Мы создали умных роботов, научили подражать нашим эмоциям. Они не понимают, зачем это надо, им бы проще сохранить невозмутимое лицо, но программа заставляет их смеяться, плакать или чёрт знает, что ещё делать. Один из них уже был выпущен на улицу и с успехом купил себе модный костюм. Вскоре, они могут заполонить улицы. Но малейшая ошибка в программе может круто перевернуть внутренний мир робота. Даже не ошибка… Вспомните крестьян-убийц. Никакой ошибки нет – они с честью справились с заданием, уничтожив врагов. Беда только в том, что приоритет на убийство был выше, чем на сохранение урожая. Они обучались воевать, а сеять и жать – это только инстинкт. Наверное, они и рады бы уйти из колхоза, но – нельзя. Ещё раз повторю, что роботам не место среди людей. Резко зазвенел будильник, показывая час дня. - Ну что же, обед закончился. Надеюсь, моё послание дойдёт хоть до кого-нибудь. Так, отправить по Интернету на… Программист очнулся в заваленной мусором комнате перед тускло светящимся монитором. У стены грудой деревяшек валялся старый шкаф, под столом программист нащупал проржавевший термос. Это был последний файл в старом институте человека, больше здесь делать нечего, пора возвращаться. Ещё раз мельком проглядев камеры системы безопасности, убедившись, что на пути отхода посторонних нет, программист вытащил на всякий случай пистолет и направился к выходу. Он спускался по обветшавшей лестнице, обводя взглядом обшарпанные стены. Он знал, что больше не вернётся в этот институт, поэтому на его лице застыла грустная улыбка. Он будто бы прощался с другом, будто бы это здание – больной раком человек – вот-вот должно умереть. Улицы города встретили программиста всё той же тишиной. Специалистам из Нового Института Человека нужно будет сильно постараться, чтобы наполнить его былым шумом. Возвращаться домой той же дорогой было опасно. Программист помнил о возможной засаде и знал, что жители города могут пойти на любые хитрости, чтобы уничтожить его. Зачем? Этого никто не знал. Программист знал лишь то, что вбили ему в голову – нужно собирать информацию, нужно искать, систематизировать, анализировать. Всё для возрождения цивилизации. На эмоции нет времени, только холодный расчёт и логика. Но сегодня можно позволить себе расслабиться. Грандиозное дело позади, просто нельзя оставаться бесстрастным! Сегодня ночью он расскажет своим коллегам о замечательной находке, они его поздравят с хорошей работой. Впереди целый день отдыха, он его заслужил! Насвистывая, программист направился домой через пустынный парк. Он очень долго работал, поэтому шёл неспешно. Программист слегка прихрамывал – он повредил ногу, когда поскользнулся на лестнице пару дней назад. Наконец, никуда не нужно спешить, можно дать ноге отдых. Наверное, сегодня стоит зайти к врачу. …Краем глаза программист заметил нечто подозрительно. Рефлексы сработали идеально, программист остановился. Впереди, прямо под ногами, расположился пыльный холмик. Наклонившись, программист смахнул пыль, разглядев под ней детскую куклу. Где-то здесь на пикник ходили семьи, девочки играли с куклами, а мальчики – с машинками. Программист поднял куклу, внимательно разглядывая её. На спине у неё оказалась кнопка, которую программист нажал. - Привет, меня зовут Маша! – сказала кукла механическим голосом. – Будешь со мной играть? На сегодня работа закончилась, но почему бы не поискать дело на завтра? Программист был заинтригован этой игрушкой и нажал на кнопку ещё раз. - Я – Маша. А ты, сукин сын, сдохнешь! Программист не успел ничего понять, как прогремел взрыв, стирая картину мира. Исчезли свет, исчезли звуки и запахи. Только аварийная система посылала в мозг робота сигнал: КРИТИЧЕСКАЯ ОШИБКА! ОТКЛЮЧЕНИЕ СИСТЕМЫ! Несколько людей окружили тело программиста. - Ещё одну машину поймали, - проговорил мужчина с бородой и ружьём наперевес. – Я же говорил, что они примитивны. - Олег, может, хватит заниматься ерундой и вылавливать их по одному? Они же превратились в лабораторных крыс. Ударим и… - Э, нет, – перебил Нестеров. - Я посвятил этим программам всю жизнь и знаю, как они работают. Их так просто не возьмешь. Вспомни ролик, где я показывал крестьян-убийц. Так вот, наши роботы заткнут за пояс тех крестьян… Девушка в белом халате, до этого подключившаяся к голове бывшего программиста с помощью КПК подняла голову. - Олег, подойди! Это важно! - Что такое, Настя? - Кажется, я нашла ошибку в их программе. - Внимательно. - Они всё делают как надо – пытаются восстановить нашу цивилизацию такой, какая она была. Ошибка лишь в том, что мы, люди, в их понимании, принадлежим к животным, которых следует выгнать из города. Какой-то умник поставил нас в один ряд с обезьянами! Если найти достаточно мощный передатчик, можно послать нужный сигнал и всё! - Может сработать… Но, как я уже говорил, это рискованно. Мы не знаем, куда нас может привести цепочка событий! Исправив одно, мы рискуем перекроить им всю программу. Что, если мы уберём им чувства? Тогда наш сегодняшний фокус бы не прошёл, робот просто бы не расслабился! Не поддался сентиментальным чувствам к кукле. Обошёл бы, как и первую ловушку. - Ты сам стал как машина, товарищ Нестеров! – отрезала Настя. – Где твой творческий подход? Нестеров облизал губы, глядя куда-то в пустоту. Может, и стоит рискнуть? |