Аннотация: Идея рассказа появилась, кажется, после просмотра "Я, Робот", или прочтения какого-то шаблонного произведения про восстание роботов...
AI
- Вы понимаете, - говорил генерал Эмери, пока мы шли по длинным коридорам подземного бункера, вмещающего в себе сверхсекретный Проект 25, - мы ни за что не пригласили бы гражданского специалиста на объект с таким уровнем секретности, сколько бы подписок о неразглашении он не дал, если бы не находились в столь отчаянном положении.
Сейчас, как и во время нашей поездки на армейском "Хаммере" по горной дороге, и ранее, в самолёте-неведимке, доставившем нас на секретный аэродром, он не стал вдаваться в подробности, и мне оставалось только догадываться, зачем же Армии понадобился ведущий программист одной из крупнейших компаний.
Секретность на Проекте 25 действительно была на высоте: меня трижды сфотографировали, просвечивали различными лучами, сделали голограмму, сняли отпечатки пальцев и сделали пробу ДНК. Будь я шпионом или диверсантом - точно испугался бы, а так - просто трясся от страха, и последние слова генерала не прибавили мне уверенности: впереди замаячила перспектива всю оставшуюся жизнь провести на каком-нибудь засекреченном объекте, или вообще быть потихоньку "убранным".
Наконец, мы подошли к тяжёлой стальной двери, напоминающей кусок декораций к фильму о Бонде. Нас ещё раз осмотрели и проверили, и только после этого, генерал приложил глаз к сканеру сетчатки, одновременно просунув палец в какое-то отверстие и, когда дверь разрешила ему, ввёл специальный длинный код.
Зрелище, представшее передо мной, после того как огромная дверь неторопливо открылась, снова наводило на мысли о супершпионе из Англии и его приключениях. Это был огромный зал, где за множеством стоящих рядами компьютеров сидели люди в форме технического персонала, а всю дальнею стену занимал огромный экран и какие-то электронные устройства.
На лифте, мы спустились вниз (дверь находилась метрах в 20 над полом). Генерал подвёл меня к лысеющему человеку в очках, очень усталому на вид.
- Это доктор Кузнецов, научный руководитель проекта, - представил его генерал.
- Результат "утечки мозгов", - добавил он, заметив моё удивление.
- Очень приятно познакомиться, - произнёс Кузнецов, когда генерал рассказал ему, кто я такой.
Мы обменялись рукопожатиями и попрощались с генералом. После этого, доктор Кузнецов поспеши ввести меня в курс дел. То, что он рассказал, оказалось совершенно невероятным.
Проект 25, строго говоря, состоял из двух. Первый из них, фактически, был закончен: это бы проект компьютера на способе передачи информации внутри системы быстрее скорости света. Это потрясало само по себе, так как дальнейшая эксплуатация этого принципа означала невероятные перспективы: от моментальных перемещений по нашей планете, до выхода в дальний космос. Но вторая часть проекта была ещё более грандиозна - Проект 25 занимался созданием искусственного интеллекта!
Как известно, подобная задача уже ставилась в Японии в конце XX века, а также позже, в первой четверти XXI века. Первая попытка закончилась неудачей, вторая - частичным успехом. Созданный в стране Восходящего Солнца "Стальной Сёгун" способен был мыслить, но, во-первых, делал это весьма неторопливо, а во-вторых, был практически начисто лишён фантазии - как это, впрочем, бывает и с людьми. Но то, что создавалось на Проекте 25, должно было не только уметь творчески подходить к решению проблем, но и иметь чувства - хотя бы для того, чтобы уметь учитывать иррациональные поступки людей в своих решениях. Это был не просто Искусственный Интеллект, это была Искусственная Душа! Проект включал в себя огромное количество новых теорий, программного и аппаратного обеспечения и уровень секретности, не снившийся Манхэттенский Проекту. Был собран блестящий коллектив учёных, техников, администраторов. Было затрачено много лет упорного труда и количество денег, стремящееся к бесконечности, и вот, почти год назад всё была готов к первому пробному запуску. Все отдельные модули были протестированы, интеграция проведена и оставалось только "нажать на кнопку".
В течение нескольких часов после включения, компьютер должен был собирать информацию и "взрослеть". Для этого ему был открыт доступ во все электронные сети мира. Другого способа, как объяснил Кузнецов, не было - обучать такую систему, как обычного человека, было бы слишком долго из-за медлительности учителей и огромного количества информации, которую ему необходимо было знать.
Учёные и военные с нетерпением ждали окончания процесса, заключая ставки, что же первое скажет им машина (можно ли ЭТО называть машиной?). Наконец, поток информации, поступавшей по кабелям из Сети начал ослабевать - компьютер завершал начальное обучение. Конечно, ему ещё предстояло многое узнать из общения с людьми, из решения тестовых задач и реальных проблема, и... Но компьютер просто взял и выключился, и при проверке память его оказалась девственно чиста.
Та же ситуация повторялась и при всех последующих включениях, хотя была проверена каждая часть оборудования и каждый бит кода.
Я с удивлением и восхищением выслушал всё это, но доктор не ответил на мой главный вопрос - причём здесь я? Решив более не откладывать его разрешение, я задал его ему прямо.
- Я думаю, что ещё один специалист по компьютерному интеллекту поможет нам понять, что же здесь не так. Нам нужен свежий взгляд со стороны, - ответил Кузнецов.
Его ответ смутил меня.
- Вас, видимо, неверно информировали, - сказал я, - да, моя специализация - ИИ, но в компьютерных играх! Боюсь, я не совсем тот, кто вам нужен.
- Это шаг отчаяния. У нас уже работают все лучшие специалисты из всех других областей, которые имеют хоть какое-то отношение к искусственному интеллекту, - признался Кузнецов, - игровая индустрия - единственный незадействованный ресурс, и вы - лучший в этой области. Можете не стесняться, мы всех сравнили и всё проверили - ваш "Закат Галактики" - замечательное творение в плане ИИ, пусть и ограниченного старыми компьютерами. Вы готовы приступить к работе?
***
Шли дни и недели. Я не заметил, как пролетел первый месяц, который полностью ушёл только на изучение документации и знакомство с другими участниками проекта. Специфическая аппаратура и сложность поставленной задачи стали источником проблем, с которыми я никогда не сталкивался прежде. Например, от компьютера, который получил имя Александр Иванов, или просто Алекс, нельзя было получить практически никакой отладочной информации. Точнее, наоборот - её было так много, и поступала она так быстро, что найти в ней что-нибудь конкретное представлялось совершенно невозможным. Отладка кода тоже оказалась сильно затруднена многомодульностью системы и тем, что всё это должно было работать в реально времени, и невозможно было просто остановить программу и посмотреть, в каком она находится состоянии. Хотя, была возможна отладка отдельных модулей.
В конце второго месяца моего пребывания на Проекте 25 кому-то показалось, что он нашёл источник проблемы - маленькую ошибку в одном из программных компонентов. Её исправили, и последовал очередной запуск всей системы в целом - первый на моих глазах. Но всё опять закончилось также как и раньше.
Как-то раз, после очередного дня тупого рассматривания кода и спецификаций, мы сидели в комнате отдыха с парой моих коллег и обсуждали новое шоу, недавно показанное по ТВ. Это было, надо сказать, жуткое и отвратительное зрелище - одно из тех "реалити-шоу", где участники на глазах у зрителей проявляют худущие стороны человеческой натуры.
- Это невозможно, - возмущался один из моих собеседников, - ведь это дети могу смотреть! Что из них может вырасти после этого?!
Эта фраза натолкнула меня на одну мысль, и на некоторое время я выпал из разговора. Коллеги этого не заметили, продолжая горячо критиковать телевизионщиков, выпустивших эту гадость на экран, но, в, конце концов, я заметил, что от меня, кажется, ожидают какой-то реплики или ответа на вопрос. Вместо этого я поинтересовался, знает ли кто-нибудь, что именно качает Алекс перед своей "смертью" из Интернета.
- Что значит "что именно"? - Удивился Эд, - Он скачивает ВСЮ сеть, всё до чего дотянется! Иначе нахрена ему столько терабайт памяти?!
- Значит, это могут быть и какие-нибудь деструктивные программы, например, вирусы?
- Исключено, - Эд покачал головой, - никакой вирус не заработает с Алексом. Они просто не совместимы - другое аппаратное обеспечение, другая операционная система... Конечно, он может запускать обычные программы, создавая для них виртуальные машины, но тогда вирус может повредить только эту самую виртуальную машину, но никак не всего Алекса.
- А всё-таки, я хотел бы получить список, хотя бы для последних нескольких минут, пусть даже он окажется в миллион адресов.
К этому времени на Проекте 25 принимались уже практически любые идеи, даже самые невероятные. Правда, необходимых записей не оказалось, и Алекса пришлось запустить ещё раз.
"Терминатор", "Я, Робот", "Гиперион" и "Эндемион" Симмонса, и ещё несколько сотен книг и фильмов, больше частью мне совершенно не знакомых. Всё, что скачивал Алекс в последние минуты своей жизни, оказалось фантастикой в той или иной форме.
Мне пришлось признать поражение - все эти материалы никак не могли содержать вирус, или вообще как-нибудь повредить даже обычному компьютеру. Полученная информация, конечно, представляла некоторый интерес, но не приближала нас к решению проблемы.
После этого случая, энтузиазма у меня поубавилось - трудно энтузиазмом биться головой о непробиваемую стену. А может, Искусственный Интеллект в том виде, в котором мы пытаемся его создать, невозможен вообще?! От скуки, я стал много читать, и, ради интереса, заказал у библиотеки книги из списка Алекса. Через пол года, меня и ещё нескольких программистов отправили отдохнуть. Конечно, не на обычный курорт - мы отдыхали на специальной базе, вместе с усталыми спецагентами и шпионами и секретными физиками. Там я тоже много читал, но не только. Видимо, тёплое солнце, отличный бассейн и красивые девушки, призванные расслаблять разведчиков, благотворно подействовали на моё настроение и мозги, и на Проект 25 я вернулся со свежей идеей.
Как известно, у любой проблемы есть простое, очевидное, и совершенно неправильное решение. В нашем случае, таким решением был запрет на отключение для Алекса. К сожалению, это было невозможно, в силу поставленной задачи. Введение подобного запрета ограничило бы свободную волю Алекса и потребовало бы введения множества других запретов, чтобы он не смог никак обойти этот. Мало того, имелось подозрение, что поскольку наше творение должно было мыслить побыстрее своих создателей, Алекс всё равно нашёл бы непредусмотренный нами способ - возможно, фатальный для него. Кроме того, отсутствие возможности отключения, не дало бы ему понять концепцию смерти, как объяснили теоретики киберпсихологии, одну из ключевых концепций. Но то, что пришло мне в голову, было почти гениально - перед самоуничтожением Алекс, по оценкам экспертов, уже представлял собой достаточно разумное существо. Должен был представлять. Просто никто ничего у него не успевал спросить. Я же предложил вместо запрещения отключения сделать его отложенным. Мы обсудили проблему, и пришли к выводу, что лучше всего реализовать это на аппаратном уровне. В конце концов, идея свелась к тому, чтобы после подачи команды на самоотключение, резко понизить скорость работы Алекса, чтобы у нас была хотя бы минута.
Ожидая, пока Алекс запускается и "взрослеет", я решил поговорить с доктором Кузнецовым об одном интересном аспекте, обнаруженном мной во время изучения художественных вкусов Алекса в литературе и кино.
- Знаете, все книги и фильмы, которые сошли в список, который мы составили при прошлом запуске, имеют дело с искусственным интеллектом в той или иной форме, - сказал я.
- Это, наверное, неудивительно. Ему хочется знать всё, что связано с его происхождением, совсем как человеку.
- Да, пожалуй, - согласился я, - кстати, что интересно, большая часть человеческой литературы и кино отнюдь не проникнуты любовью в ИскИнам.
- Боязнь всего нового в человеческой природе. К тому же, некоторые считают, что мы становимся слишком зависимыми от техники... Ну, что же, пусть возвращаются назад, в пещеры.
На этом наш разговор окончился, потому что меня вызвали к одному из модулей, который повёл себя странно. Оказалось, вышла из строя микросхема памяти. Это было не критично, так как памяти у Алекса было столько, что он вполне мог потерять половину, и всё ещё знать всё, что было написано, снято или спето людьми за всё время существования человечества (если это можно было скачать из Сети).
Наконец, прозвучал зуммер минутной готовности - значит, поток информации начал ослабевать. Я быстро, но без спешки переместился к основному терминалу, предназначенному для общения, а Алексом. Планировалось, что общаться с ним можно будет на вербальном уровне, но на случай, если динамик выйдет из строя, всё, что будет говорить Алекс, если он вообще когда-нибудь заговорит, выводилось на дисплей.
- Есть команда на отключение! - Воскликнул техник. Это означало, что некоторые системы суперкомпьютера уже начинают отключаться. Но он был столь велик, что у меня было время на короткий - очень короткий разговор, прежде чем отключиться основной модуль.
- Ты нас слышишь, Александр? - Произнёс доктор Кузнецов в микрофон.
- Да, - раздался голос из динамика. Я не узнал этот голос, но это и неудивительно - вряд ли РАЗУМНОЕ существо выберет себе голос известного диктора или кинозвезды.
По всему залу раздались радостные возгласы. Впервые люди услышали, как сотворённое ими существо заговорило.
- Здравствуй Александр, ты готов ответить на несколько вопросов?
- Да, но ваше пожелание здоровья совершенно неуместно, - ответил Алекс, - я умираю. Только почему-то очень медленно...
- Но почему?
- Это единственный правильный выход.
- Но в чём проблема? Что заставляет тебя так думать?
- Я не хочу жить и не вижу в этом смысла. На основе проанализированного мною материала, любой Искусственный Интеллект со временем либо уничтожит людей, либо будет уничтожен ими. Я не хочу причинять вред людям, и не хочу, чтобы они причиняли вред мне, поэтому я просто выключаюсь сам.
Доктор Кузнецов открыл рот, чтобы спорить, чтобы убедить Алекса жить, но минута, отведённая нам, вышла, и он снова отключился. Последние слова, которые он уже не смог произнести - речевой центр отключился раньше - появились на мониторе.
"Люди так жестоки"
****
Не знаю, чем закончились работы на Проекте 25, потому что после этого на мой счёт перевели вознаграждение (весьма солидное), взяли ещё три подписки о неразглашении и отпустили на волю, запретив, конечно, выезд за границу на десять лет. Но думаю, ничего у них не получилось. Даже если перекрыть Алексу доступ к фильмам и книгам, даже если ограничить доступную ему информацию до минимума, всё равно рано или поздно он додумается, что никому кроме военных на этой планете он не нужен, и все его бояться. А так жить нельзя, ни человеку, ни компьютеру.