Одним из немногих ученых, одновременно пребывающими в статусе "медийных звезд", является британец Стивен Хокинг. Его академическая карьера похоже была предопределена до его рождения - появился на свет он в Оксфорде, куда его родители бежали из Лондона, от бомбардировок Люфтваффе. Да и занимался Хокинг самыми масштабными проблемами, в которых мегамир сходится с микромиром - черными дырами, квантовой гравитацией и квантовой космологией. А уж мужественная борьба Хокинга с болезнью привлекла к нему симпатии сотен миллионов людей!
И вот сейчас ученый, предсказавший некогда квантовое "испарение" черных дыр, опять вышел на первые полосы газет (или как там, только без варваризмов, положено обзывать их аналог у новостных сайтов - родная речь не успевает за технологией) - его нынешним пророчествам уделяет видное место деловитая Financial Times - Stephen Hawking warns of AI danger to human race, "Стивен Хокинг предупреждает об угрозе Искусственного Разума для человечества".
Утверждения Стивена Хокинга в высшей степени мрачны. Он полагает - не больше, не меньше - что "появление полноценного искусственного интеллекта может стать концом человеческой расы". Особый "черный" - в лучших британских традициях - юмор, таким рассуждениям известного физика придает то, что он, страдая латеральным амиотрофическим склерозом, для общения с журналистами пользуется специальной системой, разработанной американской кампанией Intel при соучастии британской компании Swiftkey.
Но эти достижения ИТ-индустрии Хокинг рассматривает как в высшей степени полезные. Ужас вселяют в него перспективы грядущего. Создание полноценного искусственного интеллекта. Такого, который "возьмет инициативу на себя и станет сам себя совершенствовать со все возрастающей скоростью. Возможности людей ограничены слишком медленной эволюцией, мы не сможем тягаться со скоростью машин и проиграем".
Высказывать свои страхи ИИ профессор Хокинг может лишь с помощью ИТ...
Высказывать свои страхи ИИ профессор Хокинг может лишь с помощью ИТ...
Попробуем перевести слова Хокинга с научного на инженерный язык. Элементной базой естественного разума является нейрон. Биологический логический вентиль, выработанный слепой садисткой эволюцией в процессе экспериментов, тянувшихся сотни миллионов лет в лаборатории, цехе и на полигоне размером в планету. Сначала методом Монте-Карло (то бишь, путем случайных мутаций) модифицировался чертежнаследственный код. Потом с ним появлялось на свет существо. А уж потом беспощадный естественный отбор проверял и утверждал (а чаще всего - не утверждал...) эти изменения в проекте.
Фора эволюции - планетарный масштаб экспериментов и отведенные на них сотни миллионов лет. Именно поэтому и появляется идея бионики; инженерной дисциплины, направленной на копирование былых разработок природы. Ну а недостаток ее - слепота. Ну и - немарковский характер, зависимость от тех решений, что были приняты и утверждены встарь, и о которых рассказывает нам наука палеонтология. Инженер же может и скопировать достижения природы. И - утянув у эволюции некие общие идеи - воплотить их на совсем другой элементной базе и на совсем других технологических принципах.
То есть - не существует закона природы, запрещающего создание искусственного аналога нейрона, с меньшими габаритами и энергопотреблением, но с большим быстродействием и надежностью (помните народное - "нервные клетки не восстанавливаются"). Вот первая предпосылка для грядущих достижений Искусственного Интеллекта. Переход на другую элементную базу.
Вторая предпосылка носит "производственный" характер. Есть в европейской традиции слова о происхождении Inter faeces et urinam nascimur, написанные Августином Аврелием, епископом Гиппона-Регия, взиравшим с крепостных стен на орды осаждавших город вандалов... То бишь - все носители естественного разума появляются на свет через то отверстие, которое так интересует подростков пубертатного возраста. А это - накладывает "ограничения сверху" на объем головного мозга. Максимальный лет эдак тысяч двадцать назад, но подсевший с тех времен (разумность индивида была принесена в жертву выживаемости матерей, ну и младенцев...).
А у Искусственного Интеллекта этого ограничения нет. Лепи кристаллы на платы, распихивай их по шкафам да стойкам. Масштабируемость достигается легко - и вот ее-то, похоже, и надо ставить перед законом Мура, о котором говорит об ИИ. Мощность кристаллов в какой-то момент перестанет удваиваться за восемнадцать месяцев, а возможность модифицирующего себя искусственного разума добавлять новые шкафы или стойки останется всегда. (Лем в "Магеллановом облаке" говорил о "мозге" размером с галактику...)
И вывод из этого прост - в какой-то момент искусственный разум неизбежно превзойдет разум естественный. Хотя бы в силу простоты его масштабируемости, исключенной для естественного разума. Впрочем, гениальный советский фантаст Илья Варшавский (по словам Лема в его книжку вмещалась вся западная фантастика) в рассказе "Тараканы" такой способ предлагал - там из двух обезьян хирургическим путем изготавливался один сверхученый...
И вот эта-то перспектива ввергает профессора Хокинга в ужас. Причем ужас этот разделяет с ним известный бизнесмен Элон Маск, называющий ИскИн "нашей крупнейшей экзистенциальной угрозой". Наверное именно поэтому он и стараетсякупить побольше фанерыпостроить в своей "Space X" побольше ракет и улететь отсюда к этой самой матери... Ну, каковы основания для этих самых страхов?
А основания эти сидят в самой нашей сути. Мозг-то эволюция выделила человеку не для того, чтобы интегрировать уравнения Бернулли, а для того, чтобы выживать в бродящей по саванне стае обезьян. И с этой самой поры ведет свою родословную страх большего разума. Страх, о котором прекрасно знали политтехнологи недавнего прошлого, избегавшие выставлять слишком интеллектуальных кандидатов - дело в том, что даже самая тупая обезьяна понимает, что обезьяна более смышленая пренебрежет ее интересами в интересах своих собственных...
А в случае ИскИна накладывается еще и более архаичный страх чужой жизни, который пробегает по спине, когда смотришь сквозь прицел паршивого, устроителями сафари по грабительской цене предоставленного карабина, на крупную кошку, или который выворачивает нутро, когда видишь в такыре сухой колодец, заполненный копошением змей. И это ведь свои, белковые, хоть и могущие сожрать и отравить... А что уж говорить об абсолютно чуждом кремнии? Тут все архаические ужасы выплеснутся наружу!
И, что самое смешное, такой ход дел неминуем. Пенроуз со своим квантовым разумом не предложил - как, впрочем, и еще более популярный Эверетт с мультимиром - никакого Experimentum crucis, могущего подтвердить, что мышление носит квантовый характер, а вселенные множатся вслед за каждым квантовым событием... А полагать, что обычная асинхронная нейросеть не может быть сначала скопирована, а затем превзойдена другой, оснований нет. (Ну, разве что одна страна, имеющая мощные неядерные стратегические силы, нарвется на упреждающий ядерный залп от той страны, которую собиралась разоружить - тут уже выжившие обезьяны будут дискутировать, что лучше режет - обсидиан или оплавленное оконное стекло...)
Затормозить развитие ИИ невозможно - тогда, скорее всего, человечество прикончат обычные проблемы - демографические, экологические, экономические - с которыми оно не сможет справиться. (Тот же Хокинг полагает неминуемой в течение ближайшего тысячелетия глобальную технологическую катастрофу, от которой призывает расселяться на иные миры.) И в прогнозах этих ничего нового нет - Иосиф Шкловский в издании 1973 года книги "Вселенная. Жизнь. Разум" писал о том, что цивилизации, овладевшие энергией звезд и галактик, скорее всего будут состоять из искусственных разумных существ.
Правда, ниоткуда не следует, что более высокий разум окажется враждебен людям. Британский автор Иэн М.Бэнкс в цикле The Culture описал мир, где ИскИны живут в содружестве с представителями биологических рас. Еще раньше такое описал Георгий Гуревич в книге "Приглашение в зенит", где представляясь носители разума уточняли, ИСУ они или ЕСУ, Искусственное или Естественное Существо. Кстати, "бунт машин" изящнейший поэт Брюсов описал до Чапека.
То есть - проблема состоит не в том, что мощный искусственный интеллект будет враждебен людям, а как построить социум, в котором разумные существа не станут враждовать между собой, а будут сотрудничать. Пока что это не очень хорошо выходит и у обезьян...
jorkoffski:
" как построить социум, в котором разумные существа не станут враждовать между собой" - Любая кошка знает искомый ответ :)
если серьёзно, разум не превращает устройство в организм. пусть небелковый или там не углеводородный. нетопливный, стало быть. (да-да, именно здесь отличие машины от живых существ. птание, а не сжигание, но это несколько вбок-с). организм активен (планирует и действует). стимул - поддержание гомеостаза. личное, личностное, видовое, панвидовое... машина же пассивна. выполняет встроенную программу и останавливается. если нет запрета стоять. такой запрет обходится квази-стоянием: подпрыгивать в очереди за батарейками :))
основа личности сводится не к нейрону, а к проблеме личности. тоже богато возделанная тема за более чем пол-века. решения всё ещё нет. и скорее всего, похоже, не предвидится.