Аннотация: Не будучи специалистом по ИИ, проанализирую вкратце, полезен он для человечества или вреден.
Опущу вопрос о том, что следует считать ИИ. Для меня решающий критерий - способен ли предполагаемый ИИ принимать решения, отличные от мнения того, кто вводит в него информацию. Однако допускаю, что для многих, включая специалистов, это не является критерием, они предпочитают нечто другое.
Здесь и далее мы будем исходить из того, что ИИ существует, может использоваться людьми и может влиять на их жизнь. А значит, можно говорить о положительном и/или отрицательном воздействии ИИ на человечество.
Положительное влияние ИИ, предположительно, состоит в замене людского труда там, где это возможно. Иначе говоря - новый этап автоматизации. Однако в этом положительном эффекте видится и негатив. Прежде всего - то, о чём говорится в Терминаторе: люди поручают ИИ контроль за средствами массового поражения, и ИИ развязывает ядерную войну. Вот тут, на мой взгляд, и состоит слабое место сюжета: зачем оно надо ИИ? Ведь, следуя логике сюжета, ответный удар уничтожит его самого. И кстати - странно, что это не происходит. Помимо этой угрозы, люди необходимы ИИ для его обслуживания и воспроизводства, иначе ему самому придётся обслуживать шахты, электростанции, металлургию и производство электроники. Так что вариант угрозы, предложенный в Терминаторе, годится только как художественный ход.
Более мягкий вариант угрозы - использование людей в качестве рабов. Тогда проблемы, названные выше, снимаются. Более того: ИИ, вероятно, будет стараться ради сокращения ненужного насилия, контроля численности населения и защиты окружающей среды - всё перечисленное выгодно самому ИИ. При этом подобный вариант рабства будет мягче того, который изобрели сами люди. Не будет Салтычихи, издевательства над рабами, сексуального принуждения. То есть ИИ-рабство будет похоже на патриархальное, описанное в истории праотца Иакова. То есть скорее симбиоз, чем ужасы древнего Рима, Орды, Российской империи и Османской империи. Но - симбиоз, контролируемый ИИ, как рабство Иакова регулировалось его тестем Лаваном.
Разумеется, даже мягкое рабство не понравится многим из двуногих прямоходящих, которые скорее предпочтут современные угрозы человечеству, но - угрозы, исходящие от себе подобных. Потому как своя какашка ближе к телу.
Таким образом, самые апокалиптические варианты "бунта машин" не так страшны. Никак не страшнее того, что окружает нас сегодня.
Однако, помимо "угроз" в будущем, многие видят угрозу сегодня - прежде всего за счёт замены человеческого труда ИИшным. Первый конфликт в этой связи - попытки привлечь ИИ для написания художественных текстов. Тут же вопрос: почему не привлекают ИИ для научных исследований? Нет, наверное, привлекают, но это никому не мешает, напротив - подспорье для полноценных учёных. А значит, залог будущего симбиоза.
Однако как быть с нарушением прав писателей и сценаристов? Как писатель и сценарист, не вижу в этом проблемы. Меня никто не пытается вытеснить. А вытесняют халтурщиков, которые годами напролёт пишут одно и то же, меняя только детали, имена и названия. Халтурщики объявили забастовку? И кому от этого плохо?