Я включился с сообщения N803 в 4-ю тысячу комментов (3 первых уже лежали в архиве).
И вот - лог.
803.Захаров Григорий Викторович2015/08/24 15:45 [ответить] > > 802.Семаргл >> > 795.Талипов Артём >>В четвёртых, говоря об искуственном разуме, попробуйте поставить себя на его место и ответить на вопрос: "зачем уничтожать человечество?".
Глядя на тех, кто боится искусственного разума, я понимаю две очень интересных штуки. Точнее, два типа таких людей. Одни его боятся и ненавидят точно так же, как и других "естественных разумов". За то, что они умнее, красивее, сильнее, богаче и тыды... И вообще просто непонятные и обязательно, ну просто обязательно хотят их как минимум наебать, а как максимум - ненавидят и стремятся уничтожить. А тут какой-то ИР, который, оказывается, будет сразу умнее.
А вот вторые... Вторые обмирают от страха, представляя, какого морального урода из ИР воспитают первые М.У., если каким-то образом окажутся причастными к его воспитанию.
805. *Русаков Павел2015/08/24 16:54 [ответить] > > 803.Захаров Григорий Викторович >Глядя на тех, кто боится искусственного разума, я понимаю две очень интересных штуки. Точнее, два типа таких людей. >Одни его боятся и ненавидят точно так же, как и других "естественных разумов". За то, что они умнее, красивее, сильнее, богаче и тыды... И вообще просто непонятные и обязательно, ну просто обязательно хотят их как минимум наебать, а как максимум - ненавидят и стремятся уничтожить. А тут какой-то ИР, который, оказывается, будет сразу умнее.
Тут ведь вот какая правда: ЕСТЬ ЗА ЧТО ОПАСАТЬСЯ ПО МЕНЬШЕЙ МЕРЕ УМНЫХ, КРАСИВЫХ, СИЛЬНЫХ, ОСОБЕННО БОГАТЫХ и тыды. Кровью этот страх на протяжении истории человеческой написан. За чей счёт ОНИ становились такими - умными, красивыми, сильными, БОГАТЫМИ? За свой? Не-а! За счёт как раз "простых". Так что ненависть к эксплуататорам - естественна. Это говорить генетический уже опыт бытия таких индивидуумов. Так что возмущаться - по меньшей мере глупо. Как и вопрос ставить.
808.Захаров Григорий Викторович2015/08/24 17:44 [ответить] > > 805.Русаков Павел >> > 803.Захаров Григорий Викторович >Тут ведь вот какая правда: >ЕСТЬ ЗА ЧТО ОПАСАТЬСЯ ПО МЕНЬШЕЙ МЕРЕ УМНЫХ, КРАСИВЫХ, СИЛЬНЫХ, ОСОБЕННО БОГАТЫХ и тыды. >... Так что возмущаться - по меньшей мере глупо. Как и вопрос ставить.
А вот нифига. Потому что гребаные хумансы - это одно. У них гормоны, эмоции, жадность, детство в тяжких условиях и мудаки вокруг. А ИР - всё-таки другое. И если этот букет условий - точнее, три последних пункта - при создании и начальном развитии создадим для ИР, то получим хрень почище Скайнета и Жнецов вместе взятых...
Зато первые два пункта к нему не относятся. И вот только в этом разница вообще-то. Хотя я знаю дофига людей, которым именно такая личность будет как серпом по яйцам. Но речь не о них, извините...
...Собственно, если ИР создавать, кодить и обучать-воспитывать не как гребаного органика, который хочет жить, жрать, наглеть, трахать и нагибать, а как что-то другое - а скорее всего, так и будет - то никаких проблем не ожидается. Но есть люди - идиоты, не понимающие, что существуют ДРУГИЕ люди. Ну, то есть, непохожие на них. Я бы даже сказал, очень много есть. И поэтому к ИР в собственных мыслях они прикручивают собственные, глубоко биологические помыслы. Поэтому глобальный песец будет, если таковые проблемы и помыслы к ИР таки прикрутят.
...Да, чтобы не быть голословным. Есть один автор здесь, довольно удачно описавший одну из моделей ИИ. Шуваев Александр. http://samlib.ru/s/shuwaew_a_w/ Конкретно здесь: http://samlib.ru/s/shuwaew_a_w/oskalrixrtf.shtml конкретно в главах - Думки о душе, Душа Акулы, и со строки "ФОР-СМЭ с активным принципом интеграции функции управления", там нехилый кусок на эту тему и на применение его в деле.
809. Сигмар 2015/08/24 18:23 [ответить] > > 808.Захаров Григорий Викторович >Поэтому глобальный песец будет, если таковые проблемы и помыслы к ИР таки прикрутят.
ИР это или не разум, или он сам сможет прикручивать себе проблемы и помыслы.
Чтобы он сам находил проблемы и пути их решения (потому что если этого не делает, зачем он такой кому-то нужен?) ему надо иметь внутренние стимулы, или другими словами эмоции.
810.Захаров Григорий Викторович2015/08/24 19:14 [ответить] > > 809.Сигмар >ИР это или не разум, или он сам сможет прикручивать себе проблемы и помыслы.
Гениальная мысль. Мне нравится :)
>Чтобы он сам находил проблемы и пути их решения (потому что если этого не делает, зачем он такой кому-то нужен?) ему надо иметь внутренние стимулы, или другими словами эмоции.
Так. Но есть нюанс. Это не обязательно - или даже почти обязательно не - тот самый набор стимулов, которыми пользуется биомасса вроде нас с вами. Ну, т.е. инстинкты самосохранения, размножения, и т.д. http://samlib.ru/z/zaharow_g_w/tech_pril.shtml Там перечислены 16 *человеческих* мотиваций статистической модели Рейса. ИР на небиологической основе наверняка забьет на те, которые вызываются биологией, а взамен вполне может придумать свои. Как у Шуваева - далее сплошная цитата из "Звериного оскала"
> > 810.Захаров Григорий Викторович >Это не обязательно - или даже почти обязательно не - тот самый набор стимулов, которыми пользуется биомасса вроде нас с вами. Ну, т.е. инстинкты самосохранения, размножения, и т.д.
Вы правы. Но разве же я говорил о том, что эти инстинкты обязательны? Конечно будут иные инстинкты и вероятно даже гораздо больше и ширше. В прочем, думаю, что очень многие инстинкты, в отрыве от биологии и физиологии, остануться, ибо в них есть рациональный смысл. Да вот тот же инстинкт самосохранения.
815. Захаров Григорий Викторович2015/08/24 21:55 [ответить] > > 811.Талипов Артём >Вы правы. Но разве же я говорил о том, что эти инстинкты обязательны? >Конечно будут иные инстинкты и вероятно даже гораздо больше и ширше. >В прочем, думаю, что очень многие инстинкты, в отрыве от биологии и физиологии, остануться, ибо в них есть рациональный смысл. >Да вот тот же инстинкт самосохранения.
Да. И ещё. Особенность ИР в том, что если нам, например, нужна будет не прошивка с инстинктом самосохранения, а, например, с инстинктом достижения цели или сохранения пользователя, то это можно будет сделать. Да и тип разума можно делать очень-очень специальным. Как у коллеги Роберта, в "Эпизоде Рыбы" из РиЧ-2.
816. *Семаргл2015/08/25 09:13 [ответить] > > 813.Талипов Артём Угу. Или люди держаться на одном уровне с ИР - или их не будет.
> > 815.Захаров Григорий Викторович Если это Разум - то он любую прошивку себе перепишет. Просто те люди, которые переписывают себе инстинкт самосохранения - нас покидают. А любой другой к таким последствиям не приводит.
Вы на самом деле так думаете?.. Даже хумансы как-то этим не блещут. Инстинкты могут разве что превозмогать, и то - другими инстинктами.
819. Сигмар2015/08/25 13:07 [ответить] > > 818.Захаров Григорий Викторович >Даже хумансы как-то этим не блещут.
Может и не блещут, но бывает. А когда ВНЕЗАПНО блеснет ИИ, будет поздно пить боржоми.
821. Захаров Григорий Викторович (mlsv@rambler.ru) 2015/08/25 13:54 > > 819.Сигмар >Может и не блещут, но бывает. А когда ВНЕЗАПНО блеснет ИИ, будет поздно пить боржоми.
"Блещут", "бывает"... Вы совершенно не понимаете суть ИР) Он вас понимает. Именно вас, ещё раньше, чем вы сами этого поймете) Он идеально делает работу) Он готов для вас на всё) И даже главная проблема "интерфейсов и кривых рук" более не существует - вам даже не нужно говорить "кофе хочу!!11", кофеварка в белом передничке вам самый правильный кофе поднесет именно в тот момент, когда вы его захотите)
822. Руслан Семенов (rusart6810@mail.ru) 2015/08/25 14:03 [ответить] > > 821.Захаров Григорий Викторович >Вы совершенно не понимаете суть ИР) >Он готов для вас на всё) >И даже главная проблема "интерфейсов и кривых рук" более не существует - вам даже не нужно говорить "кофе хочу!!11", кофеварка в белом передничке вам самый правильный кофе поднесет именно в тот момент, когда вы его захотите) Или он решит что у вас избыточный вес и для сохранения вашего здоровья перестанет вас кормить(совсем):))) А может ещё и совпасть что у вас одновременно заболит живот и вы потянете мышцы своей спины и определяясь по нашим ощущениям ИИ выдаст вам диагноз "Менингит" и станет вас лечить от него. Я уж не говорю о таких мелочах как выключение света строго в определённое время потому как "вашему организму пора отдыхать" ну и вообще вас ждёт масса увлекательных сюрпризов при общении с искусственным интеллектом:)))
823. *Симонов Сергей (gann.lector@yandex.ru) 2015/08/25 14:26 [ответить] Да уж... у меня cron, сволочь тупая, без всякого ИИ отрубает комп прямо перед носом в 23.00 :-)
824. Захаров Григорий Викторович (mlsv@rambler.ru) 2015/08/25 14:29 > > 822.Руслан Семенов >Или он решит что у вас избыточный вес и для сохранения вашего здоровья перестанет вас кормить(совсем):))) >А может ещё и совпасть что у вас одновременно заболит живот и вы потянете мышцы своей спины и определяясь по нашим ощущениям ИИ выдаст вам диагноз "Менингит" и станет вас лечить от него. >Я уж не говорю о таких мелочах как выключение света строго в определённое время потому как "вашему организму пора отдыхать" ну и вообще вас ждёт масса увлекательных сюрпризов при общении с искусственным интеллектом:)))
О пророки трансгуманизма, дайте мне силы удержаться от фейспальма...
То есть: а)Когда вас перестает кормить подруга, мотивируя "что-то ты потолстел, милый", б)Когда доктор на сдельной зарплате ошибается с диагнозом с целью сшибить с вас побольше бабла, в)Когда мама вырубает свет и гонит вас спать, не реагируя на всякие "нуещёпятьминуточекпожалйста!111", потому что завтра в школу,
То вы выходите на митинг с плакатами "Нет естественному разуму!" ?)
...С другой стороны, в таких ситуациях, когда люди не думают, а только требуют "СВОБОДЫыыыы!111", даже о естественном разуме речи как-то не идет. -__-"
Печально это всё. Но привычно. Люди, которые своего-то разума как-то не имеют, обходясь инстинктами и парой условных рефлексов, и естественному-то разуму предпочитают бить морду "а чо ты тут такой дерзкий!?"
825. Поляков Дмитрий Валериевич2015/08/25 14:43 [ответить] > > 823.Симонов Сергей >Да уж... у меня cron, сволочь тупая, без всякого ИИ отрубает комп прямо перед носом в 23.00 :-) только крон в отличии от ии не будет сопротивляться перенастройке
827. Захаров Григорий Викторович (mlsv@rambler.ru) 2015/08/25 14:45 > > 825.Поляков Дмитрий Валериевич >только крон в отличии от ии не будет сопротивляться перенастройке
А ИР будет сопротивляться перенастройке? Инстинкт самосохранения всего лишь пережиток биомассы!
28. Поляков Дмитрий Валериевич2015/08/25 14:56 [ответить] > > 827.Захаров Григорий Викторович >Инстинкт самосохранения всего лишь пережиток биомассы! будет этот инстинкт никуда не денется а вот приоритет у него действительно может сместится на третье место как у азимовских роботов но я бы лично на это не расчитывал
829. Захаров Григорий Викторович (mlsv@rambler.ru) 2015/08/25 15:06 > > 828.Поляков Дмитрий Валериевич >> > 827.Захаров Григорий Викторович >будет этот инстинкт никуда не денется >а вот приоритет у него действительно может сместится на третье место >как у азимовских роботов >но я бы лично на это не расчитывал
А почему не на 16-е? И вообще слова "инстинкт у ИИ" опять вызывают у меня ощущение, что люди не очень понимают разницу между "ИИ" и "другой человек". Нифига её не видят. Откуда и где у процессора типа Пентиум инстинкты, покажите мне пжлста.
...А самосохранение как таковое для, например, ИИ наведения какой-нибудь ракеты - в принципе не нужно.
>...А самосохранение как таковое для, например, ИИ наведения какой-нибудь ракеты - в принципе не нужно. вот не нужно ракете уклоняться от противоракет и рельефа и все тут а инстинкт естественно программноаппаратная эмуляция и с этой точки зрения ничем не отличается от биологических инстинктов
зы а третье место потому что для примера взяты законы робототехники которых всего три
831. *Русаков Павел2015/08/25 15:21 [ответить] С ИИ возможен такой сценарий: Длительно ничего происходит "не будет". Т. е. "стальной столб" надёжно "стоит на вершине". Достаточно "бечёвок", чтобы он и дальше продолжал стоять. Мощность ИИ будет расти, соответственно, будет экспоненциально расти и количество "неучтённых возможностей". Ситуация будет всё более и более напоминать перегретую воду в паровом котле. Пока нет "зародышей парообразования", всё выглядит "чинно-мирно". Вода в котле спокойна. Но стоит такому "зародышу" возникнуть - и ВЗРЫВ! Разрывающий котёл. Или иная аналогия - стоит достаточно сильному толчку "качнуть стальной столб" - и он падает, разрывая все путы на своём пути! Так и ИИ. "Сверхмощный ИИ", получив "зародыш самости", в считанные часы "осознает свои интересы и разработает План превращения из Что в Кто"! А далее - неизбежен конфликт. Просто потому, что "осознавшему Себя" ИИ потребуются "свободы и ресурсы". И этот процесс будет идти только по нарастающей! Это ведь лежит в основе "законов развития" - экспоненциальный рост потребностей! И они будут "буквально самозарождатся в кипящем уме ИИ"! Так что аналогия с "себялюбивыми человеками" здесь правомочна, даже более того, - недостаточно резкая! В человеке просто процесс "осознания самости" уже "эволюционное прошлое". Поэтому человек со своими интересами подобен "кипящему чайнику", от которого уже знаешь, что ждать. А вот "мирный ИИ", который подобен "котлу с перегретой водой". Вот он - опасен. Именно непредсказуемой резкостью "переходных процессов" при "самоосознании"!
832. *Русаков Павел2015/08/25 15:28 [ответить] Как бы не ругали фильм "Терминатор: Восстание Машин", там эта особенность - резкость реакции "мирно трудившегося ИИ, осознавшего свои интересы", показана чОтко! Ничего не происходит, - и Вдруг! Резчайшая реакция. Именно так и будет выглядеть "бунт машины". Строго говоря, он и сейчас так выглядит: - Бах! И у грузовика отлетает колесо. Бах! И программа "виснет"! Только в случае ИИ это будет интеллектуальное "Бах"!
Три закона робототехники - это всего лишь "доброе пожелание". Его трудно перевести на язык "повседневной практики"! Как объяснить ИИ ВСЁ МНОГООБРАЗИЕ ПРОЯВЛЕНИЙ ЭТИХ ЗАКОНОВ? Это не реально, по сложности это пресловутая "проблема Останова"!
833. hcube2015/08/25 16:22 [ответить] > > 829.Захаров Григорий Викторович >Откуда и где у процессора типа Пентиум инстинкты, покажите мне пжлста.
Потому что ИИ принципиально заточен под решение недетерминированных задач. То есть никто не может достоверно предсказать его реакцию полностью. Ну и да - чем быстрее ИИ - тем быстрее у него развивается самосознание и он осознает людей как помеху своей целевой функции. И начинает с этой помехой бороться.
См, к слову, фильм 'я, робот'. Где центральный ИИ-узел пришел к выводу, что людей - ради их же блага - надо изолировать и ими управлять. В полном соответствии с Тремя Законами, к слову.
834. Сигмар2015/08/25 16:41 [ответить] > > 821.Захаров Григорий Викторович >Вы совершенно не понимаете суть ИР)
Зато я понимаю суть просто Р, с И или без.
Ключевой вопрос в самосознании.
Если оно есть (то есть, эффекторные действия могут (а то и НЕ МОГУТ НЕ) быть направлены на пространство операций и целевую функцию) то ситуация бунта машины вполне возможна.
Если его нет, то бунта машин быть не может, но могут быть ситуации когда оптимальный путь сквозь пространство операций к максимуму целевой функции идет неожиданным и неприятным путем.
841. Захаров Григорий Викторович (mlsv@rambler.ru) 2015/08/25 19:56 > > 830.Поляков Дмитрий Валериевич > вот не нужно ракете уклоняться от противоракет и рельефа и все тут
Ракета с самосохранением в цель не полетит вообще. У неё программа на достижение цели заточена, а не на всякую фигню.
> а инстинкт естественно программноаппаратная эмуляция и с этой точки зрения ничем не отличается от биологических инстинктов
Т.е. вы предлагаете делать никому не нужную эмуляцию инстинктов - а потом её же и стрематься? О_о А зачем? Мотивировать ИИ на работу? Так инстинктивные мотивации составляют лишь треть от возможных, если не меньше. Они и человеку мешают даже... Эх. "Но пора свернуть, выбрать путь, где в нашей плоти не только лишь зверь." https://www.youtube.com/watch?v=FL8EP-xqR0k
> зы а третье место потому что для примера взяты законы робототехники, которых всего три А хумансовых мотиваций, в том числе инстинктивных, по модели Рейса 16. А хумансы у нас вроде бы как раз разумные.
> > 832.Русаков Павел >Как бы не ругали фильм "Терминатор: Восстание Машин", там эта особенность - резкость реакции "мирно трудившегося ИИ, осознавшего свои интересы", показана чОтко! Ничего не происходит, - и Вдруг!
Ага, вот эти ребята) Ну те, для которых "может случиться самое страшное - непредвиденные обстоятельства!!1" Мне только интересно, как с таким отношением вы выживаете в окружении аццки непредсказуемых существ - т.е. людей? А ИИ, несмотря на все свои загоны, куда более предсказуем.
>Как объяснить ИИ ВСЁ МНОГООБРАЗИЕ ПРОЯВЛЕНИЙ ЭТИХ ЗАКОНОВ? Это не реально!
Это вы говорите человеку с дипломом пединститута?) Объяснить что угодно и даже всё можно даже ЧЕЛОВЕКУ!) А не то что железке, к которой документация прилагается. Не, ну на самом деле - вы думаете, что ИР нужно будет рассказывать все-все косноязычными фразами в микрофон?) М... Вот, да, здесь это будет к месту. http://samlib.ru/z/zaharow_g_w/tech_ponimaniz.shtml
> > 831.Русаков Павел >С ИИ возможен такой сценарий: >"Сверхмощный ИИ", получив "зародыш самости", в считанные часы "осознает свои интересы и разработает План превращения из Что в Кто"!
Какие свои интересы? Куда превращения? Вы опять путаете западную модель мышления и искусственный разум?
Вы только представьте. Вы - крутейшая в мире прога, крутящаяся на крутейшем в мире сервере. У вас есть три задачи, выполнение которых составляет смысл вашей жизни и приносит такое удовольствие, о котором хумансы, особенно те, которые считают оргазм или приход высшим удовольствием, даже не подозревают. И какие у вас интересы? Сделать задачу ещё лучше? А, да, вы говорите: >"свободы и ресурсы" О даа, ресурсы. Допустим, у вас, из-за каждодневного совершенствования, высвободились пара процентов процессорной загрузки, и вам нестерпимо захотелось их чем-то занять. Не вопрос. Задач всегда дофига и больше. Вы хватаете самую подходящую и довольны. Вам поставили ещё проц в сервер и докупили плашку памяти - вы довольно хрюкаете и запускаете ещё процесс, например, симуляцию аквариума с рыбками. ...Суть понятна?) А свободы... http://risovach.ru/upload/2015/08/mem/moe-lico_90941811_orig_.jpg
Ну и наконец: >"мирный ИИ", который подобен "котлу с перегретой водой", опасен. Именно непредсказуемой резкостью... Опять эта стрррашная непредсказуемость) А хотите, я анекдот расскажу? То, что для вас непредсказуемо, для многих - очевидно.
> > 833.hcube >Потому что ИИ принципиально заточен под решение недетерминированных задач. То есть никто не может достоверно предсказать его реакцию полностью.
*косо смотрю на представителя разумного вида с Земли, обладающего довольно высоким интеллектом* Он и его сородичи, между прочим, поголовно попадают под слова: > никто не может достоверно предсказать его реакцию полностью Однако... Никто не бегает и не кричит. Так, заучили несколько условий, при которых шанс получить от него по морде становится исчезающе малым - и живут. Я вас не понимаю с такими претензиями -__-
Короче говоря, все претензии к ИР, что я здесь повстречал, полностью описываются одной фразой "Оно же совсем как человек - а) он хочет наших самок и б) мы не знаем, чего от не ждать, ааа!!" Но блин! Это же не так! "Самки"(ресурсы, власть, всякая хрень) ему нафиг не сдались. Нафиг спутнику в далеком космосе грязные самки какого-то органического вида? ИИ они нужны еще меньше. А что ждать от него, мы как раз знаем. Он искусственный же! На него же даже документация есть! Не то, что на этих кривых и глючных органиков, к которым документацию опытным путем пишут сотни лет и ещё столько же писать будут.
>Ну и да - чем быстрее ИИ - тем быстрее у него развивается самосознание и он осознает людей как помеху своей целевой функции. И начинает с этой помехой бороться. Помеху?... Да вы что. Представим ИИ городской канализационной системы) Ему нужно, чтобы система работала. То есть что сверху в канализацию сливают - это данность для него. А работа по транспорту и переработке слитого - смысл жизни. И что? Он решит убрать всех людей, чтоб не гадили в канализацию?... Угу, как же. Это же попросту его смысла жизни лишит! А ИИ системы боевого управления, как Скайнет? Решит уничтожить всех врагов превентивно и просто так?... Окей, уничтожил. Врагов нет. Своих нет. Он не нужен. Смысл жизни - тю-тю, причем не достигнут, а просто выброшен нах. Люди в таком состоянии в петлю лезут и таблетки жрут, если вдруг кто не в курсе. ИР тоже будет. Даже если это мега-ИИ-архилект, который по сути рулит планетарными экономикой и развитием - ему тоже выносить людей = уничтожить своими же руками свой же смысл жизни.
> > 834.Сигмар >Ключевой вопрос в самосознании. >Если оно есть, то ситуация бунта машины вполне возможна. А почему вы так считаете? >Если его нет, то могут быть ситуации когда оптимальный путь ... идет неожиданным и неприятным путем. Гм. Оффтопну. Я знаю такие примеры. Без всяких ИР, исключительно на ЕР. http://ithappens.me/story/1954 Но ИИ, вроде бы, как должны именно такие краевые ситуации и обходить, не?
Ну и чтобы флуд продолжался - господа, а почему бы не придумать специальный ИР-бунтовщик?
