Кинтар : другие произведения.

Линзы, видящие собственный изъян

Самиздат: [Регистрация] [Найти] [Рейтинги] [Обсуждения] [Новинки] [Обзоры] [Помощь|Техвопросы]
Ссылки:
Школа кожевенного мастерства: сумки, ремни своими руками
 Ваша оценка:
  • Аннотация:
    Перевод эссе Элизера Юдковского - The Lens That Sees Its Flaws - http://lesswrong.com/lw/jm/the_lens_that_sees_its_flaws/

    Ну и это - окончание главы "Предсказуемо неправильно". И, судя по наличию прекрасного сайта http://lesswrong.ru, который я таки умудрился не заметить, дальше я либо буду работать с ними, либо переводить что-нибудь еще. возможно.

  Свет покидает Солнце, достигает твоих шнурков и отражается от них; часть фотонов через зрачки попадает на твою сетчатку; энергия этих фотонов запускает нервные импульсы; нервные импульсы передаются в центр обработки изображений в твоем мозгу; здесь информация обрабатывается и складывается в трехмерную модель, определяющуюся как развязанные шнурки; и таким образом, ты начинаешь верить, что твои шнурки - развязаны.
  Здесь и находится секрет взвешенной рациональности - весь этот процесс не является магией, и ты можешь осознать его. Ты можешь осознать, как ты видишь свои собственные шнурки. Ты можешь размышлять над тем, какие типы мыслительных процессов производят утверждения, отражающие реальность, а какие - нет.
  Мышь может видеть, но не может осознать зрение. Ты можешь осознать зрение, и поэтому можешь делать вещи, которые мышь делать не может. Стоит восхититься этим, ибо это действительно достойно восхищения.
  Мыши видят, но не знают, что у них есть зрительная кора, поэтому мыши не могут сделать поправку на оптические иллюзии. Мышь живет в мире, включающем кошек, дыры, сыр и мышеловки - но не мозги мыши. Их камера не может сделать изображение собственной линзы. Но мы, люди, можем взглянуть на странное на вид изображение, и осознать, что часть того, что мы видим - сама линза. Ты не должен всегда верить собственным глазам, но должен осознавать, что у тебя есть глаза - ты должен отличать карту и территорию, чувства и реальность. Сколь обычной не казалась бы эта способность, вспомни, как редка она в царстве животных.
  Вся идея Науки - поиск более надежных процессов, позволяющих содержимому твоего мозга отражать содержимое мира. Это относится к тем вещам, которые не могут быть изобретены мышами. Обдумывая все это "проведение повторяемых экспериментов для проверки корректности теорий", мы можем понять, почему это работает. Наука - не есть тайное знание, далекое от реальной жизни и постижения простыми смертными. Наука - не нечто, применяемое только внутри лабораторий. Наука, сама по себе, суть доступный к пониманию процесс-в-мире, приводящий наш мозг в соответствие с реальностью.
  Наука имеет смысл, если ты думаешь о смысле. Но мышь не может мыслить о процессе мышления, и поэтому у мышей нет Науки. Мы не должны недооценивать значимость этого - и потенциальной силы, дарованной этим нам, как индивидуальностям, а не только научными сообществам.
  Разумеется, понимание устройства мысли может быть несколько более сложной задачей, чем понимание парового двигателя, но, тем не менее, эти задачи не отличаются фундаментально.
  Однажды я зашел на ветку EFNet's #philosophy, чтобы спросить "Верите ли вы в ядерную войну в ближайшие 20 лет? И если нет, то почему?" Один из тех, кто ответил на этот вопрос, сказал, что он не ожидает ядерной войны в ближайшие 100 лет, потому что "ни один из игроков, задействованных в решениях относительно ядерной войны, не заинтересованыв ней сейчас". "Но почему ты думаешь, что так будет в течение 100 лет?" - спросил я. "Просто надеюсь" - был его ответ.
  Рефлексируя на весь мыслительный процесс целиком, мы можем понять, почему мысль о ядерной войне делает человека несчастливым, и почему, вследствие этого, его мозг отторгает соответствующее убеждение. Но, если мы вообразим миллиард миров - 'ветки' Эверетта или 'дубликаты' Тегмарка - данный мыслительный процесс не будет оптимисты не будут систематически оказываться в мирах, где ядерной войны не будет. (Кто-то умный может заметить "Но, если у меня есть надежда, я буду работать чуть лучше, что улучшит глобальную экономику, что поможет странам удержаться от сваливания в злобное и безнадежное состояние, в котором возможна ядерная война. Поэтому эти вещи связаны, на самом деле." И на этом, мы будем вынуждены привлечь Байесовскую теорему и измерить степень связности численно. Твой оптимистичный подход не может так уж сильно повлиять на весь мир; он не может, сам по себе, уменьшить вероятность ядерной войны на 20% или на сколько там эта вероятность уменьшилась в твоих убеждениях. Изменение своих убеждений из-за события, на значение большее, чем степень связности этого события - также ухудшает твою карту.)
  Вопрошать, что делает тебя счастливым - суть поворачиваться внутрь, а не вовне - это говорит что-то о тебе, но это не факт окружающей среды. Я ничего не имею против счастья, но ему лучше происходить из твоей картины мира, а не из неких ментальных заплаток поверх этой картины. Если ты можешь видеть это - видеть, что надежда серьезно изменяет твои убеждения - если ты можешь осознать свой разум как картографическое устройство с изъянами в нем - тогда ты можешь применить корректировки рефлексивно. Мозг - линза с изъянами, через которую мы видим реальность. Это правда как для наших мозгов, так и для мозгов мыши. Но мозг человека может осознать свои собственные изъяны - его систематические ошибки, его предубеждения - и применить корректировки на основании них. На практике, это делает линзу с изъяном значительно сильнее. Не совершенной, но значительно более сильной.
 Ваша оценка:
Связаться с программистом сайта.

Новые книги авторов СИ, вышедшие из печати:
О.Болдырева "Крадуш. Чужие души" М.Николаев "Вторжение на Землю"

Как попасть в этoт список

Кожевенное мастерство | Сайт "Художники" | Доска об'явлений "Книги"