less wrong

• «Рациональность: от ИИ до зомби» (англ. Rationality: From AI to Zombies) — книга-сборник из 333 эссе о человеческой рациональности.
• LessWrong на русском | Статьи по рациональному мышлению http://lesswrong.ru/ [2015-05-14 Чт 14:33]
• http://lesswrong.com/

В невидимой части записи подборка ссылок, начиная от 2013 года. И в общем, это перебирать надо. Когда-нибудь. :)

• https://users.livejournal.com/alaric-/567981.html

  В 2017 году Юдковский выпустил ещё одну книгу — "Неадекватное равновесие" ("Inadequate Equilibria"). В этой книге Юдковский гораздо больше, чем раньше, рассуждает об обществе — в основном через призму экономики. Хотя, конечно, главный вопрос остаётся тем же самым: как принимать решения лучше?

  1. Юдковский указывает, что некоторые "начинающие рационалисты" склонны к следующей ошибке: я вижу, что нечто в мире устроено плохо, я знаю, как сделать лучше, я сейчас возьму и всё исправлю. Не факт. Если система находится в равновесии за счёт того, что все люди думают, что сейчас они совершают оптимальное для них действие, быстро и просто ничего не изменить. Нужны как минимум какие-то ресурсы извне существующей системы.
  2. Но есть и повод для оптимизма. Если мы видим признаки неадекватности системы, значит, мы можем поискать в ней "низко-висящие плоды". Совершить настоящее открытие в какой-либо области всё равно достаточно сложно и вряд ли стоит рассчитывать, что такое будет удаваться часто. Однако найти эксперта, который не согласен с "мнением мейнстрима", и, разобравшись в аргументации сторон, понять, что "мнение мейнстрима" где-то ошибается, — уже более реально.

• https://equilibriabook.com/toc/