The human brain is
Before we start, it’s important to distinguish between cognitive biases and logical fallacies. A logical fallacy is an error in logical argumentation (e.g. ad hominem attacks, slippery slopes, circular arguments, appeal to force, etc.). A cognitive bias, on the other hand, is a genuine deficiency or limitation in our thinking — a flaw in judgment that arises from errors of memory, social attribution, and miscalculations (such as statistical errors or a false sense of probability).
Some social psychologists believe our cognitive biases help us process information more efficiently, especially in dangerous situations. Still, they lead us to make grave mistakes. We may be prone to such errors in judgment, but at least we can be aware of them. Here are some important ones to keep in mind.
Confirmation Bias
Expand
We love to agree with people who agree with us. It’s why we only visit websites that express our political opinions, and why we mostly hang around people who hold similar views and tastes. We tend to be put off by individuals, groups, and news sources that make us feel uncomfortable or insecure about our views — what the behavioral psychologist B. F. Skinner called
Ingroup Bias
Expand
Somewhat similar to the confirmation bias is the ingroup bias, a manifestation of our innate tribalistic tendencies. And strangely, much of this effect may have to do with oxytocin — the so-called «love molecule.» This neurotransmitter,
Gambler’s Fallacy
Expand
It’s called a fallacy, but it’s more a glitch in our thinking. We tend to put a tremendous amount of weight on previous events, believing that they’ll somehow influence future outcomes. The classic example is coin-tossing. After flipping heads, say, five consecutive times, our inclination is to predict an increase in likelihood that the next coin toss will be tails — that the odds must certainly be in the favor of heads. But in reality, the odds are still 50/50. As statisticians say, the outcomes in different tosses are statistically independent and the probability of any outcome is still 50%.
Relatedly, there’s also the positive expectation bias —
Post-Purchase Rationalization
Remember that time you bought something totally unnecessary, faulty, or overly expense, and then you rationalized the purchase to such an extent that you convinced yourself it was a great idea all along? Yeah, that’s post-purchase rationalization in action — a kind of built-in mechanism that makes us feel better after we make crappy decisions, especially at the cash register. Also known as Buyer’s Stockholm Syndrome, it’s a way of subconsciously justifying our purchases — especially expensive ones. Social psychologists say it stems from the principle of commitment, our psychological desire to stay consistent and
Neglecting Probability
Very few of us have a problem getting into a car and going for a drive, but many of us experience great trepidation about stepping inside an airplane and flying at 35,000 feet. Flying, quite obviously, is a wholly unnatural and seemingly hazardous activity. Yet virtually all of us know and acknowledge the fact that the probability of dying in an auto accident is significantly greater than getting killed in a plane crash — but our brains won’t release us from this crystal clear logic (
This is what the social psychologist
Observational Selection Bias
This is that effect of suddenly noticing things we didn’t notice that much before — but we wrongly assume that the frequency has increased. A perfect example is what happens after we buy a new car and we inexplicably start to see the same car virtually everywhere. A similar effect happens to pregnant women who suddenly notice a lot of other pregnant women around them. Or it could be a unique number or song. It’s not that these things are appearing more frequently, it’s that we’ve (for whatever reason) selected the item in our mind, and in turn, are noticing it more often. Trouble is, most people don’t recognize this as a selectional bias, and actually believe these items or events are happening with increased frequency — which can be a very disconcerting feeling. It’s also a cognitive bias that contributes to the feeling that the appearance of certain things or events couldn’t possibly be a coincidence (even though it is).
Status-Quo Bias
We humans tend to be apprehensive of change, which often leads us to make choices that guarantee that things remain the same, or change as little as possible. Needless to say, this has ramifications in everything from politics to economics. We like to stick to our routines, political parties, and our favorite meals at restaurants. Part of the perniciousness of this bias is the unwarranted assumption that another choice will be inferior or make things worse. The status-quo bias can be summed with the saying, «If it ain’t broke, don’t fix it» — an adage that fuels our conservative tendencies. And in fact, some commentators say
Negativity Bias
People tend to pay more attention to bad news — and it’s not just because we’re morbid. Social scientists theorize that it’s on account of our selective attention and that, given the choice, we perceive negative news as being more important or profound. We also tend to give more credibility to bad news, perhaps because we’re suspicious (or bored) of proclamations to the contrary. More evolutionarily, heeding bad news may be more adaptive than ignoring good news (e.g. «saber tooth tigers suck» vs. «this berry tastes good»). Today, we run the risk of dwelling on negativity at the expense of genuinely good news. Steven Pinker, in his book
Bandwagon Effect
Expand
Though we’re often unconscious of it, we love to go with the flow of the crowd. When the masses start to pick a winner or a favorite, that’s when our individualized brains start to shut down and enter into a kind of «groupthink» or hivemind mentality. But it doesn’t have to be a large crowd or the whims of an entire nation; it can include small groups, like a family or even a small group of office co-workers. The bandwagon effect is what often causes behaviors, social norms, and memes to propagate among groups of individuals — regardless of the evidence or motives in support. This is why opinion polls are often maligned, as they can steer the perspectives of individuals accordingly. Much of this bias has to do with our built-in desire to fit in and conform, as famously demonstrated by the
Projection Bias
As individuals trapped inside our own minds 24/7, it’s often difficult for us to project outside the bounds of our own consciousness and preferences. We tend to assume that most people think just like us — though there may be no justification for it. This cognitive shortcoming often leads to a related effect known as the
The Current Moment Bias
Expand
We humans have a really hard time imagining ourselves in the future and altering our behaviors and expectations accordingly. Most of us would rather experience pleasure in the current moment, while leaving the pain for later. This is a bias that is of particular concern to economists (i.e. our unwillingness to not overspend and save money) and health practitioners. Indeed, a
Anchoring Effect
Also known as the relativity trap, this is the tendency we have to compare and contrast only a limited set of items. It’s called the
Images: Lightspring/
loading...
А давайте это будет пост про рациональное мышление и когнитивные ошибки. Кто-нибудь может рассказать об этом что-нибудь интересное?
А перевода никто не делал, случайно?
А какое это имеет отношение к науке?
в блоге была уже как английская статья, так и пост когнитивных искажений
Подборка скорее популярная, чем научная — не упомянут, например, hindsight-эффект (он же феномен «я знал это заранее» — склонность полагать уже известное более предсказуемым, чем до обладания этой информацией), а как раз о нем-то ученым нужно знать в первую очередь.две книги (американская и советская классика).
Все это относится к области социальной психологии, и, как говорят гуру, для того, чтобы составить о ней полное представление, необходимо и достаточно прочитать
Пользуясь случаем позвольте попиаритьмаленький переводной бложек на эту тему.
o, Майерс крутой, мне в свое время офигенно раскрыл чакры. Есть еще отличная книжка Чалдини «Психология влияния» — про то, как эти наши социальные инстинкты некоторые люди используют себе во благо.
Был такой рассказик Элии Юдковского (автор мозгодробительного фанфика «Гарри Поттер и методы рационального познания»). Там люди жили в подземельях и забыли, как выглядит цвет неба. В одних старых книгах было написано, что небесный — это вроде зелёного, а в других — вроде голубого. Постепенно этот академический вопрос стал частью идеологии групп. У среднего класса небо было принято считать зелёным, а у аристократов, военных, политиков — голубым. Цвет попал на флаги, под флагами сражались стороны в гражданской войне, «голубые» систематически уничтожали мирное население «зелёных». После войны зелёный стал символом мира, а голубой — авторитарной власти и насилия. Все злодеи в фильмах носят одежду в синих тонах.
Потом, наконец, человек находит туннель на поверхность и в первый раз смотрит на небо. А оно вроде как голубое. Человек вспоминает историю своего народа, ругается, и заваливает туннель камнями.
А вообще можно раскритиковать все 12 пунктов. Все дело в том, что рациональное мышление не существует по отдельности, как сферическая лошадь. Суждение явлеется рациональным или нет в контексте цели, а цели у людей такие, какие есть в голове, а не такие, как хочет автор заметки.
Человеческие предпочтения вообще довольно странные. Например, смерть от последствий нездорового образа жизни (25% по США) считается приемлемой, насильственная смерть (3% по США, меньше, если выкинуть 1% самоубийств) — невыносимой. После того, как предпочтения и цели сформулированы, действия по достижению целей вполне рациональны.
Например, 1. и 2. — это рациональноге предпочтение быть частью группы. Лучше быть неправым вместе с друзьями, чем быть правым в одиночестве.
Неправильное понимание теории вероятности — это рациональное предпочтение справедливого мира равнодушному миру. И так далее.
какие-то
просто Объединённая Лига Атеистов против Соединенного Альянса Атеистов
получается лучше вовсе не руководствоваться данными когнитивными «искажаторами» во время постановки цели и её дальнейшего достижения? Но как-то же с пользой можно использовать эти знания?
у меня такое ощущение, что все цели поставлены до нас. Про это Веллер говорил: «ты можешь делать всё, что хочешь, но не можешь хотеть всё, что хочешь».
А желания, по крайней мере первопричины этих желаний — действительно предзаданы материальной структурой человеческого организма и мозга. Вариации тут в другом — насколько точно смог сформулировать свои желания и насколько полно их учел, здесь как раз возможны искажения.
Ты не сможешь совсем не пользоваться «искажаторами», они каким-то образом встроены в наше мышление и принятие решений, но некоторые из них можно просто знать и учитывать в тех ситуациях, когда они наиболее стабильно проявляются, — а научно систематизировать и описать такие ситуации как раз и пытается социальная психология (ссылки см. выше), и, надо сказать, небезуспешно.
Рациональность как некая отдельная сущность, разумеется, не существует, — она относительна и привязана к интерпретации принятия нами решений и совершения действий, и для любого действия несложно привести рациональные аргументы чтобы его совершать и чтобы его не совершать 🙂отцов Гэри Беккер, а через 10 лет — психолог Даниэль Канеман, убедительно показавший , что человек не ведет себя рационально. С Канеманом связана забавная история по этому поводу: будучи еврейским мальчиком в оккупированном нацистами городе и не успев вернуться домой к комендантскому часу, он прокрадывался переулками, вывернув пиджак со звездой Давида наизнанку. Его засек эсэсовский патруль и подозвал к себе, а когда он подошел, мысленно прощаясь с жизнью (ему говорили, что люди в черной форме самые опасные), один из эсэсовцев достал бумажник с фоткой мальчика, видимо своего сына, чуть ли не прослезился, и отпустил Даниэля. Как он сам говорит, эта история произвела на него неизгладимое впечатление и во многом после нее он решил доказать, что люди не ведут себя рационально — ну и пришел к успеху.
Тем не менее, попытки объяснить поведение людей с помощью этого понятия не оставляются, особенно в дисциплинах, пытающихся это поведение формализовать — в первую очередь, естественно, в экономике. Теория рационального выбора у всех на слуху, но несложно проиллюстрировать ее блеск и нищету: в 1992 нобеля по экономике получает один из ее
В общем, рациональность — один из красивых концептов, иногда объясняющих наше поведение, а иногда нет, но и концептов получше тоже нет (а, возможно, и не бывает). Так и живем.немного философии на тему. Простите за простыню, спасибо за внимание.
Напоследок
очень интересно! Спасибо!
я думал человек сам выбирает цели…
dilesoft: в НЛП есть какая-то техника, о том как правильно ставить цели и достигать их. Она же вроде как работает.
в этом посте простыня уместна. И даже лестница из простыней.
а кто придумывает эти цели? Сам человек. А откуда он их берет? А оттуда, что они уже были предзаданы.
В НЛП есть «правила формулировки целей», насчет их реальной полезности я не знаю.
dilesoft: ты предполагаешь, что существует «некто» кто и предзадал нам эти цели?
здесь проблема со словом «выбирает» — оно очень неоднозначное. Даже если оставить в покое влияющие на выбор социологические факторы — возраст, пол, культура, что его дедушка 50 лет назад ел на завтрак… все равно непонятно.
Человек явно что-то такое делает в голове, а потом какие-то действия совершает, а какие-то нет. Но был ли там какой-то выбор как принципиально новое и свободное явление, или человеку только показалось, что он перебрал варианты, а в самом деле он уже 10 микросекунд как начал подготовку к действию которое ещё сознательно не выбрал? Может ли вообще человек перебрать варианты?
Всё это очень туманные вопросы. Я убежден, что проблема с неточностью языка.
нет, совершенно не обязательно персонифицировать. Это просто устройство организма. Вот ты знаешь, что твой организм устроен так, что ты хочешь жить? Попробуй только не захотеть!
на мой взгляд, само понятие «выбор» условно. Мозг по каким-то механизмам, включая, в том числе, твое сознательное мышление (но только как часть процесса), решает, какой действие совершить следующим. Но полный механизм этого процесса самому человеку не виден (или виден, но в виде слабовербализируемых ощущений).
dilesoft: на эту тему есть роман Blindsight Питера Ватса. Контакт со вполне развитыми инопланетянами, начисто лишенными самоосознания. То есть они разумны (и в некоторых случаях не очень умны, т.е. все человеческие недостатки), способны на совместные действия, осознают и защищают друг друга… но только не себя. На вопрос «что он делает» ответить могут, на вопрос «что ты делаешь» — нет, потому что «какой ещё я? Нет тут никакого я.»
Пока герои шатаются по чужому космическому кораблю и беседуют с инопланетным бортовым компьютером (оказывающимся очень хорошо сделаным ботом для обмана теста Тюринга), земную цивилизацию зохавывают земные же вампиры-эпилептики, вовремя освободившиеся от жалкой иллюзии свободы выбора.
это очень распространённо заблуждение. По-настоящему рациональный выбор означает учёт всей доступной информации и последующую исключительно логическую обработку. В повседневных действиях люди не делают этого практически никогда.
Потому можно сказать, что свободная воля — это иллюзия.
это одна из самых хороших книг, которые я читала
Хм, тут может быть две разные ситуации. Первая — для них нет «я», зато есть тело, мысли, эмоции и прочее, и они на вопрос «что делает это тело» ответить могут (собственно, это как бы состояние буддисткого просветления или типа того). Вторая — для них нет тела, мыслей, чувств, разума, то есть у них нет способности интроспекции. Кажется, ты описал второй случай.
мне кажется, исключительно логической (вы имеете в виду, наверное, вербальной) обработки не бывает. Это всегда вторичный процесс. Большая часть обработки — «аналоговая», чувственная.
это абсолютно надуманная ситуация. Как если бы существо могло мыслить о столе, но не могло о стуле, потому что «какой еще стул».
На практике развитие самоосознания происходит постепенно даже у животных (его зачатки есть даже, как известно, у слонов, не говоря уже о дельфинах и обезьянах).
«рациональный» выбор может быть разный — человек подсознательно делает тысячи рациональных выборов в день, даже не думая об этом (в частности, благодаря «социальным» инстинктам, которые иногда дают сбой, как в сабже). Есть и другие рациональные решения, например, пойти тебе в институт или на завод после школы, в таких решениях человек абсолютно свободен.
dilesoft: конечно не бывает, даже компьютерные биты аналоговые по своей природе.
Речь не об этом, а о минимальном привлечении высшего уровня осознания в повседневной жизни. В каком-нибудь метро — так вообще все становятся зомби.
для известных нам существ ситуация надуманная. А вот компьютер с сенсорами физических величин обрабатывает реальность именно так. Дадим ему манипулятор и термометр. Он может ощупать комнату, описать её форму, замерить температуру воздуха и стенок. В какой-то момент он обнаружит собственный системный блок и тоже измерит и опишет. И всё это без малейшего разделения реальности на «я» и «не-я».
свободен лишь теоретически. На практике решение завод/институт точно так же обычно сводятся либо к чьему-то мнению, либо к ключевым не очень рациональным аргументам уровня куда пошёл друг или где лучше пахнет.
вербальное мышление это вообще очень тормознутый процесс, он скорее предназначен для нахождения решений в сложных ситуациях. В быту обдумывать как правило нет ни времени, ни повода.
Со временем такая машина поймет корреляцию между температурой одного конкретного участка комнаты и интенсивностью своей работы…
Или же просто из своих желаний. Вот я с детства хотел стать программистом. А почему хотел? А фиг знает. Устроен я так, и всё тут.
это если для нее существует переменная «своя работа».
да, поймёт! Но откуда он возьмёт слово «своей»? Это будут всё наблюдения за окружающим миром.
для человека слово «я» имеет, наверное, только две функции:
1. Обозначить инстинкт самосохранения. Надо же показывать, что именно сохраняешь.
2. Упрощение языка. Одна буква меньше, чем себя по имени называть.
это совсем другой тип «несвободы», если хочешь
Сразу вспоминается один из классиков социальной теории Джордж Герберт Мид, одна из основных идей которого состоит в том, что человек социализировался и стал таким, какой он есть сейчас потому, что в процессе эволюции у одного из видов приматов так развились черепная коробка, слуховой аппарат и то, что мы сейчас называем речевым аппаратом, что эти ребята начали соотносить звуки, издаваемые ими самими и звуки, издаваемые их сородичами — и таким образом осознавать себя как часть общества. Благодаря этому примитивный обмен сообщениями, который мы наблюдаем у животных, перерос в принципиально иное качество, в итоге — в речь. А животные, получается, выделяют себя, выделяют разные типы существ вокруг, но не осознают себя как «такого же как», а все привязки к себе подобным строятся на инстинктах, а не этом осознании — за исключением, может быть, только некоторых на удивление генетически близких к человеку видов, у которых социализация проявляется в большей степени, чем у более далеких, но все равно не переходит некоего качественно важного уровня, нужного для развития речи, письменности и сложного социума.