Это перевод замечательной статьи «Cogntive bias cheet sheet», автор — Бастер Бенсон (Buster Benson). Все респекты и лайки — ему.

Статья была ранее подстрочно переведена на ресурсе Spark с некоторой потерей читабельности.

На разных сайтах встречается частичный перевод статьи Бенсона с дополнениями Анатолия Ализара: «Иллюзии мозга. Когнитивные искажения из-за переизбытка информации».

Я решил, что прямой перевод первоисточника на русский язык тоже пригодится в ноосфере. Также в конце я привожу ссылку большой на JSON-файл с данными на русском языке. Обязательно долистай до него!

Alexey Ezhikov, Dec 12, 2016 · medium.com

Многие годы я обращался к списку когнитивных искажений в Википедии — каждый раз, когда какой-то тип мышления казался мне официально зафиксированным искажением, но я не мог вспомнить его название или подробности. Список служил бесценным инструментом для распознавания скрытых изъянов в моём собственном мышлении. Мне не удавалось найти другой источник, одновременно настолько же всеохватывающий и лаконичный.

Однако, честно говоря, страничка в Википедии — это мешанина. Несмотря на то, что год за годом я старался впитать информацию оттуда, в итоге мало что оставалось в памяти. Часто я просматривал список и понимал, что не могу найти нужное искажение, а потом очень быстро забывал прочитанное. Думаю, что причина этому — многолетнее органическое разрастание списка. Сегодня он объединяет 175 искажений в туманные категории (поведение и принятие решений, вероятности и стереотипы, социально обусловленные, и так далее). Сами категории выглядят пересекающимися, а сортировка внутри них сделана в алфавитном порядке. Поэтому вдоволь хватает дубликатов, а похожие искажения под разными названиями волей-неволей оказываются разбросаны по списку.

В прошедшие четыре недели, будучи в отпуске по уходу за ребёнком, я попытался получше разобраться в списке и придумать более понятную структуру его организации. Описания разных когнитивных искажений давали мне пищу для ума, пока я укачивал маленького Луи.

Я начал с сырого списка из 175 искажений, вычистил дубликаты и объединил похожие искажения (например, эффект запоминания странного и эффект запоминания смешного) и дополняющие искажения (например, отклонения, связанные с оптимизмом и пессимизмом). Список уменьшился примерно до 20 уникальных мыслительных стратегий, которые мы используем по очень конкретным причинам.

Несколько раз я попытался объединить эту двадцатку на более высоком уровне, пока не пришёл к группировке по главным когнитивным проблемам, с которыми мы сталкиваемся. У каждого когнитивного искажения есть причина и объяснение. Обычно это экономия времени или энергии мозга. Если рассматривать искажения с точки зрения тех проблем, которым они пытаются противостоять, то становится гораздо понятнее, почему они существуют, полезны, и к каким последствиям приводят (в виде итоговых ошибок).

Четыре проблемы, с которыми помогают справляться когнитивные искажения:

Проблема 1: Переизбыток информации

В окружающем мире слишком много информации. У нас есть единственный выбор — отсекать в восприятии почти всё. Наш мозг использует несколько простых приёмов, чтобы выбрать только ту информацию, которая с большей вероятностью как-то нам пригодится.

  • Мы охотнее замечаем то, что ранее запоминали либо часто встречали. Очень простое правило, согласно которому мозг скорее обращает внимание на нечто, похожее на то, что мы уже запоминали.
    Примеры: Эвристика доступности (en), Систематическая ошибка внимания, Эффект иллюзии правды, Каскад доступной информации (en), Эффект знакомства с объектом (en), Эффект контекста, Забывание без подсказок, (en), Отклонение в сторону соответствия эмоциям (en), Иллюзия частотности, Феномен Баадера — Майнхоф [на русском также известна как «закон парных случаев»] (en), Разрыв эмпатии между горячим и холодным состоянием (en), Недооценка бездействия, Ошибка базового процента
  • Странные / смешные / внешне привлекательные / антропоморфные вещи привлекают внимание больше, чем привычные / несмешные. Мозг завышает оценку важности непривычных вещей, с которыми мы незнакомы. Аналогично, мы стараемся пропускать информацию, которая кажется нам рядовой и ожидаемой.
    Примеры: Эффект причудливости, Эффект юмора (en), Эффект Ресторфф, Эффект превосходства картинки (en), Эффект самореференции (en), Феномен негативного восприятия (en), Гипотеза Поллианны (en), Сдвиг к позитивной оценке (en)
  • Мы замечаем, когда что-то меняется. И обычно мы воспринимаем ценность нового именно в сравнении со старым (её возрастание или убывание, позитивное или негативное изменение), а не переоцениваем новое заново, само по себе. То же происходит, когда мы сравниваем похожие вещи.
    Примеры: Эффект привязки, Эффект контраста, Эффект фокусировки (en), Денежная иллюзия, Эффект фрейминга (en), Закон Вебера — Фехнера, Консерватизм в переоценке убеждений (en), Систематическая ошибка различения (en)
  • Нас привлекают частности, подтверждающие наши существующие убеждения. Это очень важная вещь. И следствие: мы опускаем те детали, которые противоречат нашим убеждениям.
    Примеры: Склонность к подтверждению своей точки зрения, Систематическая ошибка согласованности, Рационализация после покупки, Искажение в восприятии сделанного выбора, Селективное восприятие, Эффект ожидания наблюдателя (en), Эффект страуса (en), Субъективное придание значимости (en), Эффект продолжающегося влияния (en), Рефлекс Земмельвайса (en)
  • Мы гораздо легче замечаем изъяны в других, чем в себе. Да, перед тем, как изучать список когнитивных искажений других людей, имеет смысл осознать, что все они относятся и к тебе тоже.
    Примеры: Слепота в отношении когнитивных искажений (en), Наивный цинизм (en), Наивный реализм (en)

Проблема 2: Сложность понимания

Окружающий мир очень сложный и мы видим только его маленький кусочек. Нам нужно делать какие-то выводы о нём, чтобы выживать. Как только в нас попадает прореженный органами чувств поток информации, мы соединяем точки и заполняем пустоты тем, что мы думаем, что знаем. Это позволяет нам обновлять модели окружающего мира.

  • Мы обнаруживаем истории и закономерности даже в скудных данных (прим. авторов сайта: на этом построен весь сторителлинг). Поскольку мы видим только маленький кусочек мира и отсекаем почти всё остальное, мы никогда не знаем про события всего. Поэтому мозг воссоздаёт картину мира у нас в голове, чтобы воспринимать его целым и непрерывным, а не раздробленным.
    Примеры: Парамнезия (ложная память), Иллюзия кластеризации (en), Ошибка из-за размера выборки (en), Отрицание вероятности (en), Обманчивость эпизода (en), Иллюзия обоснованности (en), Ошибка про человека в маске, Иллюзия новизны (en), Ошибка игрока, Ошибка «счастливой руки» (en), Мнимая взаимосвязь (en), Парейдолия, Антропоморфизм
  • Мы дополняем пробелы в информации или новые наблюдения известными признаками из стереотипов, обобщений и прошлого опыта. Когда у нас есть только частичная информация о какой-то специфичной вещи, входящей в класс привычных для нас вещей, мозг с лёгкостью устраняет этот недостаток с помощью догадок по аналогии или из других проверенных источников. Потом мы ничтоже сумняшеся забываем, какие части картины на самом деле были, а какие мы достроили.
    Примеры: Ошибка коллективной атрибуции (en), Предельная ошибка атрибуции (en), Стереотипизация, Эссенциализм, Функциональная закреплённость, Эффект моральной непогрешимости (en), Вера в справедливый мир, Ошибка аргументации от ошибки, Апелляция к авторитету (en), Заблуждение надёжности автоматизации (en), Эффект присоединения к большинству, Эффект плацебо
  • Мы больше ценим знакомые / симпатичные вещи и людей, чем незнакомые / несимпатичные. Похоже на предыдущий пункт, только прибавляется неосознанное допущение о качестве, стоимости или ценности того, на что мы смотрим.
    Примеры: Гало-эффект (эффект ореола), Искажение в пользу своей группы (en), Искажение в оценке сходства другой группы (en), Межрасовый эффект (en), Эффект чирлидерши (en), Эффект знакомого маршрута (en), Синдром неприятия чужой разработки, Реактивное обесценивание (en), Эффект позитивности (en)
  • Мы упрощаем числа и вероятности, чтобы о них было легче думать. Математик из нашего подсознания никакой. Обычно оно совершенно ошибочно оценивает вероятности каких-то событий при отсутствии точной информации.
    Примеры: Ментальный учёт (en), Искажение нормального распределения (en), Апелляция к вероятности (en), Закон Мёрфи, Эффект полуаддитивности (en), Систематическая ошибка выжившего, Отклонение в сторону нулевой суммы (en), Эффект ценности денежных знаков, Магическое число 7±2
  • Мы думаем, что знаем, о чём думают другие. Иногда мы предполагаем, что другие знают то, о чём знаем мы. В других случаях мы думаем, что другие думают о нас столько же, сколько мы сами думаем о себе. Попросту это попытка смоделировать чужое сознание, основываясь на модели собственного (или даже более упрощённой модели).
    Примеры: Проклятие знания, Иллюзия прозрачности, Эффект прожектора, Иллюзия постороннего участия (en), Иллюзия асимметричной проницательности (en), Отклонение в сторону внешних стимулов (en)
  • Мы проецируем наш текущий образ мыслей в прошлое и будущее.Вдобавок к этому мы не очень хорошо оцениваем, насколько медленно или быстро события разворачиваются во времени.
    Примеры: Ретроспективное искажение, Искажение оценки по последствиям (en), Случайная добродетель (en), Упадничество (en), Эффект телескопа, Приукрашивание прошлого (en), Переоценка будущего воздействия (en), Склонность к пессимизму (en), Ошибка планирования (en), Ошибка сэкономленного времени (en), Искажение изобретателя (en), Искажение в связи с проекцией (en), Искажение сдержанности (en), Искажение самосогласованности (en)

Проблема 3: Необходимость быстрой реакции

Мы ограничены доступным временем и количеством информации для принятия решения. Если бы мы не умели быстро реагировать перед лицом неопределённости, мы вряд ли долго протянули бы как вид. Каждый раз при поступлении новой информации мы ищем способ повлиять на ситуацию к лучшему, смоделировать будущее для предсказания дальнейшего развития событий, действовать по-новому при возникновении новых идей.

  • Чтобы действовать, мы должны быть уверены в способности что-то изменить и чувствовать важность своих поступков. В реальности эта уверенность оказывается чрезмерной самоуверенностью, но если бы её не было, мы не смогли бы действовать вовсе.
    Примеры: Эффект самоуверенности (en), Эгоцентрическое искажение (en), Склонность к оптимизму (en), Отклонение в сторону общественного одобрения (en), Эффект третьего лица, Эффект Барнума (эффект Форера), Иллюзия контроля, Эффект ложного согласия, Эффект Даннинга — Крюгера, Эффект «сложно — легко» (en), Мнимое превосходство (эффект Лейк-Уобегон), Искажение в собственную пользу (en), Фундаментальная ошибка атрибуции, Гипотеза защитной атрибуции, Искажение при описании особенностей (en), Оправдание усилий (en), Отклонение в сторону компенсации риска (en)
  • Мы предпочитаем фокусироваться на немедленных и близких результатах вместо отложенных во времени и пространстве. Вещи и события в настоящем мы ценим больше, чем ожидаемые в будущем. Мы отождествляем себя с историями конкретных людей больше, чем анонимов или групп людей. Странно, что в этой группе так мало искажений, учитывая, насколько сильно это влияет на наши представления о мире.
    Примеры: Переоценка скидок (en), Апелляция к новизне (en), Эффект опознаваемой жертвы (en)
  • Мы предпочитаем завершать то, во что ранее уже вложили время и усилия. Поведенческий аналог первого закона Ньютона: тело продолжает удерживаться в состоянии движения. Это помогает нам доводить дела до конца, даже если мы находим всё больше причин, чтобы этого не делать.
    Примеры: Усиление обязательства (en), Неприятие потери (en), Эффект IKEA, Эффект сложности обработки информации (en), Эффект создания информации (en), Предпочтение нулевого риска (en), Эффект диспозиции (en), Отклонение в сторону целого (en), Эффект псевдоуверенности (en), Эффект вклада (en), Эффект обратного результата
  • Мы склонны сохранять личную автономию и текущий статус в группе, избегая необратимых решений. Находясь перед выбором (в том числе в ситуациях социального взаимодействия), мы обычно предпочитаем вариант, который кажется наименее рискованным или сохраняет статус кво. Из двух зол мы выбираем знакомое.
    Примеры: Оправдание системы (en), Реактивное сопротивление, Реверсивная психология, Эффект приманки (en), Искажение социального сравнения (en), Отклонение в сторону статуса кво
  • Мы предпочитаем просто выглядящие и однозначные варианты выбора более сложным и неопределённым. Лучше мы сделаем что-то быстрое и простое, чем важное и сложное. Даже если важное и сложное в конечном счёте экономит время и силы.
    Примеры: Эффект неоднозначности, Информационное искажение (en), Искажение правдоподобного вывода (en), Эффект рифмованности (en), Закон тривиальности Паркинсона, Эффект Делмора (en), Ошибка конъюнкции, Бритва Оккама, Эффект «меньше — лучше»

Проблема 4: Что нужно будет вспомнить?

Информации во вселенной слишком много. Мы можем себе позволить помнить только то, что вероятнее всего пригодится нам в будущем. Нам приходится постоянно торговаться с самими собой и прогнозировать, что выгоднее помнить, а что забыть. Например, обобщения выгоднее конкретных примеров, потому что занимают меньше места в мозгу. Когда есть много частностей, которые невозможно обобщить, мы выбираем отдельные выдающиеся ключевые признаки и забываем всё остальное. Обычно мы сохраняем то, что нужно для фильтров информации, описанных в Проблеме 1, а также то, что требуется для построения догадок и умозаключений из Проблемы 2. Когнитивные искажения усиливают друг друга.

  • Мы редактируем и усиливаем воспоминания после случившихся событий. В ходе этого воспоминания могут закрепляться, но при этом некоторые детали отбрасываются и теряются. Иногда наши воспоминания обрастают деталями, которых в реальности не было.
    Примеры: Ошибка атрибуции воспоминания (en), Криптомнезия, Парамнезия (ложная память), Внушаемость, Эффект интервала (en)
  • Мы отбрасываем частности для построения и закрепления обобщений. Мы делаем это по необходимости, но воздействие скрытых ассоциаций, стереотипов и предрассудков приводит к одним из самых тяжёлых последствий из всего списка когнитивных искажений.
    Примеры: Неявные ассоциации и стереотипы (en), Отклонение памяти в сторону стереотипов (en), Предрассудок, Феномен негативного восприятия (en), Отклонение в сторону затухания аффекта (en)
  • Мы упрощаем события и списки до отдельных ключевых моментов и элементов. События и списки трудно сводить к обобщениям, поэтому мы запоминаем отдельные пункты, представляющие для нас целое.
    Примеры: Правило пика и завершения (en), Выравнивание и заострение (en), Эффект ложной информации (en), Игнорирование продолжительности (en), Последовательное вспоминание (en), Эффект подачи сообщений (en), Торможение памяти, Эффект выборочного напоминания списка (en), Эффект порядка расположения (en), Эффект первенства (en), Эффект свежести (en), Эффект суффикса (en)
  • Мы по-разному храним воспоминания в зависимости от ситуации получения опыта. Мозг кодирует ту информацию, которая казалась важной в данный момент времени. Но то решение могло зависеть от других обстоятельств: что ещё происходило в то время, как информация выглядела, нужно ли было её легко находить впоследствии, и так далее. То есть, по факту всё это могло иметь мало общего с реальной ценностью информации.
    Примеры: Эффект уровней обработки информации (en), Эффект тестирования (en), Рассеянность внимания, Эффект следующего в очереди (en), Феномен «на кончике языка», Эффект Google (en)

Отлично, и как я теперь должен всё это запомнить?

Ты не должен. Но можно начать запоминать с четырёх гигантских проблем, с которыми сталкиваются наши мозги на протяжении миллионов лет. И ещё можешь добавить статью в закладки, чтобы потом найти и сослаться на конкретное когнитивное искажение.

  1. Переизбыток информации — это отстойно, поэтому мы агрессивно отсекаем всё ненужное. Шум становится сигналом.
  2. Недопонимание нас путает, поэтому мы активно достраиваем картину. Сигнал становится историей.
  3. Нам приходится действовать быстро, чтобы не упустить шанс, поэтому мы сразу перепрыгиваем к заключениям. Истории становятся решениями.
  4. Проще нам от этого не становится, поэтому мы пытаемся запоминать самое важное. Решения дают нам информацию для корректировки моделей мира и себя.

Чтобы не утонуть в переизбытке информации, мозгу приходится отсекать и фильтровать огромное количество информации и быстро, почти без усилий, решать, что из этого действительно важно и должно быть предъявлено нашему вниманию.

Чтобы создавать смыслы из разрозненных кусочков информации, мы заполняем пустые места и соотносим данные с нашими ментальными моделями окружающего мира и самих себя. Одновременно мы контролируем, что это происходит настолько устойчиво и непротиворечиво, насколько возможно.

Чтобы действовать быстро, нам приходится за доли секунды принимать решения, которые могут повлиять (или нам кажется, что могут повлиять) на наши шансы выжить, оказаться в безопасности, добиться успеха или почувствовать уверенность в своих силах.

Чтобы это происходило наиболее эффективным образом, мозг должен запоминать самое важное из новой информации и информировать об этом другие системы организма. Ровно настолько, чтобы они могли адаптироваться и усилиться со временем, но не больше.

Звучит полезно! А какие побочные эффекты?

Вместе с четырьмя главными проблемами полезно помнить о четырёх проблемах-следствиях, которые вызваны нашими способами решения главных проблем:

  1. Мы не видим всего. Часть информации, которую мы отсекаем, на самом деле оказывается ценной и важной.
  2. Поиск смыслов приводит нас к галлюцинациям. Иногда мы придумываем несуществующие детали только из-за предположений и предубеждённости, а также достраиваем смыслы и истории, которых не было в реальности.
  3. Быстрые решения могут быть плохими. Некоторые из быстрых реакций и решений оказываются нечестными, корыстными и непродуктивными.
  4. Память усиливает ошибки. Некоторые вещи, которые мы запоминаем, усиливают когнитивные искажения и обусловленность, ухудшая мыслительные процессы.

Если ты запомнишь четыре главных проблемы и четыре ошибки, к которым приводят наши стратегии их решения, то эвристика доступности (конкретнее, феномен Баадера — Майнхоф) приведут к тому, что ты начнёшь чаще обращать внимание на собственные когнитивные искажения. Если ты будешь иногда заходить на эту страничку и освежать в памяти информацию, то эффект интервала поможет запомнить некоторые из ошибок, чтобы чуть лучше противодействовать слепоте в отношении когнитивных искажений и наивному реализму.

Мы ничего не можем сделать, чтобы полностью избавиться от четырёх главных проблем (до тех пор, пока не расширим вычислительные мощности и память мозгов до размеров вселенной). Зато когда мы примем как факт, что мы навсегда обусловлены своей биологией, но можем учиться эффективнее с этим жить, то склонность к подтверждению своей точки зрения поможет находить этому новые и новые свидетельства. Благодаря этому мы научимся лучше понимать себя.

«Узнав о склонности к подтверждению своей точки зрения, я теперь постоянно вижу подтверждение её существования!»

Когнитивные искажения — всего лишь инструменты. Они полезны в одних контекстах и вредны в других. Но это единственные инструменты, которые у нас есть, и они довольно неплохо справляются в тех ситуациях, для которых предназначены. С ними можно познакомиться поближе и оценить их — в конце концов, они позволяют нашим загадочным мозгам действовать во вселенной.

Update: Через пару дней после публикации этой записи John Manoogian III спросил, можно ли сделать постер с диаграммой из моего текста. Что я, конечно же, разрешил. Вот что в итоге получилось: