Когнитивные искажения

Когнитивные искажения (англ. cognitive biases) — систематические, устойчивые и воспроизводимые отклонения в восприятии, памяти, суждениях и выборе, которые возникают у лица, принимающего решение (ЛПР), и приводят к предсказуемому отходу от нормативных моделей рационального выбора. В теории принятия решений такие искажения рассматриваются как закономерные нарушения аксиом рациональности — транзитивности, независимости от посторонних альтернатив, инвариантности представления задачи, — вследствие которых предпочтения ЛПР становятся непоследовательными, противоречивыми или ошибочными с точки зрения формальных процедур выбора.

Для корректного обсуждения когнитивных искажений существенно различать три уровня теории принятия решений: нормативный (как следует выбирать, если стремиться к рациональности), дескриптивный (как ЛПР выбирают в действительности) и прескриптивный (как помочь реальному ЛПР приблизиться к нормативному идеалу с учётом его ограничений). Когнитивные искажения суть предмет дескриптивной ТПР и одновременно отправная точка для прескриптивных процедур: их изучают не для того, чтобы объявить человека иррациональным, а для того, чтобы строить реалистические модели выбора и проектировать процедуры, в которых систематические ошибки учтены и по возможности скомпенсированы.

Концепция сложилась в русле дескриптивного направления теории принятия решений как альтернатива классической нормативной модели «человека экономического» (homo economicus). Её становление связано с работами Г. Саймона об ограниченной рациональности (1957) и исследованиями Д. Канемана и А. Тверски 1970-х годов, которые показали, что при оценке вероятностей и выборе в условиях неопределённости ЛПР систематически использует эвристики — упрощённые правила принятия решений, — порождающие регулярные и предсказуемые ошибки. В русскоязычной традиции когнитивные искажения в контексте принятия решений подробно рассматриваются в работах О. И. Ларичева и А. Б. Петровского.

Теоретические основы

Ограниченная рациональность

Представление о когнитивных искажениях как закономерном свойстве человеческого мышления восходит к концепции ограниченной рациональности Г. Саймона. ЛПР не способен перерабатывать всю доступную информацию и строить оптимальные решения из-за ограничений памяти, внимания и вычислительных ресурсов. Вместо поиска оптимума человек останавливается на первом варианте, удовлетворяющем его требованиям (сатисфисинг), и опирается на упрощённые модели среды.

Программа «эвристики и искажения»

В исследовательской программе Тверски и Канемана (с 1969 года) показано, что эвристики, используемые при оценке вероятностей и частот, систематически приводят к искажениям. В работе 1974 года описаны три базовые эвристики: репрезентативности (оценка вероятности по сходству с типичным представителем класса), доступности (оценка частоты по лёгкости извлечения примеров из памяти) и якорения и корректировки (недостаточная корректировка начальной оценки). Каждой эвристике соответствует группа характерных искажений.

Теория перспектив

В теории перспектив (prospect theory) Канемана и Тверски (1979) установлено, что ЛПР оценивает исходы относительно точки отсчёта, а не в абсолютных величинах конечного благосостояния; потери воспринимаются существенно сильнее эквивалентных выигрышей (коэффициент неприятия потерь — около 2:1); субъективные вероятности систематически отличаются от объективных — малые переоцениваются, умеренные и большие недооцениваются. Теория перспектив объясняет ряд нарушений классической теории ожидаемой полезности фон Неймана — Моргенштерна, включая парадокс Алле.

Двухсистемная модель мышления

В обобщающей работе «Думай медленно… решай быстро» (2011) Канеман связал когнитивные искажения с разделением мышления на две системы: Систему 1 — быструю, автоматическую, ассоциативную, энергосберегающую — и Систему 2 — медленную, аналитическую, требующую усилий. Большинство искажений возникает на уровне Системы 1; Система 2 способна их обнаружить и скорректировать, но включается лишь при достаточной мотивации и свободе когнитивных ресурсов. Отсюда практический вывод: искажения не исчезают с опытом и образованием — их можно лишь отчасти компенсировать структурой процедуры принятия решения.

Причины когнитивных искажений

Согласно А. Б. Петровскому, когнитивные искажения в поведении ЛПР возникают под действием следующих групп факторов:

• Сложность анализируемой ситуации — большое число альтернатив, критериев и взаимосвязей, создающее нагрузку на внимание и рабочую память. Одновременное удержание и сопоставление более 7 ± 2 объектов (число Миллера) уже за пределами возможностей оперативной памяти.
• Недостаток или недостоверность информации — неполные, противоречивые или искажённые данные, из-за которых ЛПР восполняет пробелы догадками, стереотипами и аналогиями с прошлым опытом.
• Дефицит времени — жёсткие временны́е рамки переключают мышление с аналитического на интуитивное и активируют эвристики Системы 1.
• Ограниченность мышления — неспособность выстраивать непротиворечивые модели с большим числом взаимосвязей и одновременно учитывать все релевантные аспекты.
• Индивидуальные склонности — завышенные или заниженные самооценки, склонность к риску либо избыточная осторожность, оптимистический или пессимистический настрой.
• Эмоциональное состояние и мотивация — страх, тревога, гнев, заинтересованность в определённом исходе (мотивированное рассуждение) систематически меняют субъективную оценку вероятностей и полезностей.
• Невнимательность, усталость, когнитивная перегрузка — факторы, снижающие качество анализа и увеличивающие долю автоматических решений; сюда же относят «усталость от принятия решений» (decision fatigue) после серии выборов.
• Социальный и организационный контекст — групповое давление, авторитет источника, формулировка задачи третьими лицами, организационная культура, установленные регламенты.

Искажения характерны не только для начинающих. Эксперименты Тверски и Канемана показали, что профессиональные статистики, врачи и аналитики разведывательных служб устойчиво допускают одни и те же ошибки при оценке вероятностей. Более того, в узких экспертных областях наблюдаются специфические «профессиональные» искажения: иллюзия контроля у трейдеров, предвзятость подтверждения у клиницистов при постановке диагноза, эскалация приверженности у руководителей крупных инженерных проектов.

Формы проявления искажений

С точки зрения формальной теории принятия решений наиболее значимы следующие отклонения от рациональной модели выбора:

1. Непоследовательность предпочтений — ЛПР меняет мнение при незначительном изменении условий задачи, нарушая транзитивность (из A ≻ B и B ≻ C должно следовать A ≻ C) или полноту отношения предпочтения.
2. Противоречивость оценок — ранее признанный лучшим вариант отвергается при повторном предъявлении без объективных оснований; оценки одних и тех же альтернатив по одним и тем же критериям расходятся во времени.
3. Обращение предпочтений (preference reversal) — выбор между альтернативами меняется на противоположный при смене способа оценки: например, при парном сравнении и при назначении цены одним и тем же лотереям.
4. Ограниченность восприятия — ЛПР игнорирует часть релевантной информации (эффект туннельного зрения) либо придаёт чрезмерное значение несущественным признакам.
5. Контекстуальная зависимость выбора (нарушение инвариантности) — один и тот же вариант воспринимается по-разному в зависимости от формулировки задачи (эффект фрейминга), порядка представления альтернатив или состава набора (наличие «приманок», decoy effect).
6. Нарушение независимости от посторонних альтернатив — добавление заведомо худшего варианта меняет ранжирование оставшихся; прямо нарушает аксиому Эрроу и препятствует корректному построению функции полезности.
7. Смещения в оценке вероятностей — переоценка малых и недооценка больших вероятностей, игнорирование базовых частот, иллюзия закономерности в случайных данных.
8. Подверженность влиянию внешних факторов — зависимость выбора от текущего эмоционального состояния, авторитета источника, группового давления.

Связь с классическими парадоксами выбора

Исторически именно формальные парадоксы нормативной теории выбора подготовили почву для программы «эвристики и искажения». Парадокс Алле (1953) продемонстрировал эмпирическое нарушение аксиомы независимости теории ожидаемой полезности: большинство испытуемых в парах лотерей предпочитает определённые исходы при больших выигрышах и склонно к риску при малых, причём эти предпочтения невозможно описать одной функцией полезности. Парадокс Эллсберга (1961) обнаружил систематическое неприятие неоднозначности (ambiguity aversion): ЛПР предпочитает игры с известным распределением вероятностей играм с неизвестным даже при формально одинаковых ожидаемых значениях, что нарушает аксиоматику субъективной ожидаемой полезности Сэвиджа.

Оба парадокса послужили эмпирической опорой для пересмотра классических нормативных моделей. На их основе выросли дескриптивные теории выбора — теория перспектив Канемана и Тверски, модели с весами вероятностей (rank-dependent utility Куиггина, 1982), а также подходы с неточными (неаддитивными) вероятностями и множеством вероятностных мер для задач в условиях неоднозначности. Таким образом, когнитивные искажения в ТПР — не только психологический феномен, но и стимул для развития самой формальной теории выбора.

Классификация конкретных искажений

В литературе описано более 150 конкретных когнитивных искажений. Для задач теории принятия решений их удобно группировать по порождающим эвристикам и механизмам.

Искажения, связанные с эвристикой репрезентативности

Возникают при оценке вероятности события по сходству с «типичным» представителем класса:

• Игнорирование базовых частот (base rate neglect) — пренебрежение априорной вероятностью в пользу индивидуальных признаков. Классический пример — задача о таксисте в городе, где 85 % машин зелёные, но свидетель опознаёт синюю.
• Нечувствительность к размеру выборки — одинаковое доверие результатам, полученным на малой и большой выборках.
• Ошибка конъюнкции (проблема Линды) — приписывание пересечению событий A ∩ B большей вероятности, чем каждому из них по отдельности.
• Иллюзия обоснованности и заблуждение игрока.

Искажения, связанные с эвристикой доступности

Возникают при оценке частоты или вероятности по лёгкости извлечения примеров из памяти:

• Переоценка ярких, эмоционально окрашенных и недавних событий (например, рост страха авиаперелётов после резонансной катастрофы).
• Эффект знакомства и эффект доступности в медиа.
• Каскад доступности — коллективное закрепление убеждения в силу его повторяемости в публичном поле.

Искажения, связанные с якорением и корректировкой

• Эффект привязки — предъявленное первым число (даже случайное и заведомо нерелевантное) сдвигает последующие числовые оценки; эффект воспроизводится в экспериментах с юристами, врачами и оценщиками недвижимости.
• Недостаточная корректировка начальной гипотезы при поступлении новой информации — проявление консерватизма суждений.

Искажения, связанные с оценкой исходов и риска

Объясняются теорией перспектив:

• Неприятие потерь (loss aversion) — потеря воспринимается примерно вдвое сильнее эквивалентного выигрыша.
• Эффект фрейминга — изменение выбора при переформулировке задачи в терминах выигрышей или потерь. Классический пример — задача об «азиатской болезни»: при позитивной формулировке («200 из 600 человек будут спасены») ЛПР выбирают гарантированный вариант, при негативной («400 из 600 погибнут») — рискованный, хотя математически эти формулировки эквивалентны.
• Эффект определённости и эффект изоляции.
• Эффект владения (endowment effect) и склонность к статус-кво.
• Эффект невозвратных затрат (sunk cost fallacy) — продолжение инвестиций в заведомо проигрышный проект ради возврата уже понесённых издержек.
• Эффект IKEA — переоценка собственных решений, в подготовку которых ЛПР вложил усилия; одна из причин эскалации приверженности.

Искажения, связанные с обработкой информации и убеждениями

• Подтверждающее искажение (confirmation bias) — поиск и интерпретация информации в пользу уже сложившегося мнения.
• Ретроспективное искажение (hindsight bias, «я так и знал») — переоценка собственной предсказательной способности после того, как исход стал известен.
• Иллюзия контроля и чрезмерная самоуверенность (overconfidence).
• Фундаментальная ошибка атрибуции — переоценка роли личных качеств и недооценка роли ситуации при объяснении поведения других.
• Эффект ореола и эффект авторитета.
• Слепое пятно предвзятости (bias blind spot) — склонность замечать искажения у других и не замечать у себя.

Социальные и групповые искажения

• Групповое мышление (groupthink) и конформизм.
• Поляризация группы — усиление исходной позиции после коллективного обсуждения.
• Эффект присоединения к большинству (bandwagon effect).
• Иллюзия прозрачности и проклятие знания — переоценка того, насколько собеседник понимает наши мысли или разделяет нашу осведомлённость.

Влияние на формальные процедуры многокритериального выбора

Когнитивные искажения проявляются и при работе с формальными методами многокритериального анализа решений:

• При заполнении матриц парных сравнений в методе анализа иерархий Т. Саати возникают нарушения транзитивности, которые отражаются в индексе согласованности; высокое значение индекса указывает на необходимость пересмотра суждений.
• Веса критериев, назначаемые ЛПР, оказываются неустойчивыми: меняются в зависимости от состава рассматриваемых альтернатив и способа постановки вопроса.
• В задачах многокритериального ранжирования добавление или удаление одной альтернативы может менять порядок остальных — эффект, формально исключаемый аксиоматикой, но устойчиво наблюдаемый у реальных ЛПР.

В ответ на эти эффекты школой О. И. Ларичева разработан класс вербальных (порядковых) методов — ЗАПРОС, ОРКЛАСС, ПАРК и др., — опирающихся только на психологически корректные операции (качественные сравнения и упорядочивания) и не требующих от ЛПР количественных оценок полезностей и вероятностей. Ограничение набора операций тем, что человек способен выполнять без системных ошибок, — одна из центральных идей этой школы.

Подходы к выявлению и устранению искажений

Полностью устранить когнитивные искажения невозможно: они обусловлены архитектурой человеческого мышления. Но их выраженность заметно снижается при использовании процедур и инструментов, получивших в литературе название дебиасинг (debiasing).

Методологические (формальные) подходы

• Структурная декомпозиция задачи — разделение сложной проблемы на иерархию подзадач, укладывающихся в ограничения рабочей памяти (деревья решений, морфологический анализ, иерархии МАИ).
• Процедуры верификации суждений — дублирование вопросов в разной формулировке, перекрёстная проверка, контроль логической непротиворечивости, возврат к ранее принятым суждениям.
• Множественное фреймирование — повторное предъявление задачи в разных формулировках (в терминах выигрышей и потерь, абсолютных и относительных значений) для выявления эффектов фрейминга.
• Референс-класс прогнозирование (reference class forecasting) — метод Б. Фливбьерга и Д. Канемана: оценка сроков и бюджета проекта по статистике аналогичных реализованных проектов, а не по характеристикам текущего случая. Применяется в крупных инфраструктурных программах для борьбы с «ошибкой планирования».

Процедурные и организационные подходы

• «Адвокат дьявола» и Red Teaming — назначение участника (или группы) с обязанностью искать слабые места в предлагаемом решении; эффективное противодействие групповому мышлению и предвзятости подтверждения.
• Метод Дельфи — итеративный опрос экспертов с анонимным обменом аргументами, снижающий влияние авторитета и конформизма.
• Предмортальный анализ (pre-mortem, Г. Кляйн) — до принятия решения группа представляет, что оно уже привело к провалу, и ищет причины этого. Метод смягчает чрезмерную самоуверенность и иллюзию контроля.
• Калибровка экспертных оценок — обучение работе с вероятностями, учёт базовых частот, ведение статистики собственных прогнозов.
• Чек-листы и алгоритмические процедуры — формализованные правила для рутинных решений, снижающие роль интуитивных суждений (А. Гаванде; практика авиационной и медицинской безопасности).

Технологические подходы

• Системы поддержки принятия решений (СППР) хранят и обрабатывают данные, освобождая рабочую память ЛПР, и реализуют формальные процедуры согласованности. При обнаружении противоречий в суждениях СППР возвращает ЛПР запрос на пересмотр.
• Современные системы на базе машинного обучения способны прогнозировать исходы по большим массивам наблюдений, но обладают собственными искажениями — унаследованными из обучающих данных и связанными с выбором целевой функции. Сочетание человеческого и машинного суждения, в котором модель корректирует очевидные искажения ЛПР, а ЛПР контролирует внекнижные факторы, всё чаще рассматривается как практический ориентир.

Архитектура выбора

Подход nudge (Р. Талер, К. Санстейн) предлагает не бороться с искажениями напрямую, а проектировать среду принятия решения так, чтобы известные искажения работали в пользу ЛПР. Классический пример — автоматическое включение работников в пенсионные программы с возможностью отказа: склонность к статус-кво оборачивается ростом сбережений без ограничения свободы выбора.

Критика концепции

Программа «эвристики и искажения» критикуется с позиций альтернативной исследовательской программы быстрых и экономных эвристик (Г. Гигеренцер, группа ABC), рассматривающей те же эвристики как адаптивные инструменты экологической рациональности. По Гигеренцеру, многие «искажения», фиксируемые в лабораторных задачах, исчезают или инвертируются при другой форме представления информации — например, при частотном, а не вероятностном формате («10 из 1000» вместо «1 %»). Отсюда следует, что часть эффектов есть артефакт постановки эксперимента, а не универсальный дефект мышления.

Обсуждается и проблема воспроизводимости классических результатов в новых экспериментах, и значимость внелабораторных условий, в которых ЛПР располагает обратной связью, временем на обучение и привычной постановкой задач. Спор двух программ — не вопрос правоты одной стороны, а продуктивное напряжение, задающее рамки для точного описания границ применимости самого понятия «искажение».

Значение для теории и практики

Понимание природы и механизмов когнитивных искажений позволяет:

• повысить качество индивидуальных и коллективных решений в условиях неопределённости и риска;
• адаптировать формальные методы выбора к реальным возможностям человеческого мышления, исключив из процедур операции, в которых ЛПР систематически ошибается (основная идея вербального анализа решений);
• разрабатывать более гибкие модели предпочтений, ориентированные на субъективное, но рационально структурированное поведение;
• проектировать системы поддержки принятия решений, архитектуру выбора и организационные регламенты, снижающие влияние искажений;
• интерпретировать поведение экономических агентов средствами поведенческой экономики и поведенческих финансов;
• учитывать специфические риски в высокоответственных отраслях — ядерной энергетике, авиации, медицине, финансах, — где систематические искажения руководителей и экспертов могут приводить к катастрофическим последствиям и требуют отдельных компенсирующих процедур.

Работы в этой области отмечены рядом Нобелевских премий по экономике: Г. Саймону (1978) — за исследования процессов принятия решений в экономических организациях, заложившие концепцию ограниченной рациональности; Д. Канеману (2002) — за интеграцию психологических исследований в экономическую науку, в том числе в сфере суждений и решений в условиях неопределённости; Р. Талеру (2017) — за вклад в поведенческую экономику и концепцию архитектуры выбора. Эта преемственность нобелевского признания подтверждает фундаментальное значение концепции для теории принятия решений и смежных дисциплин.

Литература

• Петровский А. Б. Теория принятия решений. — М.: Академия, 2009. — 400 с.
• Ларичев О. И. Теория и методы принятия решений, а также хроника событий в Волшебных странах. — М.: Логос, 2000. — 296 с.
• Ларичев О. И., Мошкович Е. М. Качественные методы принятия решений. Вербальный анализ решений. — М.: Наука. Физматлит, 1996.
• Канеман Д. Думай медленно… решай быстро. — М.: АСТ, 2014.
• Канеман Д., Словик П., Тверски А. (ред.) Принятие решений в неопределённости: Правила и предубеждения. — Харьков: Гуманитарный центр, 2005.
• Талер Р., Санстейн К. Nudge. Архитектура выбора. — М.: Манн, Иванов и Фербер, 2017.
• Kahneman D., Tversky A. Prospect Theory: An Analysis of Decision under Risk // Econometrica. — 1979. — Vol. 47, No. 2. — P. 263–292.
• Tversky A., Kahneman D. Judgment under Uncertainty: Heuristics and Biases // Science. — 1974. — Vol. 185. — P. 1124–1131.
• Tversky A., Kahneman D. The Framing of Decisions and the Psychology of Choice // Science. — 1981. — Vol. 211. — P. 453–458.
• Gilovich T., Griffin D., Kahneman D. (eds.) Heuristics and Biases: The Psychology of Intuitive Judgment. — Cambridge University Press, 2002.
• Gigerenzer G., Todd P. M. Simple Heuristics That Make Us Smart. — Oxford University Press, 1999.