Даниэль Канеман: можно ли доверять собственному мышлению

Даниэль Канеман вошёл в историю психологии не потому, что объяснил, как человек думает правильно, а потому, что показал, насколько систематически человек способен ошибаться, оставаясь при этом уверенным в собственной правоте.

Время чтения: 15–17 минут

До Канемана и Амоса Тверски экономические и многие психологические модели часто исходили из достаточно сильного предположения: человек в целом способен оценить ситуацию, сопоставить варианты и выбрать наиболее рациональное решение. Реальный человек, конечно, может ошибаться, но ошибка понималась скорее как помеха нормальному процессу рассуждения.

Канеман переворачивает эту перспективу.

Ошибка оказывается не исключением из работы мышления.

В определённых условиях она возникает именно потому, что мышление работает обычным способом.

Мы быстро распознаём знакомые формы, достраиваем недостающую информацию, ищем причинность, ориентируемся на доступные примеры, привязываемся к первой названной величине, сильнее переживаем потерю, чем равноценное приобретение. Большая часть этих механизмов полезна. Без них человек не смог бы действовать достаточно быстро.

Но именно полезность этих механизмов делает ошибки устойчивыми.

Отсюда возникает вопрос значительно глубже темы когнитивных искажений:

если разум способен систематически вводить нас в заблуждение, кто тогда проверяет разум?

Для патристики этот вопрос удивительно узнаваем.

До «быстрого и медленного мышления» была проблема внимания

Популярная версия Канемана обычно начинается с книги Thinking, Fast and Slow 2011 года.

Но интеллектуально его путь начинается намного раньше.

Первые исследования Канемана были посвящены зрению, восприятию, усилию и ограниченности внимания. В 1973 году он публикует книгу Attention and Effort, которую позднее сам называл своей наиболее значимой самостоятельной работой в психологии. Office of the Dean of the Faculty

Это важно для понимания всего последующего пути.

Канеман начинает не с утверждения:

Он начинает примерно с другого:

Мы не можем одинаково внимательно обработать всё происходящее.

Не можем постоянно заново рассчитывать каждое решение.

Не можем каждый раз анализировать мир с нуля.

Поэтому сознание должно экономить усилие.

И здесь возникает пространство для следующего открытия.

Встреча с Амосом Тверски

В начале 1970-х годов Канеман начинает работать с Амосом Тверски.

И это сотрудничество становится одним из важнейших в истории современной психологии.

Они исследуют не патологические состояния и не необычных людей, а обычное человеческое суждение.

Как человек оценивает вероятность?

Как прогнозирует будущее?

Как понимает риск?

Как принимает решения в условиях недостатка информации?

В 1974 году появляется знаменитая статья Judgment under Uncertainty: Heuristics and Biases.

Канеман и Тверски описывают несколько способов быстрого суждения — эвристик. Среди ключевых — репрезентативность, доступность и привязка к исходной величине, или anchoring. Daniel Kahneman

Эвристика — не дефект.

Это короткий путь.

Проблема начинается тогда, когда короткий путь используется там, где структура задачи требует другого способа рассуждения.

Человек отвечает не на тот вопрос

Один из самых интересных выводов Канемана можно сформулировать без всякой математики.

Когда человеку задают трудный вопрос, сознание нередко незаметно заменяет его более простым.

Например:

насколько вероятно событие?

может практически превратиться в:

насколько легко я могу вспомнить похожий случай?

Или:

насколько вероятно, что этот человек принадлежит к группе?

становится:

насколько он похож на моё представление о типичном представителе группы?

Человек при этом может совершенно не замечать подмены.

Это один из самых сильных выводов исследований Канемана и Тверски.

Проблема оказывается не просто в недостатке информации.

Иногда человек располагает необходимой информацией, но его собственное мышление само меняет задачу.

Патристическая мысль позднее окажется здесь удивительно близко, хотя использует совершенно другой язык.

Но сначала Канеман делает ещё один шаг.

Рациональный человек начинает исчезать

В классической экономической модели человек должен предпочитать вариант с наибольшей ожидаемой выгодой.

Однако реальные решения оказались устроены иначе.

В 1979 году Канеман и Тверски публикуют prospect theory — теорию перспектив.

Её центральный вывод можно передать просто:

мы оцениваем не столько абсолютный результат, сколько изменение относительно некоторой исходной точки.

Кроме того, потеря психологически обычно ощущается сильнее, чем сопоставимое приобретение.

Получить сто единиц приятно.

Потерять сто — зачастую значительно болезненнее.

Вероятности тоже воспринимаются не линейно: переход от невозможности к небольшой вероятности психологически ощущается совсем иначе, чем столь же небольшое изменение вероятности где-нибудь в середине шкалы. Именно теория перспектив стала центральной причиной присуждения Канеману Нобелевской премии по экономике в 2002 году. Office of the Dean of the Faculty

Но важнее другое.

Канеман и Тверски показали, что объект решения — не просто внешний мир.

Между миром и решением находится представление о мире.

Сам Канеман позднее называл это одним из фундаментальных шагов к понятию framing — фрейминга: решение зависит от того, как ситуация представлена сознанию. Nobel Prize

Мы реагируем не только на происходящее.

Мы реагируем на то, как происходящее оформилось для нас.

Фрейм: одна реальность, разные решения

Представим одну и ту же ситуацию.

В первом варианте человеку говорят:

операция имеет 90% вероятность выживания.

Во втором:

10% пациентов после операции погибают.

Математически информация практически одинакова.

Психологически — нет.

Форма представления меняет решение.

В 1981 году Тверски и Канеман публикуют работу о framing effects, показывающую, насколько выбор зависит от способа формулировки вариантов. Daniel Kahneman

Это уже не просто любопытная особенность психики.

Возникает серьёзная антропологическая проблема:

если решение зависит от формы предъявления реальности, насколько непосредственно человек вообще соприкасается с реальностью?

Между событием и выбором появляется целая система:

внимание,

память,

ассоциации,

ожидания,

исходные точки,

страх потери,

предыдущий опыт,

способ формулировки вопроса.

Свобода начинает выглядеть значительно сложнее простого:

«я решил».

Из исследований рождаются две системы

В Thinking, Fast and Slow Канеман собирает десятилетия исследований в популярную модель двух режимов мышления.

Система 1 работает быстро, автоматически, ассоциативно и практически без ощущения усилия.

Система 2 работает медленнее, требует внимания, способна проверять, рассчитывать и контролировать.

Важно не превратить эту модель в псевдоанатомию.

В голове нет двух маленьких существ, одно из которых интуитивно, а другое рационально.

Это удобная модель различных процессов мышления.

Сам Канеман использовал персонажей Системы 1 и Системы 2 как объяснительный язык, позволяющий говорить о взаимодействии автоматических и контролируемых процессов. Его работы были направлены не на доказательство общей «человеческой иррациональности», а на критику слишком сильной модели рационального агента. Позднее он специально подчёркивал это различие. Nobel Prize

Человек не глуп.

Напротив.

Система быстрого мышления невероятно эффективна.

Опытный врач иногда распознаёт состояние почти мгновенно.

Шахматист видит сильный ход прежде, чем способен подробно объяснить его.

Мы узнаём лица, интонации и угрозы за доли секунды.

Проблема начинается, когда уверенность автоматического ответа принимается за доказательство его истинности.

Канеман обнаруживает странного человека

Человек Канемана оказывается совсем не похож на идеального рационального субъекта Просвещения.

Он не начинает каждое решение с чистого листа.

Он уже приходит в ситуацию с работающей системой ассоциаций.

Ему что-то кажется знакомым.

Что-то напоминает опасность.

Какая-то история быстрее вспоминается.

Какое-то число уже прозвучало.

Какое-то описание выглядит убедительно.

И только после этого сознательная мысль нередко начинает объяснять, почему принятое решение было разумным.

Здесь появляется неприятная возможность:

разум может использоваться не только для поиска истины, но и для оправдания уже возникшего впечатления.

Канеман не превращает это в метафизику человека.

Но последствия огромны.

Можно быть образованным, интеллектуально развитым человеком и систематически ошибаться.

Интеллект сам по себе не гарантирует беспристрастность.

Знание о когнитивных искажениях тоже не гарантирует, что человек перестанет им подчиняться.

Канеман неоднократно говорил о собственной уязвимости перед теми же механизмами, которые изучал.

Это делает его проект гораздо интереснее популярной культуры «научи 20 когнитивных искажений — и станешь рациональным».

Не станешь.

Что Канеман действительно открыл

Главный вклад Канемана не сводится к списку ошибок мышления.

Он изменил сам образ рациональности.

До него легко было представить человека приблизительно так:

есть разум → разум получает информацию → разум принимает решение.

После Канемана эта схема становится подозрительно простой.

Теперь приходится учитывать, что до сознательного решения уже произошла огромная работа:

что-то было замечено,

другое проигнорировано,

одно воспоминание активировалось,

другое нет,

возникла эмоциональная реакция,

сформировалось впечатление,

появилась точка отсчёта.

Только затем человек произносит:

«я думаю, что…»

Это очень серьёзное открытие.

Канеман показал не то, что человек лишён разума.

Он показал:

сознательное рассуждение занимает внутри мышления гораздо менее монопольное положение, чем человеку нравится думать.

Метод: насколько этому можно доверять?

Для нашего цикла здесь особенно важно отделить сильное ядро от более спорных частей.

Работы Канемана и Тверски об эвристиках, framing и принятии решений породили огромную исследовательскую программу и оказали влияние далеко за пределами психологии — на экономику, медицину, право и государственную политику. Именно интеграция психологических исследований с экономической теорией была отмечена Нобелевской премией. behavioralpolicy.princeton.edu

Но Thinking, Fast and Slow вышла в 2011 году непосредственно перед тем, как психология в полной мере столкнулась с кризисом воспроизводимости.

Особенно проблемной оказалась часть исследований социального прайминга, на которые Канеман ссылался в книге. Уже в 2012 году он сам публично предупреждал исследователей этой области о серьёзной угрозе её репутации из-за неудачных репликаций, публикационных смещений и других методологических проблем. Nature

Это необходимо проговаривать прямо.

Не всё, что читатель встречает в Thinking, Fast and Slow, сегодня имеет одинаковый научный статус.

Однако отсюда нельзя делать обратную ошибку и объявлять недействительными эвристики, framing или prospect theory только потому, что отдельная область исследований прайминга пережила кризис.

Перед нами хороший пример того, как должна работать наука:

не защищать классика, а уточнять границы его утверждений.

И Канеман в этом отношении оказался скорее союзником критики, чем её противником.

Предел Канемана

Допустим, мы признаём всё основное.

Человек склонен к эвристикам.

Контекст влияет на решения.

Внимание ограничено.

Автоматические процессы часто опережают сознательный анализ.

Потери и приобретения воспринимаются асимметрично.

Что из этого следует?

Можно сказать:

нужно лучше принимать решения.

Разрабатывать процедуры.

Использовать статистику.

Проверять интуицию.

Создавать механизмы независимой оценки.

Уменьшать шум.

Именно этим Канеман занимался в поздних работах. В книге Noise 2021 года, написанной вместе с Оливье Сибони и Кассом Санстейном, внимание переносится с устойчивых систематических смещений на другую проблему — нежелательный разброс решений между людьми и внутри одного человека. Daniel Kahneman

Но здесь снова возникает предел.

Даже безупречно рациональная процедура отвечает преимущественно на вопрос:

как принять решение более последовательно?

Она не обязательно отвечает:

ради чего принимается решение?

Можно значительно уменьшить когнитивные ошибки и стать эффективнее в достижении плохой цели.

Рациональность не создаёт добро автоматически.

И здесь мы подходим к патристике.

Отцы Церкви тоже не доверяли первой мысли

При поверхностном сравнении когнитивная психология Канемана и патристическая аскетика находятся в совершенно разных мирах.

У Канемана — лабораторные задачи, вероятность, принятие решений.

У древних авторов — помыслы, страсти, трезвение, молитва.

Но исходная интуиция неожиданно близка:

первое появившееся в сознании содержание не обязательно истинно и не обязательно должно становиться действием.

Для аскетической традиции это фундаментальный принцип.

Человек замечает помысл.

Но помысл ещё не равен решению.

Между появлением мысли и согласием с ней существует пространство различения.

Именно поэтому восточная традиция придаёт такое значение трезвению — νῆψις, nepsis.

Это не интеллектуальная подозрительность ко всему.

Это способность не сливаться немедленно с возникшим внутренним содержанием.

В языке Канемана можно было бы очень осторожно сказать:

не всякому быстрому ответу следует предоставлять право окончательного решения.

Но патристика идёт дальше.

Она интересуется не только ошибочностью мысли.

Её интересует направление мысли.

Канеман спрашивает: правильно ли мы рассуждаем?

Патристика спрашивает: что происходит с самим рассуждающим?

Вот здесь проходит принципиальное различие.

Канеман может показать, что человек неправильно оценил вероятность.

Аскетическая антропология задаёт дополнительный вопрос:

почему именно эта мысль получила во мне такую силу?

Потому что она доступнее памяти?

Возможно.

Но, может быть, она совпала со страхом?

С тщеславием?

С обидой?

С желанием оказаться правым?

С уже существующей страстью?

Для Канемана cognitive bias прежде всего относится к механизму суждения.

Для патристики ошибка способна быть связана со всем состоянием человека.

Это не означает, что всякая когнитивная ошибка является нравственной.

Если человек неправильно оценил статистическую вероятность — это ещё не грех.

И именно здесь нельзя смешивать дисциплины.

Но существуют ситуации, где ошибка мышления становится удобной для страсти.

Человек не просто ошибается.

Он хочет, чтобы определённая интерпретация оказалась истинной.

И тогда уже недостаточно дать ему правильную формулу.

Почему собственное мышление так убедительно

Канеман хорошо показывает одну проблему: интуитивный ответ часто приходит вместе с ощущением когнитивной лёгкости.

Если объяснение складывается быстро и непротиворечиво, оно кажется убедительным.

Человек любит связные истории.

Когда информации недостаточно, сознание способно построить цельную картину из того, что имеется.

Отсюда может возникать уверенность, значительно превосходящая качество доказательств.

Патристика знает похожую опасность, но формулирует её иначе.

Убедительность внутреннего переживания ещё не является критерием истины.

Помысл может быть ясным.

Эмоция — сильной.

Картина — цельной.

Решение — очевидным.

И всё это вместе всё ещё может быть ошибочным.

Именно поэтому в духовной традиции появляется практика различения.

Не подавление мысли.

Не отказ мыслить.

А отказ считать субъективную очевидность последней инстанцией.

Здесь Канеман неожиданно становится хорошим современным союзником патристического трезвения.

Но патристика обнаруживает ещё одну систему

Модель Канемана условно различает автоматическое и контролируемое мышление.

Патристическая антропология не совпадает с этим делением.

И это важно.

Нельзя сказать:

Система 1 = страсти, Система 2 = разум.

Это была бы грубая ошибка.

Интуитивное действие может быть правильным.

Сознательное рассуждение — лживым.

Человек способен долго и тщательно строить рационализацию собственной обиды.

И наоборот, опытный человек может почти мгновенно увидеть правильное решение.

Для Отцов проблема проходит не между «быстро» и «медленно».

Она проходит между:

целостным и повреждённым способом действия человека.

Поэтому аскеза стремится не к тому, чтобы Система 2 постоянно подавляла Систему 1.

Она ставит более радикальную задачу:

изменить самого человека настолько, чтобы его непосредственное движение переставало постоянно противоречить благу.

Это уже совсем другой идеал.

Максим Исповедник: выбор — ещё не вершина свободы

На этом месте особенно полезен Максим Исповедник.

Современное сознание легко связывает свободу с возможностью выбора:

я рассмотрел варианты и решил.

Канеман показывает, насколько этот процесс может зависеть от фрейма, исходной точки и автоматических оценок.

Максим подходит к проблеме с другой стороны.

Для него воля принадлежит человеческой природе и направлена к соответствующему ей благу; свобода не определяется тем, насколько человек способен произвольно выбирать между конкурирующими вариантами. Современные исследования его антропологии подчёркивают, что естественная воля является не противником свободы, а её основанием. OUP Academic

А гномическое измерение связано с рассуждением и определением способа действия в условиях неопределённости и человеческой ограниченности. OUP Academic

И здесь возникает очень интересное пересечение.

Канеман показывает:

процесс человеческого выбора ненадёжен.

Максим спрашивает:

а почему мы вообще считаем мучительное выбирание высшей формой свободы?

Это радикальный поворот.

Возможно, совершенная свобода выглядит не как бесконечное сравнение вариантов.

Возможно, она выглядит как состояние, в котором благо перестаёт восприниматься как один вариант среди равноправных альтернатив.

От когнитивного искажения к помыслу

Есть соблазн прямо перевести язык Канемана в язык патристики:

bias = помысл,

heuristic = страсть,

System 1 = падшая природа.

Так делать нельзя.

Эти понятия принадлежат разным уровням описания.

Но можно обнаружить общий исследовательский принцип:

между возникновением содержания сознания и признанием его истинным необходима дистанция.

Канеман создаёт такую дистанцию через:

статистику,

процедуру,

проверку,

внешнюю точку зрения,

замедление решения.

Патристика создаёт её через:

трезвение,

различение,

испытание помысла,

совет,

аскетический опыт,

молитву.

Методы различаются.

Но оба подхода разрушают наивную формулу:

Для современной культуры это, возможно, одно из важнейших мест встречи психологии и патристики.

Что патристика добавляет Канеману

Канеман учит нас сомневаться в качестве собственного суждения.

Патристика заставляет сомневаться ещё и в нейтральности самого судящего субъекта.

Это разные вещи.

Человек может знать о confirmation bias и всё равно искать подтверждение любимому убеждению.

Может понимать framing effect и при этом сознательно формулировать ситуацию так, чтобы оправдать себя.

Может прекрасно знать о loss aversion, но оставаться внутренне связанным с тем, что боится потерять.

То есть знание механизма не обязательно освобождает от механизма.

В этом месте психология почти неизбежно сталкивается с аскетикой.

Потому что вопрос становится уже не:

что я знаю о мышлении?

А:

каким человеком я должен стать, чтобы знание действительно изменило способ моего действия?

Канеман предлагает улучшать процедуру.

Патристика добавляет:

необходимо также изменение самого субъекта.

От рациональности к трезвению

Слово «трезвение» здесь особенно точное.

Трезвый ум — не тот, который всё подвергает бесконечному сомнению.

Он способен видеть, что:

первая реакция может быть не окончательной;

убедительность не равна истине;

интенсивность чувства не равна достоверности;

большинство не гарантирует правильности;

собственный опыт ограничен;

память избирательна;

желание влияет на интерпретацию;

сам разум способен стать адвокатом уже принятого решения.

Канеман даёт современной культуре экспериментальный язык для части этого списка.

Патристика помещает тот же вопрос внутрь более широкой антропологии.

И тогда цель состоит уже не просто в том, чтобы меньше ошибаться.

Цель — научиться видеть собственную мысль, не становясь автоматически её пленником.

Человек, который думает о собственном мышлении

В этом смысле Канеман совершил довольно странную работу.

Он посвятил жизнь исследованию разума и в результате сделал разум менее самоуверенным.

После него трудно всерьёз утверждать:

«я всё обдумал, следовательно, моё решение объективно».

Но было бы ошибкой сделать из этого противоположный вывод:

«разум ненадёжен, поэтому всё относительно».

Канеман никогда к этому не приходит.

Напротив.

Если человеческое мышление имеет систематические ограничения, это означает необходимость более строгой проверки.

Не отказ от истины.

А более скромный путь к ней.

И именно здесь он оказывается неожиданно близок патристическому мышлению.

Для Отцов смирение ума — не отказ мыслить.

Это отказ считать собственную мысль мерой реальности.

Канеман пришёл к похожей границе из лаборатории.

Патристика пришла к ней через многовековое наблюдение внутренней жизни.

Новый вопрос

После Бандуры мы спрашивали:

если человек становится похож на то, чему постоянно уделяет внимание, кого он выбирает своим образцом?

После Канемана вопрос меняется:

если даже искренне размышляющий человек способен систематически ошибаться, что должно произойти между первой мыслью и согласием с ней?

Современная психология отвечает:

проверка.

Патристика отвечает:

различение.

Но остаётся ещё более трудный вопрос:

кто именно внутри человека способен различить собственную ошибку, если тот же самый ум эту ошибку и произвёл?

И вот здесь разговор о когнитивных искажениях начинает превращаться в разговор о природе человеческой свободы.

---

Карта основных работ

1973 — Attention and Effort. Ранний фундамент Канемана: ограниченность внимания и распределение умственного усилия. Daniel Kahneman

1974 — “Judgment under Uncertainty: Heuristics and Biases”, совместно с Амосом Тверски. Основная программа исследований эвристик и систематических ошибок суждения. Daniel Kahneman

1979 — “Prospect Theory: An Analysis of Decision under Risk”, совместно с Тверски. Новая модель принятия решений в условиях риска. Daniel Kahneman

1981 — “The Framing of Decisions and the Psychology of Choice”. Исследование зависимости решения от способа представления одной и той же ситуации. Daniel Kahneman

1999 — Well-Being: The Foundations of Hedonic Psychology, совместное редактирование с Эдом Динером и Норбертом Шварцем. Поворот к исследованиям переживаемого и вспоминаемого благополучия. Daniel Kahneman

2011 — Thinking, Fast and Slow. Синтез нескольких десятилетий исследований внимания, интуиции, эвристик и принятия решений. Daniel Kahneman

2021 — Noise: A Flaw in Human Judgment, совместно с Оливье Сибони и Кассом Санстейном. Исследование нежелательной вариативности человеческих суждений. Daniel Kahneman