Даниэль Канеман: «Человеческий разум склонен
к упрощениям»

Даниэль Канеман — израильско-американский психолог, заслуженный профессор Принстонского университета, один из самых влиятельных современных мыслителей, получивший в 2002 году Нобелевскую премию по экономике за применение психологических методов в экономической науке. Его работы переведены на множество языков, а книга «Думай медленно, решай быстро» вошла в список мировых бестселлеров. Даниэль Канеман — один из постоянных авторов Harvard Business Review. В своем интервью профессор рассказал о том, каким ошибкам подвержены человеческие суждения, почему оценки, данные роботами, получаются более точными и в чем опасность искусственного разума.

«Большие идеи»: В нашем журнале на протяжении 15 лет появляются статьи, вдохновленные вашими идеями. Насколько сильно ваша концепция повлияла на экономическую и управленческую науку и на практики компаний?

Канеман: В экономике они проявились двояко. Во-первых, возникло направление, названное «поведенческой экономикой». И во-вторых, модель «рационального агента», из которой прежде исходили практически все экономисты, уже не полностью доминирует. Но я не думаю, что изыскания специалистов-психологов и экономистов-бихевиористов реально повлияли на то, как в компаниях принимаются стратегические решения. Может, по мелочи нашими наработками кто-то и пользуется, но я очень сомневаюсь, что их учитывают в масштабных решениях. Я вообще небольшой оптимист в вопросе воздействия идей на то, как люди работают.

Позвольте нам быть бóльшими оптимистами, ведь мы публикуем статьи теоретиков менеджмента. Например, в одной из недавних речь шла о том, что кризис лучше переживают компании, где решения принимаются децентрализованно. Это ведь в русле ваших работ?

Боюсь вас разочаровать, но степень централизации компаний выходит за пределы моей области знаний. Я психолог и потому с уверенностью могу говорить только о том, что основано на данных моей науки, конкретно — как принимаются решения, а не где и кем. Моя сфера — когнитивные искажения, осведомленность о «ловушках» мышления и преимущества обдуманных решений. Структура организации и полномочия руководителей — это не мое. Мне кажется, что вы хотите заставить меня говорить о вещах, в которых я попросту не специалист.

Упаси меня бог! Я хотела сказать, что для компании важно, чтобы решения принимали наиболее сведущие люди. Это связано с вашей теорией?

Не очень. Давайте я объясню. В своих исследованиях мы продемонстрировали существование когнитивных искажений. Зная их, человек должен понять, что некоторые решения необходимо методично обдумывать. Основной посыл книги «Думай медленно, решай быстро» таков: остерегайтесь импульсивных решений и не полагайтесь на интуицию. Это важно для бизнеса, потому что многие лидеры верят в свое особое чутье и способность сходу разглядеть ситуацию. Важно, чтобы они начали в этом сомневаться. Но я не уверен, что этот посыл был воспринят руководителями компаний.

Они по-прежнему не используют информацию или используют ее слишком мало? Но ведь они знают о «ловушках»?

Наверное, они учитывают гораздо больше разного рода информации, чем прежде, хотя бы потому, что ее в мире и в бизнесе стало гораздо больше. Но одно дело — объем информации, а другое — когнитивные искажения, которые по-прежнему мешают лидерам ее интерпретировать, давать верные оценки, строить реалистичные планы. Об искажениях многие знают, охотно говорят, но в реальных процессах этим знанием редко кто пользуется. Знать о ловушке и не попадать в нее — разные вещи.

Многие познакомились с нашей теорией, прочитав книгу «Думай медленно, решай быстро». И некоторые названные нами когнитивные ловушки даже стали поведенческими ярлыками и проникли в бытовой язык. Например, когда кто-то боится рискнуть, даже если потенциальный проигрыш сравнительно невелик, часто вспоминают о когнитивном искажении, которое мы назвали loss aversion.

Да, по-русски это называется «избежание потерь», и в нашем лексиконе этот термин тоже прижился. А еще какие термины стали расхожими?

В западном мире широко усвоена концепция якорения — это феномен зацикливания на том, что уже попало в ваш фокус внимания. Мозг ленится искать другие аспекты, повороты и даже слова. Многие знают и о так называемой ловушке доступности: мы оцениваем вероятность некоего события по тому, насколько легко в памяти всплывает нечто аналогичное. Это искажение заставляет нас, например, придавать непропорционально большой вес свежим новостям, которые мы попросту еще не успели забыть. Наиболее доступная информация затмевает все остальное.

Но есть и когнитивные ловушки, в которые люди попадают постоянно, но о них почему-то мало кто осведомлен за пределами круга специалистов. Приведу пример. Допустим, кто-то описывает знакомого: «Парень довольно робкий, некоммуникабельный, но всегда готов помочь, скромный, любит порядок и вечно зацикливается на мелочах», а потом спрашивает: «Угадай, кто он по профессии: фермер или библиотекарь?». И большинство людей отвечает: «библиотекарь» — хотя ни для кого не секрет, что мужчин-библиотекарей в США намного меньше, чем фермеров. Люди попадают в ловушку, пренебрегая базовой и хорошо известной им статистикой. Мы, психологи и бихевиористы, всячески продвигали понимание этого искажения, объясняя и показывая, насколько оно вездесуще. Хотелось бы, чтобы люди усвоили этот концепт повсеместно, потому что именно ловушки такого рода мешают нам правильно оценивать вероятности.

Замечали ли вы когнитивные искажения у самого себя?

Да, и некоторые мы открыли как раз на собственном примере. Вот поучительный случай, который мне неловко вспоминать, хотя благодаря ему я случайно наткнулся на важную ловушку прогнозирования. Позднее мы с Амосом Тверски назвали ее взгляд извне/взгляд изнутри. История описана в моей книге — и вот вкратце, как это происходило.

Группе когнитивных психологов, в которую входил и я, Министерство образования Израиля поручило создать школьный учебник, воспитывающий навыки правильного мышления. Мы проработали примерно год, а потом заказчик спросил, сколько еще времени нам на это потребуется. Каждый из нас, исходя из собственных обстоятельств, оценил, сколько глав и в какие сроки он сможет представить (мы уже написали каждый по главе и знали, сколько времени на это уходит). Исходя из этой информации, каждый произвел общий расчет, мы вывели среднее, добавили еще несколько месяцев на непредвиденные обстоятельства и назвали срок — два с небольшим года.

Потом мне пришло в голову спросить эксперта по учебным планам из Минобра, как долго обычно пишутся учебники, и в ответ прозвучало: 7—10 лет, и примерно в 40% случаев работа осталась незавершенной. Мы спросили, насколько опытными были команды, которые завершили проекты, и эксперт ответил: «Гораздо опытнее, чем вы».

Только тогда мы поняли, что экстраполировать опыт написания первых глав было неправильно. Мы не приняли во внимание, что эти главы были самыми простыми, и наш энтузиазм находился на пике. Мы забыли про «неизвестные неизвестные» обстоятельства, которые могут не просто ­замедлить процесс, но и стать причиной долгих перерывов: такие как развод, разлад в команде, бюрократические неувязки. Неизвестных очень много, и сколь бы невероятным ни казалось каждое в отдельности, вероятность того, что случится хотя бы одно и все поломается, очень высока. В итоге создание учебника заняло 8 лет, и его дописывали уже без меня, потому что я к тому времени переехал в США. К моменту завершения работы Министерство образования потеряло интерес к этой затее, и учебник так никогда и не использовали в школах.

На любой проект надо смотреть извне, то есть не на основе собственного опыта, а статистически. Пожалуй, это одна из самых важных идей, описанных в книге «Думай медленно, решай быстро», но я никогда не слышал, чтобы кто-либо из руководителей упоминал ее в своих рассуждениях.

Лидеры, добившиеся особых успехов, обязаны этим собственному умению приходить к правильным решениям? Или у них были гениальные советчики и особые процедуры для предотвращения серьезных ошибок?

Вы забыли важнейший из факторов успеха — везение. Оно играет огромную роль и в том, чтобы занять лидерское место, и в том, насколько впоследствии люди будут тебе доверять и подчиняться твоей воле. Во множестве областей есть серьезная асимметрия между успехом и неудачей. Провалиться легко: у каждого из нас тысяча возможностей в чем-то ошибиться. Более того, неудачи в целом понятнее и заметнее для окружающих. Причины и траекторию провалов довольно просто анализировать, тогда как исследовать успех гораздо сложнее, потому что он состоит из двух компонентов: удачи и избежания катастрофических ошибок. Поэтому, в частности, очень сложно как-то охарактеризовать успешных лидеров, а попытки описать их общие черты не выглядят особо убедительными.

Вы упомянули доверие как фактор успеха лидера. Доверяют ли люди «интуитивным» руководителям больше, чем рассуждающим?

Мне кажется, людям ближе импульсивный лидер. Обычно он излучает уверенность и не сомневается, что ведет людей в верном направлении. Ему больше доверяют и охотнее подчиняются. А обдумывающий лидер своими рассуждениями как бы посылает сигнал о собственных сомнениях, что мешает в него поверить. И это при том, что импульсивные лидеры делают больше ошибок, чем обдумывающие. Умение взвешивать и рассуждать повышает качество решений, но снижает уровень «опоры в массах». Пример, который, надеюсь, будет понятен российской аудитории: президенты США Джордж Буш — младший и Барак Обама. Второй явно был более обдумывающим, и это стоило ему определенной доли популярности, так как со стороны казалось, что и значит, не вполне уверен в себе. Джордж Буш объективно не был хорошим президентом, он не очень-то справлялся с этой работой, но его лидерский стиль давал ему определенное преимущество.

Людям нравятся объяснения попроще?

Да, и этим часто пользуются манипуляторы. В нашем сложном мире человеческий разум склонен к упрощениям. И если вы преподносите простую, понятную и складную историю о том, что происходит, произошло или произойдет в будущем, вам поверят скорее, поскольку именно это пользуется спросом. Умение рассказывать истории — большое преимущество для лидера.

В своей книге вы проводите различие между Системой 1 (быстрым, интуитивным решением) и Системой 2 (методичным обдумыванием). Можно ли определить, в какой мере разные люди задействуют каждую из систем, и развить способность к обдумыванию? Или же она всецело определяется генами?

Очевидно, что эта способность различна у разных людей. Одни склонны пользоваться рациональными инструментами, другие верят в свою интуицию и чутье. В некоторой степени человека можно научить приемам обдумывания, и образование играет в этом определенную роль. Но в целом на индивидуальном уровне мы вряд ли достигнем многого: человеку трудно изменить самого себя. Гораздо с большей надеждой я смотрю на процессы принятия решений в организациях. Здесь точно есть потенциал, потому что компании свойственно устанавливать процедуры и следовать им — в этом их большое преимущество перед людьми. Остается только правильно спроектировать процедуры, которые способствуют большей рациональности и тем самым улучшают качество решений.

Не могли бы вы привести пример?

Мне страшно нравится процедура pre mortem (латинское «до факта смерти» — прим. HBR), которую предложил мой друг Гэри Кляйн. Она довольна проста. Допустим, группа руководителей встретилась на пороге принятия некоего важного решения: оно уже подготовлено, всем известно, каким оно будет. На этой стадии обычно говорят о положительных последствиях, к которым оно приведет, а потом записывают в протоколе «Принято». Так вот, pre mortem — это особое совещание, на котором людям задают всего один вопрос: «Давайте представим себе, что прошло два года — мы приняли это решение, и у нас все пошло не так. Постарайтесь представить, почему так случилось, и напишите, когда и что вызвало провал». Каждый участник записывает свою версию гипотетической катастрофы.

Мне кажется, это великолепная идея, и я вправе использовать такой эпитет, потому что она не моя. Объясню, в чем ее гениальность. Когда группа собирается, чтобы принять решение по какому-то вопросу, ее членам бывает трудно выразить сомнение, указать на проблему, оказаться пессимистом на фоне общего энтузиазма. Процедура pre mortem легитимизирует сомнения, которые были подавлены.

Думаю, Гэри Кляйн согласится со мной в том, что сессия pre mortem сама по себе не заставит людей отказаться от того решения, к которому организация склоняется. Зато она поможет разглядеть разные преграды, с которыми, возможно, придется столкнуться. Представив себе их заранее, организация может продумать план, как с ними справиться, избежать или обойти их. Речь идет не о другом решении, а об улучшении того, которое обсуждают. И в таком качестве pre mortem чрезвычайно полезна.

Вы исследовали и другую причину ошибок. Статью о статистическом «шуме» журнал HBR опубликовал в 2016 году.

Да-да. И сейчас мы с соавторами пишем книгу на эту тему.Проще всего объяснить понятие шума на том примере, который я использовал в статье для HBR. В страховой компании работают андеррайтеры, рассчитывающие размеры страховой премии. Один и тот же риск представляют пятидесяти андеррайтерам и измеряют разброс их оценок. Мы поступали так: случайно выбирали двух андеррайтеров, смотрели их оценки, брали их разность и делили ее на среднее арифметическое. Отношение этих двух величин показывает уровень шума в оценках данной пары. Затем те же действия провели с оценками каждой пары андеррайтеров и вычислили средний размер отклонения. В ходе эксперимента руководители этой страховой компании предположили, что оно составит примерно 10%. На деле же оказалось, что разброс оценок в пять раз больше. Эту вариабельность в статистике называют шумом. В идеале все андеррайтеры компании должны давать одинаковую величину премии, но на практике все оказалось не так. И подобный шум мы видим повсюду: в решениях судей, в постановке диагнозов, в оценке персонала и в отметках, которые выставляют студентам.

Главные выводы этого исследования таковы: во-первых, оценки, данные людьми, несут в себе огромную долю шума, а во-вторых, истинный его размер неведом тем, кто отвечает за качество решений. Масштаб шума всегда недооценивают.

В этой статье вы пишете о преимуществах алгоритмов перед человеком…

Алгоритмы хороши тем, что они свободны от шума. Если вы поставите одну и ту же задачу перед алгоритмом повторно, он выдаст тот же ответ, а если ее дать разным людям или даже одному человеку по прошествии некоторого времени, ответ, скорее всего, будет совсем иным. И даже если модель, положенная в основу алгоритма, не вполне точная, все равно в среднем его ответы будут правильнее человеческих. Сейчас алгоритмам поручают все больше задач, и одна из причин — отсутствие ошибок, свойственных людям.

Алгоритмам или искусственному интеллекту?

Искусственный интеллект — это тоже алгоритм. Разница в том, что прежние алгоритмы собирали в единую программу свод правил, которыми в своих оценках или действиях руководствуются специалисты. А системы искусственного интеллекта отчасти сами изобретают эти правила, основываясь на своем опыте работы с огромными массивами данных. Как и традиционные алгоритмы, системы ИИ свободны от шума.

Множество книг и фильмов-антиутопий рисуют нам будущее, в котором алгоритмы приобретают большую власть над людьми. И это будущее нас страшит.

Оно страшит не только читателей романов и зрителей сериалов, но и экспертов. Я только что прочел книгу Стюарта Рассела — одного из первопроходцев и теоретиков искусственного разума. И он весьма обеспокоен тем, что в ближайшие десятилетия робот станет умнее человека. Как человечество приспособится к этой ситуации и как люди будут контролировать искусственный разум? Очень серьезные мыслители весьма озадачены этой перспективой. Но роботизированное будущее не обязательно будет враждебным человеку. Потому что существуют решения, которые помогут гуманизировать роботов — правда, они весьма сложны, и заниматься ими надо уже сейчас.