Даниэль Канеман: «Человеческий разум склонен к упрощениям»

Даниэль Канеман: «Человеческий разум склонен к упрощениям»
Дэниел Канеман, лауреат Нобелевской премии, скончался 27 марта 2024 года в возрасте 90 лет. Израильско-американский психолог, заслуженный профессор Принстонского университета, он был одним из самых влиятельных современных мыслителей. В 2002 году Канеман получил Нобелевскую премию по экономике за применение психологических методов в экономической науке. Его работы переведены на множество языков, а книга «Думай медленно, решай быстро» вошла в список мировых бестселлеров. Даниэль Канеман был постоянным автором Harvard Business Review. В одном из своих последних интервью профессор рассказал о том, каким ошибкам подвержены человеческие суждения, почему оценки, данные роботами, получаются более точными и в чем опасность искусственного разума.

-  В нашем журнале на протяжении 15 лет появляются статьи, вдохновленные вашими идеями. Насколько сильно ваша концепция повлияла на экономическую и управленческую науку и на практики компаний?

- В экономике они проявились двояко. Во-первых, возникло направление, названное «поведенческой экономикой». И во-вторых, модель «рационального агента», из которой прежде исходили практически все экономисты, уже не полностью доминирует. Но я не думаю, что изыскания специалистов-психологов и экономистов-бихевиористов реально повлияли на то, как в компаниях принимаются стратегические решения. Может, по мелочи нашими наработками кто-то и пользуется, но я очень сомневаюсь, что их учитывают в масштабных решениях. Я вообще небольшой оптимист в вопросе воздействия идей на то, как люди работают.

- Позвольте нам быть бóльшими оптимистами, ведь мы публикуем статьи теоретиков менеджмента. Например, в одной из недавних речь шла о том, что кризис лучше переживают компании, где решения принимаются децентрализованно. Это ведь в русле ваших работ?

- Боюсь вас разочаровать, но степень централизации компаний выходит за пределы моей области знаний. Я психолог и потому с уверенностью могу говорить только о том, что основано на данных моей науки, конкретно — как принимаются решения, а не где и кем. Моя сфера — когнитивные искажения, осведомленность о «ловушках» мышления и преимущества обдуманных решений. Структура организации и полномочия руководителей — это не мое. Мне кажется, что вы хотите заставить меня говорить о вещах, в которых я попросту не специалист.

- Упаси меня бог! Я хотела сказать, что для компании важно, чтобы решения принимали наиболее сведущие люди. Это связано с вашей теорией?

- Не очень. Давайте я объясню. В своих исследованиях мы продемонстрировали существование когнитивных искажений. Зная их, человек должен понять, что некоторые решения необходимо методично обдумывать. Основной посыл книги «Думай медленно, решай быстро» таков: остерегайтесь импульсивных решений и не полагайтесь на интуицию. Это важно для бизнеса, потому что многие лидеры верят в свое особое чутье и способность сходу разглядеть ситуацию. Важно, чтобы они начали в этом сомневаться. Но я не уверен, что этот посыл был воспринят руководителями компаний.

- Они по-прежнему не используют информацию или используют ее слишком мало? Но ведь они знают о «ловушках»?

- Наверное, они учитывают гораздо больше разного рода информации, чем прежде, хотя бы потому, что ее в мире и в бизнесе стало гораздо больше. Но одно дело — объем информации, а другое — когнитивные искажения, которые по-прежнему мешают лидерам ее интерпретировать, давать верные оценки, строить реалистичные планы. Об искажениях многие знают, охотно говорят, но в реальных процессах этим знанием редко кто пользуется. Знать о ловушке и не попадать в нее — разные вещи. Многие познакомились с нашей теорией, прочитав книгу «Думай медленно, решай быстро». И некоторые названные нами когнитивные ловушки даже стали поведенческими ярлыками и проникли в бытовой язык. Например, когда кто-то боится рискнуть, даже если потенциальный проигрыш сравнительно невелик, часто вспоминают о когнитивном искажении, которое мы назвали loss aversion.

- Да, по-русски это называется «избегание потерь», и в нашем лексиконе этот термин тоже прижился. А еще какие термины стали расхожими?

- В западном мире широко усвоена концепция якорения — это феномен зацикливания на том, что уже попало в ваш фокус внимания. Мозг ленится искать другие аспекты, повороты и даже слова. Многие знают и о так называемой ловушке доступности: мы оцениваем вероятность некоего события по тому, насколько легко в памяти всплывает нечто аналогичное. Это искажение заставляет нас, например, придавать непропорционально большой вес свежим новостям, которые мы попросту еще не успели забыть. Наиболее доступная информация затмевает все остальное. Но есть и когнитивные ловушки, в которые люди попадают постоянно, но о них почему-то мало кто осведомлен за пределами круга специалистов. Приведу пример. Допустим, кто-то описывает знакомого: «Парень довольно робкий, некоммуникабельный, но всегда готов помочь, скромный, любит порядок и вечно зацикливается на мелочах», а потом спрашивает: «Угадай, кто он по профессии: фермер или библиотекарь?». И большинство людей отвечает: «библиотекарь» — хотя ни для кого не секрет, что мужчин-библиотекарей в США намного меньше, чем фермеров. Люди попадают в ловушку, пренебрегая базовой и хорошо известной им статистикой. Мы, психологи и бихевиористы, всячески продвигали понимание этого искажения, объясняя и показывая, насколько оно вездесуще. Хотелось бы, чтобы люди усвоили этот концепт повсеместно, потому что именно ловушки такого рода мешают нам правильно оценивать вероятности.

- Замечали ли вы когнитивные искажения у самого себя?

- Да, и некоторые мы открыли как раз на собственном примере. Вот поучительный случай, который мне неловко вспоминать, хотя благодаря ему я случайно наткнулся на важную ловушку прогнозирования. Позднее мы с Амосом Тверски назвали ее взгляд извне / взгляд изнутри. История описана в моей книге — и вот вкратце, как это происходило. Группе когнитивных психологов, в которую входил и я, Министерство образования Израиля поручило создать школьный учебник, воспитывающий навыки правильного мышления. Мы проработали примерно год, а потом заказчик спросил, сколько еще времени нам на это потребуется. Каждый из нас, исходя из собственных обстоятельств, оценил, сколько глав и в какие сроки он сможет представить (мы уже написали каждый по главе и знали, сколько времени на это уходит). Исходя из этой информации, каждый произвел общий расчет, мы вывели среднее, добавили еще несколько месяцев на непредвиденные обстоятельства и назвали срок — два с небольшим года. Потом мне пришло в голову спросить эксперта по учебным планам из Минобра, как долго обычно пишутся учебники, и в ответ прозвучало: 7-10 лет, и примерно в 40 % случаев работа осталась незавершенной. Мы спросили, насколько опытными были команды, которые завершили проекты, и эксперт ответил: «Гораздо опытнее, чем вы». Только тогда мы поняли, что экстраполировать опыт написания первых глав было неправильно. Мы не приняли во внимание, что эти главы были самыми простыми, и наш энтузиазм находился на пике. Мы забыли про «неизвестные неизвестные» обстоятельства, которые могут не просто ­замедлить процесс, но и стать причиной долгих перерывов: такие как развод, разлад в команде, бюрократические неувязки. Неизвестных очень много, и сколь бы невероятным ни казалось каждое в отдельности, вероятность того, что случится хотя бы одно и все поломается, очень высока. В итоге создание учебника заняло 8 лет, и его дописывали уже без меня, потому что я к тому времени переехал в США. К моменту завершения работы Министерство образования потеряло интерес к этой затее, и учебник так никогда и не использовали в школах. На любой проект надо смотреть извне, то есть не на основе собственного опыта, а статистически. Пожалуй, это одна из самых важных идей, описанных в книге «Думай медленно, решай быстро», но я никогда не слышал, чтобы кто-либо из руководителей упоминал ее в своих рассуждениях.

- Лидеры, добившиеся особых успехов, обязаны этим собственному умению приходить к правильным решениям? Или у них были гениальные советчики и особые процедуры для предотвращения серьезных ошибок?

- Вы забыли важнейший из факторов успеха — везение. Оно играет огромную роль и в том, чтобы занять лидерское место, и в том, насколько впоследствии люди будут тебе доверять и подчиняться твоей воле. Во множестве областей есть серьезная асимметрия между успехом и неудачей. Провалиться легко: у каждого из нас тысяча возможностей в чем-то ошибиться. Более того, неудачи в целом понятнее и заметнее для окружающих. Причины и траекторию провалов довольно просто анализировать, тогда как исследовать успех гораздо сложнее, потому что он состоит из двух компонентов: удачи и избежания катастрофических ошибок. Поэтому, в частности, очень сложно как-то охарактеризовать успешных лидеров, а попытки описать их общие черты не выглядят особо убедительными.

- Вы упомянули доверие как фактор успеха лидера. Доверяют ли люди «интуитивным» руководителям больше, чем рассуждающим?

- Мне кажется, людям ближе импульсивный лидер. Обычно он излучает уверенность и не сомневается, что ведет людей в верном направлении. Ему больше доверяют и охотнее подчиняются. А обдумывающий лидер своими рассуждениями как бы посылает сигнал о собственных сомнениях, что мешает в него поверить. И это при том, что импульсивные лидеры делают больше ошибок, чем обдумывающие. Умение взвешивать и рассуждать повышает качество решений, но снижает уровень «опоры в массах». Пример, который, надеюсь, будет понятен российской аудитории: президенты США Джордж Буш - младший и Барак Обама. Второй явно был более обдумывающим, и это стоило ему определенной доли популярности, так как со стороны казалось, что и значит, не вполне уверен в себе. Джордж Буш объективно не был хорошим президентом, он не очень-то справлялся с этой работой, но его лидерский стиль давал ему определенное преимущество.

- Людям нравятся объяснения попроще?

- Да, и этим часто пользуются манипуляторы. В нашем сложном мире человеческий разум склонен к упрощениям. И если вы преподносите простую, понятную и складную историю о том, что происходит, произошло или произойдет в будущем, вам поверят скорее, поскольку именно это пользуется спросом. Умение рассказывать истории — большое преимущество для лидера. 

- В своей книге вы проводите различие между Системой 1 (быстрым, интуитивным решением) и Системой 2 (методичным обдумыванием). Можно ли определить, в какой мере разные люди задействуют каждую из систем, и развить способность к обдумыванию? Или же она всецело определяется генами?

- Очевидно, что эта способность различна у разных людей. Одни склонны пользоваться рациональными инструментами, другие верят в свою интуицию и чутье. В некоторой степени человека можно научить приемам обдумывания, и образование играет в этом определенную роль. Но в целом на индивидуальном уровне мы вряд ли достигнем многого: человеку трудно изменить самого себя. Гораздо с большей надеждой я смотрю на процессы принятия решений в организациях. Здесь точно есть потенциал, потому что компании свойственно устанавливать процедуры и следовать им — в этом их большое преимущество перед людьми. Остается только правильно спроектировать процедуры, которые способствуют большей рациональности и тем самым улучшают качество решений.

- Не могли бы вы привести пример?

- Мне страшно нравится процедура pre mortem (латинское «до факта смерти» — прим. HBR), которую предложил мой друг Гэри Кляйн. Она довольно проста. Допустим, группа руководителей встретилась на пороге принятия некоего важного решения: оно уже подготовлено, всем известно, каким оно будет. На этой стадии обычно говорят о положительных последствиях, к которым оно приведет, а потом записывают в протоколе «Принято». Так вот, pre mortem — это особое совещание, на котором людям задают всего один вопрос: «Давайте представим себе, что прошло два года — мы приняли это решение, и у нас все пошло не так. Постарайтесь представить, почему так случилось, и напишите, когда и что вызвало провал». Каждый участник записывает свою версию гипотетической катастрофы. Мне кажется, это великолепная идея, и я вправе использовать такой эпитет, потому что она не моя. Объясню, в чем ее гениальность. Когда группа собирается, чтобы принять решение по какому-то вопросу, ее членам бывает трудно выразить сомнение, указать на проблему, оказаться пессимистом на фоне общего энтузиазма. Процедура pre mortem легитимизирует сомнения, которые были подавлены. Думаю, Гэри Кляйн согласится со мной в том, что сессия pre mortem сама по себе не заставит людей отказаться от того решения, к которому организация склоняется. Зато она поможет разглядеть разные преграды, с которыми, возможно, придется столкнуться. Представив себе их заранее, организация может продумать план, как с ними справиться, избежать или обойти их. Речь идет не о другом решении, а об улучшении того, которое обсуждают. И в таком качестве pre mortem чрезвычайно полезна.

- Вы исследовали и другую причину ошибок. Статью о статистическом «шуме» журнал HBR опубликовал в 2016 году. Да-да. И сейчас мы с соавторами пишем книгу на эту тему. Проще всего объяснить понятие шума на том примере, который я использовал в статье для HBR.

- В страховой компании работают андеррайтеры, рассчитывающие размеры страховой премии. Один и тот же риск представляют пятидесяти андеррайтерам и измеряют разброс их оценок. Мы поступали так: случайно выбирали двух андеррайтеров, смотрели их оценки, брали их разность и делили ее на среднее арифметическое. Отношение этих двух величин показывает уровень шума в оценках данной пары. Затем те же действия провели с оценками каждой пары андеррайтеров и вычислили средний размер отклонения. В ходе эксперимента руководители этой страховой компании предположили, что оно составит примерно 10 %. На деле же оказалось, что разброс оценок в пять раз больше. Эту вариабельность в статистике называют шумом. В идеале все андеррайтеры компании должны давать одинаковую величину премии, но на практике все оказалось не так. И подобный шум мы видим повсюду: в решениях судей, в постановке диагнозов, в оценке персонала и в отметках, которые выставляют студентам. Главные выводы этого исследования таковы: во-первых, оценки, данные людьми, несут в себе огромную долю шума, а во-вторых, истинный его размер неведом тем, кто отвечает за качество решений. Масштаб шума всегда недооценивают.

- В этой статье вы пишете о преимуществах алгоритмов перед человеком…

- Алгоритмы хороши тем, что они свободны от шума. Если вы поставите одну и ту же задачу перед алгоритмом повторно, он выдаст тот же ответ, а если ее дать разным людям или даже одному человеку по прошествии некоторого времени, ответ, скорее всего, будет совсем иным. И даже если модель, положенная в основу алгоритма, не вполне точная, все равно в среднем его ответы будут правильнее человеческих. Сейчас алгоритмам поручают все больше задач, и одна из причин — отсутствие ошибок, свойственных людям.

- Алгоритмам или искусственному интеллекту?

- Искусственный интеллект — это тоже алгоритм. Разница в том, что прежние алгоритмы собирали в единую программу свод правил, которыми в своих оценках или действиях руководствуются специалисты. А системы искусственного интеллекта отчасти сами изобретают эти правила, основываясь на своем опыте работы с огромными массивами данных. Как и традиционные алгоритмы, системы ИИ свободны от шума. Множество книг и фильмов-антиутопий рисуют нам будущее, в котором алгоритмы приобретают большую власть над людьми. И это будущее нас страшит. Оно страшит не только читателей романов и зрителей сериалов, но и экспертов. Я только что прочел книгу Стюарта Рассела — одного из первопроходцев и теоретиков искусственного разума. И он весьма обеспокоен тем, что в ближайшие десятилетия робот станет умнее человека.

- Как человечество приспособится к этой ситуации и как люди будут контролировать искусственный разум?

- Очень серьезные мыслители весьма озадачены этой перспективой. Но роботизированное будущее не обязательно будет враждебным человеку. Потому что существуют решения, которые помогут гуманизировать роботов — правда, они весьма сложны, и заниматься ими надо уже сейчас.

 Евгения Чернозатонская, журнал «Большие идеи»

В иллюстрации использовано изображение автора Takao Umehara (CCBY3.0),  Kukuh Wachyu Bias (CCBY3.0) и Vectplus (CCBY3.0) с сайта https://thenounproject.com/, фото с сайта https://unsplash.com/ и фото автора nrkbeta  (CC BY-SA 2.0) с сайтаhttps://commons.wikimedia.org/w/index.php?curid=104292544  и изображение от pressfoto на Freepik https://ru.freepik.com/
 
28.03.2024
Важное

22 апреля 1724 года родился Иммануил Кант — один из крупнейших мыслителей в истории мировой философии.

22.04.2024 19:00:00

Таитяне обеспокоены проведением соревнований по серфингу у деревни Теахупоо на юго-западном побережье острова.

22.04.2024 17:00:00

Раскрыты детали мегапроекта, требующего 5 гигаватт энергии.

22.04.2024 14:00:00
Другие Фото

На фото: Императрица Китая Вань Жун курит в компании своего супруга, императора Китая Айсиньгёро Пу И.
Китай, 1930 год.
Фотограф: неизвестен
Источник: getarchive.net

На фото: Мать с ребенком.
Япония, Токио, конец 19 века.
Фотограф: Матуши Накаджима
Источник: flickr.com

На фото: Народный комиссар обороны СССР К. Е. Ворошилов на Красной площади.
СССР, Москва, 1928 год.
Фотограф: Дмитрий Дебабов
Источник: Wikimedia Commons

На фото: Золотая пластинка с пояснениями для внеземной цивилизации.
США, 1977 год.
Фотограф: Не указан
Источник: Wikimedia Commons