Почему мы доверяем людям, а
не программам

Казалось бы, годами пользуясь картами Google, мы научились доверять им. И все-таки порой говорим себе: «Попробую-ка я срезать, авось, так быстрее».

Исследователи называют это «отвращением к алгоритмам»: даже если алгоритм каждый раз предвосхищает наши догадки, человек предпочитает полагаться на интуицию. И это нам дорого обходится: мы торчим в пробках, упускаем выгодных клиентов, рискуем ошибиться в клиническом диагнозе.

Алгоритм лучше оценивает самый широкий контекст: казалось бы, стоит людям понять это преимущество алгоритма, и они полностью будут полагаться на него. Но нет, всмотревшись в работу алгоритмов, человек становится еще более недоверчивым, потому что на его глазах алгоритмы порой ошибаются.

В прошлогодней статье Беркли Дитворст, Джозеф Симмонс и Кейд Мэйси из Уортонской бизнес-школы пишут о том, как люди отворачиваются от алгоритмов, обнаружив в них малейший сбой. К алгоритмам они гораздо требовательнее, чем к людям. Человеку, мол, свойственно ошибаться, но стоит алгоритму один раз проколоться, и мы уже никогда ему поверим.

Участников одного эксперимента попросили посмотреть оценки поступавших на программу MBA и сделать предположение, как эти студенты справились с программой. За верную догадку обещали небольшую сумму денег и предоставили выбор – давать собственный ответ или генерируемые программой предсказания. Затем одной группе участников сообщили, насколько верными оказались их догадки, второй — насколько точен был алгоритм, третьей группе позволили сравнить эти результаты, а четвертой группе не показали ничего.

Читайте материал по теме: Извлекайте уроки из несбывшихся прогнозов

Участники, видевшие алгоритм в действии, во втором раунде реже им пользовались, даже если они видели также собственные результаты и понимали, что алгоритм точнее. И в будущем они не собирались полагаться на алгоритм. Эти результаты повторялись в схожих экспериментах в других контекстах, даже когда исследователи подкручивали алгоритм так, чтобы он давал максимально точные ответы.

Дело не в самоуверенности: если предоставить индивидууму выбор между алгоритмом и мнением другого человека, люди тем более предпочтут отказаться от компьютера, если они видели его в действии, то есть понимают, что порой он дает сбои.

На просьбу объяснить свое решение, участники чаще всего отвечали: «В отличие от компьютерной модели, человеческий прогноз каждый раз совершенствуется благодаря практике — мы учимся на ошибках». И плевать, что алгоритмы тоже совершенствуются, а также, что времени учиться на ошибках в этом эксперименте не отводилось: похоже, мы верим в собственную способность совершенствоваться, а потому и в способность предсказателя улучшить свой прогноз.

Читайте материал по теме: 9 причин, из-за которых принимаются плохие решения

Демонстрация результатов не способствует доверию к алгоритмам, а вот если человек может поучаствовать в работе алгоритма — совсем другое дело. В следующей статье те же исследователи пишут о том, что если участнику позволяют чуть-чуть подправлять работу алгоритмов, он гораздо охотнее ими пользуется. Например, программа-робот предсказывает попадание данного студента в лучшие 10% курса, но участник эксперимента может на несколько пунктов повысить или понизить эту оценку. В таком случае он охотно воспользуется алгоритмом и не утратит к нему доверия после сбоев.

Разумеется, во многих случаях вмешательство человека лишь снижается точность прогноза. Мы гордимся своей способностью к обучению, но никак не хотим признавать тот очевидный факт, что алгоритм работает лучше и надо бы просто следовать его советам.

Читайте по теме:

• Хочу, чтобы люди предлагали новые идеи
• Анализируй это!
• Коллективная мудрость сотрудников