Как управлять действиями
клиентов этично

Люди не всегда ведут себя рационально. Среда, физическая или цифровая, влияет на наш выбор и поведение. Если в очереди в супермаркете во время пандемии вы держались линий разметки социальной дистанции или вам доводилось жертвовать на благотворительность больше, чем вы собирались, потому что на сайте организации были предложены определенные суммы взносов, то в этих случаях вы, вероятно, испытали на себе эффект «подталкивания». Это понятие пришло из поведенческой экономики, оно подразумевает изменение формулировки или представления вариантов выбора, с тем чтобы побудить пользователя к определенным действиям. «Подталкивания» позволяют очень эффективно управлять поведением потребителей, но могут иметь тревожные последствия. Вспомните, как кнопка «like» в Facebook* способствует возникновению цифровой зависимости, а алгоритм рекомендаций YouTube влияет на рост экстремизма и ненависти. Как становится ясно из этих примеров, бизнес-лидерам необходимо критично относиться к подобным «подталкиваниям» и понимать, действительно ли они работают в интересах пользователей.

Ричард Талер и Касс Санстейн, выдвинувшие теорию подталкивания, предлагают несколько руководящих принципов, которые важно учитывать, чтобы «подталкивать на благо». Важно делать это прозрачно, никогда не вводить пользователя в заблуждение и обязательно оставлять ему удобную возможность отказаться от предлагаемого ему выбора. Применяя эту практику, следует исходить из убеждения, что поощряемое поведение улучшит благосостояние потребителей и не будет противоречить их интересам, как в вызвавшем критику случае с Uber в 2017 году. Нир Эяль в своей книге «На крючке» предлагает Матрицу манипулирования, которая поможет определить, нужно ли изменить механизм «подталкивания». Для этого необходимо ответить на два вопроса: 1) «Буду ли я сам пользоваться этим продуктом?» и 2) «Поможет ли продукт заметно улучшить жизнь его пользователей?»

Эти принципы являются хорошей отправной точкой, но их недостаточно. В этой статье мы представим более функциональную структуру для разработки и оценки «подталкиваний». Она основывается на трех принципах, представленных в 1979 году Министерством здравоохранения, просвещения и социального обеспечения США в Бельмонтском докладе, который стал руководством по проведению биомедицинских и поведенческих исследований с участием людей. Эти принципы в значительной степени определяют сегодня порядок отбора участников исследований, получения их информированного согласия и работы с ними.

Принцип 1. Уважение к человеку

Этот принцип состоит из двух частей:

К людям следует относиться как к автономным субъектам. Вот что имеется в виду:

«Автономная личность — это человек, обладающий способностью размышлять о собственных целях и действовать в соответствии со своими суждениями. Уважать автономию — значит придавать значение мнению и выбору автономной личности и не препятствовать ее действиям, если они не наносят явного вреда другим людям. Демонстрировать недостаточное уважение к автономному субъекту — значит отвергать его суждения, отрицать его свободу действовать исходя из этих суждений или отказывать в информации, необходимой для принятия решения, без убедительных причин».

Лица с ограниченной автономией подлежат защите. В докладе поясняется:

«Способность к самоопределению развивается в течение жизни человека, и некоторые теряют ее полностью или частично ввиду болезни, психического расстройства или обстоятельств, серьезно ограничивающих свободу выбора. Уважение к лицам, не достигшим зрелости и имеющим ограниченную дееспособность, может потребовать их защиты до достижения зрелости или в течение периода ограниченной дееспособности. Некоторые лица нуждаются в обширной защите вплоть до ограничения их в деятельности, которая может нанести им ущерб; другим не требуется существенная защита, если есть уверенность, что они действуют по своей воле и осознают возможные неблагоприятные последствия».

В «персуазивном дизайне», то есть разработке продуктов и услуг с определенными характеристиками или функциями, побуждающими пользователя к определенным действиям, важно думать о прозрачности в использования «подталкиваний» и о возможности отказа от предлагаемого выбора. Но это еще не все. Чтобы действительно соблюдать принцип автономии личности, компаниям стоит подумать о предварительном получении согласия потребителя на использование каких-то опций, влияющих на его поведение, даже если такое влияние в его интересах.

Здесь возникает проблема: иногда подталкивание к определенному поведению не срабатывает, если человеку, на которого воздействуют, об этом известно. Если вы скажете школьнику, что в школьной столовой овощи выставляют на самое заметное место, чтобы их чаще выбирали на обед, он, скорее всего, сделает все наоборот и даже не подойдет к полке с ними. Но если этого не сказать, то вы ограничиваете его автономию. Один из способов разрешить этот конфликт — найти золотую середину с более общей, но тем не менее прозрачной формулировкой. Например, Headspace, приложение для медитации с инструктором, просит у пользователей согласия на получение подсказок в форме уведомлений, соответствующих их конкретным целям (например, повысить осознанность, улучшить сон). Подобные моменты позволяют добиться доверия пользователей. (Так, в школьной столовой можно повесить табличку со следующим текстом: «Мы предлагаем вам полезный, здоровый рацион, в который должны входить углеводы, овощи и белки».)

Кто-то может поспорить, что, если вы даете потребителю возможность проигнорировать подталкивание, то это сводит на нет необходимость явно запрашивать согласие. Возможно, это так, но важно понять, не заставляете ли вы потребителей выбирать то, чего они на самом деле не хотят (например, потому что отказаться от предложенного выбора для них слишком сложно). Если подобное манипулирование есть, согласие необходимо.

Принцип 2. Благодеяние

Второй Бельмонтский принцип заключается в том, чтобы учитывать интересы других людей. Он подразумевает не только защиту от вреда, но и заботу о благополучии. Руководствуясь принципом благодеяния, исследователи должны минимизировать риски участников исследования и максимизировать преимущества для них и для общества. Применительно к разработке продуктов и инноваций это означает, что лидеры должны оценивать и учитывать потенциальные недостатки «подталкивания».

Например, как говорится в расследовании The New York Times 2017 года, приложения для совместных поездок подталкивают пользователей брать следующий заказ в очередь и информирует водителей, получают ли они планируемый доход. Несмотря на то, что это свойство удобно для водителей, мы видим, что оно может наносить вред. Должно ли приложение подталкивать водителя, который провел за рулем 12 часов, совершить еще одну поездку, чтобы достичь запланированного недельного результата в $1 тыс.? Или будет лучше, если приложение оценит риск его усталости и решит, что в данный момент его не нужно подталкивать? Аналогично сервис видеостриминга может выявлять режим нормального пользования, определять, когда пользователи засиживаются за сериалом допоздна, и спрашивать их в этот момент, хотят ли они, чтобы сервис не включал автоматически следующую серию после определенного времени. Это требует больше усилий, чем приложили в Netflix в ответ на критику в свой адрес: сервис просто предложил пользователям возможность отключить автовоспроизведение во вкладках меню. 

Принцип 3. Справедливость

Третий принцип относится к справедливому распределению обременения и пользы от исследования. Нарушение этого принципа происходит, когда на одну группу ложатся тяготы исследования, а другая извлекает выгоду. В качестве примера можно привести ситуацию, когда представителей малоимущих слоев привлекают к участию в исследовании лекарства, которое могут позволить себе только состоятельные граждане. Во времена, когда отклик и спрос на равенство, многообразие и инклюзию высок, особенно важно, чтобы бизнес-лидеры оценивали, не влияет ли «подталкивание» на одну группу хуже, чем на другую. Не подталкиваете ли вы потребителей конкретной расы или этнической группы больше других, не ведет ли это к неравенству? Нет ли в алгоритме когнитивных искажений, которые не были замечены до того, как он начал работать?

С учетом огромного объема действий, которые мы совершаем онлайн, и достижений в области обработки данных и искусственного интеллекта у компаний сегодня появляются огромные возможности. Они начинают все лучше понимать, что движет нами. Но их успехи означают, что лидерам отрасли необходимо устанавливать стандарты того, что допустимо и что правильно.

* принадлежит Meta, которая признана в России экстремистской и запрещена