Жертвы алгоритмов: что не так с интернет-маркетингом

Теоретически персонализация маркетинга должна быть беспроигрышной затеей и для компаний, и для клиентов. Подобрав правильное сочетание средств коммуникации, рекомендаций и рекламных акций с учетом индивидуальных предпочтений каждого клиента, можно было бы найти лучший подход к любому покупателю.

Неуклюжие попытки персонализации могут сослужить недобрую службу, и все же технологии таргетинга с каждым днем становятся все более изощренными. С развитием машинного обучения и аналитики больших данных персонализация приобретает все большее значение и становится менее навязчивой и раздражающей для потребителей. Однако наряду с этими изменениями возникает скрытый риск: автоматизированные системы могут закреплять вредные предрассудки.

В нашем новом исследовании мы изучили использование динамического ценообразования и таргетированных скидок и попытались выяснить, могут ли (и как) возникать ложные предубеждения, если цены, устанавливаемые для потребителей, определяются алгоритмом. Поучительная история персонализированного маркетинга такого рода случилась с Princeton Review. В 2015 году выяснилось, что компания, предлагающая услуги по подготовке к экзаменам, назначала для клиентов из разных регионов разные цены, причем расхождения в некоторых случаях достигали сотен долларов, несмотря на то что все занятия проводились посредством телеконференций. В краткосрочной перспективе такой тип динамического ценообразования мог показаться легким способом увеличения доходов. Но исследования неоднократно показывали, что потребители считают такой подход заведомо несправедливым, что он подрывает доверие и не вызывает желания снова обращаться к компании. Более того, предвзятость Princeton Review носила и расовый характер: последовавшее резонансное расследование, проведенное журналистами редакции ProPublica, показало, что для азиатских семей цены систематически оказывались более высокими, чем для остальных клиентов.

Даже крупнейшие технологические компании и специалисты по алгоритмическим технологиям считают, что предоставлять персонализированные услуги, избегая при этом дискриминации, непросто. Несколько исследований показали, что объявления о высокооплачиваемых вакансиях на таких платформах, как Facebook* и Google, гораздо чаще демонстрируются мужчинам. В прошлом году против Facebook* был подан иск, и в результате было установлено, что компания нарушает Закон о запрещении дискриминации при продаже и аренде жилья, так как позволила рекламодателям недвижимости таргетироваться на пользователей по основным признакам дискриминации, включая расу, пол, возраст и т. д.

Что происходит с алгоритмами персонализации и почему ими так сложно управлять? В современных условиях — при наличии программного обеспечения для автоматизации маркетинга и автоматического ретаргетинга, платформ A/B-тестирования, позволяющих постепенно динамически оптимизировать взаимодействие с пользователем, и рекламных платформ, которые автоматически выбирают сегменты целевой аудитории, — важные бизнес-решения все чаще принимаются автоматически, без контроля человека. И хотя данные, которые маркетологи используют для сегментирования клиентов, по своей сути не являются демографическими, эти переменные часто коррелируют с социальными характеристиками.

* деятельность на территории РФ запрещена