Ловушка Facebook*: что может разрушить компанию
Марка Цукерберга

Миссия компании Facebook*, основанной в 2004 году, — дать людям возможность создавать сообщества и объединить мир. Люди пользуются Facebook*, чтобы поддерживать связь с друзьями и родственниками, узнавать, что происходит в мире, а также делиться тем, что для них важно. (Декларация миссии Facebook*)

Наша миссия состоит в том, чтобы объединить всех людей на свете. (Марк Цукерберг, CEO и сооснователь Facebook*)

Определение самой большой проблемы Facebook* зависит от того, кому вы зададите этот вопрос. Одни твердят, что это нарушение конфиденциальности частной жизни, другие сетуют на угнетение малого бизнеса с позиций монополии, третьи — на нанесение вреда психическому здоровью подростков, четвертые — на подстрекательство к массовым беспорядкам. Список проблем можно продолжать бесконечно. Но каким бы разнообразным он ни казался, на самом деле все перечисленные проблемы — лишь разные грани одного фундаментального вызова, перед лицом которого стоим все мы — политики, широкая общественность и сотрудники самого Facebook*.

Facebook* существует для того, чтобы «объединить всех людей на свете», как часто декларирует CEO компании Марк Цукерберг. На первый взгляд, в этой цели нет ничего плохого. На самом деле именно такой ясности в миссии и ждут профессора по стратегии от куда большего числа компаний. Будучи ориентиром для деятельности Facebook*, этот амбициозный идеал глубоко укоренился в корпоративной культуре компании. Также важно отметить, что объединение людей — это фундаментальная основа успеха, сопутствующего платформе последние 15 лет.

На курсе по технологической стратегии мы объясняем студентам, что сегодня наиболее важным фактором создания ценности является сетевой эффект: ценность от использования Facebook* — а также Instagram*, Messenger и WhatsApp — для меня тем выше, чем больше других пользователей подключается к Facebook*. Реализуя свою миссию по объединению людей, Facebook* провоцирует огромное количество сетевых эффектов, которые способствуют его органическому росту и укрепляют его доминирующее положение среди социальных сетей.

Однако, как мы все сегодня понимаем, основная цель компании сопряжена со множеством негативных последствий для всех составляющих нашего общества. Миссия по объединению людей разрушает их жизни и угрожает устоявшимся институтам. Задача, с которой столкнулся Facebook*, поистине грандиозна, поскольку для решения этих проблем недостаточно просто нанять еще модераторов, которые будут отслеживать случаи разжигания ненависти или менять ленту новостей. Решение этих проблем потребует фундаментального сдвига в ключевой стратегической цели компании. В этом смысле Facebook* попал в ловушку: сетевой эффект сделал компанию суперуспешной, а теперь он же угрожает разрушить ее. Но компания не может просто выключить механизм, который лежит в основе ее бизнеса. Так что же им делать?

Неизбежная эволюция Facebook*

Приверженность ключевой цели компании означает, что Facebook* должен продолжать объединять людей и еще активнее усиливать связи. Для достижения этой цели соцсеть может либо наращивать пользовательскую базу и помогать образовывать больше контактов, которых иначе не возникло бы, либо подвигать уже существующую базу пользователей активнее взаимодействовать внутри сети и чаще заходить в Facebook*, то есть наращивать вовлеченность. Оба варианта напрямую увеличивают доход от рекламы, за счет которой Facebook* преимущественно наращивает стоимость. Социальная сеть монетизирует пользовательскую базу, которая в свою очередь использует Facebook* бесплатно, о чем мы с соавтором уже писали ранее.

Проблема в том, что, даже если бы главная цель Facebook* заключалась в создании ценности для пользователей — посредством объединения людей, — без задачи монетизировать бизнес за счет рекламы компания все равно рано или поздно оказалась бы на пути к катастрофе. Трудности, с которыми она сталкивается, являются фундаментальным следствием объединения людей.

Чтобы понять, почему так происходит, давайте посмотрим, какой путь прошел Facebook* со времен своего идиллического старта.

Старые друзья

Первоначально Facebook* объединял пользователей в реальные, но чуть расширенные круги общения — по сути, в местные сообщества. Как миллениал я присоединился к Facebook* в старших классах школы, воспринимая это как продолжение уже существующих дружеских отношений. В том мире Facebook* способствовал прямому сетевому эффекту или взаимному созданию контента между участвующими сторонами: я создаю контент для своих друзей, а друзья создают контент для меня. Я публиковал свои фотографии с выпускного вечера, друзья — свои, и все мы оставляли одобрительные комментарии под фотографиями друг друга. Даже если бы кто-то не получился на фото, никто никогда бы этого не написал: нам всем предстояло видеться в реальной жизни.

Та версия Facebook* имела несколько серьезных ограничений. Во-первых, социальная сеть не давала мне доступа к тому, чего и так не было бы в реальной жизни. Заинтересовавшись диджеингом (то есть выбрав нишевое, не самое распространенное занятие), я не мог общаться с другими диджеями на Facebook*, поскольку среди моих реальных друзей ни одного диджея не было. Во-вторых, количество контента было ограничено: фотографии с выпускного вечера не бесконечны. В-третьих, у обычных пользователей не было ресурсов для создания «качественного» контента — никто специально не обрабатывал фотографии. Тогда такого рода контакты между людьми были относительно слабыми, в том смысле, что они не оптимизировались для непрерывного и интенсивного взаимодействия, которое заставляло бы меня постоянно открывать Facebook*.

Новые друзья

Facebook* решил эту проблему за счет привлечения миллионов — а в конечном счете и миллиардов — пользователей и упрощения глобальных связей. Внезапно, благодаря более мощному сетевому эффекту среди более обширной базы пользователей, люди с нишевыми интересами получили возможность общаться между собой и формировать многочисленные сообщества. Сейчас в Facebook* и Instagram* есть множество диджеев, с которыми я могу пообщаться.

Однако столь глобальные связи не всегда приносят пользу. Люди с опасными — для себя или окружающих — интересами могут легко установить связь друг с другом и подкрепить существующий интерес. Пользователь с суицидальными мыслями может обратиться за советом к другим людям, одержимым той же идеей. Пользователь с расистскими взглядами может найти окружение, состоящее из других расистов. Найдя друг друга, пользователи объединяются, набирают критическую массу как сообщество и могут координировать свои действия. Последствия этого процесса могут быть негативными, но относительно безвредными, как, например создание схем многоуровневого маркетинга, а могут быть откровенно разрушительными, как нападение на Капитолий в США 6 января 2021 года, которое координировалось во многих социальных сетях, но культивировалось в среде онлайн-сообществ, посвященных теориям заговора о фальсификациях на выборах.

Не друзья

Затем произошел еще один важный сдвиг. По мере развития социальной сети успех Facebook* стал во многом зависеть от косвенного сетевого эффекта. Вместо взаимной генерации контента друг для друга обширная база пользователей стимулирует «профессиональных» производителей контента продолжать выдавать контент, который удерживает огромную базу пользователей на Facebook*.

Опора на профессиональных производителей контента для усиления сетевого эффекта имеет ряд разрушительных последствий. Во-первых, это побуждает выделяющихся на общем фоне персон — знаменитостей и так называемых инфлюенсеров — демонстрировать недостижимые образы внешности и стиля жизни как норму, что, как показывают собственные исследования Facebook*, может усугублять депрессию и тревогу, а также провоцировать суицидальные мысли у молодых людей. Во-вторых, это профессионализирует генерацию «кликбейта». Традиционные медиа, как и откровенные злоумышленники, имеют основание распространять контент с заголовками, эксплуатирующими любопытство и эмоциональную реакцию пользователей. В-третьих, это дает профессиональным экстремистам возможность массово распространять явно опасные сообщения. Представители ИГИЛ (террористической организации, запрещенной в России — прим. ред.) эффективно пользовались Facebook* для вербовки новых членов и делились роликами ужасающего насилия, которые находили отклик у разочаровавшейся молодежи.

Вызов Facebook* и нам, как обществу, заключается в том, что любые меры по решению «проблемы» компании напрямую противоречат и ее модели создания стоимости, и ее миссии. В сущности, люди, критикующие Facebook*, призывают компанию объединять меньше людей и снижать вовлеченность. Но это противоречит ключевой задаче, поставленной соцсетью перед самой собой. В этом и заключается ловушка Facebook*.

Проблема ответственности

Так что же Facebook* делать с этой проблемой? И за какую ее часть мы, как общество, можем привлечь Facebook* к ответственности посредством общественного давления, государственного регулирования и других рычагов? Чтобы ответить на эти вопросы, давайте рассмотрим, какую роль Facebook* играет в содействии развитию прямых связей между пользователями и связей, инициируемых алгоритмами.

Связи, инициированные пользователями, — это прямые взаимодействия между сторонами, что изначально и поддерживала платформа. Facebook* начинался как реестр студентов Гарвардского университета. Первые пользователи могли пролистать весь список студентов и выбрать, с кем из них они хотят установить связь и обмениваться контентом. Facebook*, ориентированный исключительно на прямые контакты между пользователями, был бы ограничен сугубо локальными связями и опирался бы на прямой сетевой эффект.

Однако по мере развития социальной платформы человеку становилось все сложнее объять весь список пользователей и найти среди них ценные связи. Для того, чтобы гарантировать, что Facebook* будет и дальше эффективно объединять людей, компания развернула процесс нахождения связей через алгоритм. Механизм рекомендаций использует данные, которые пользователи предоставляют платформе, и предлагает им добавить новых друзей или вступить в группы по интересам, а также заполняет ленту новостей и регулирует результаты поиска. Эта неоднозначная мера необходима для формирования глобальных связей и возникновения косвенного сетевого эффекта, а также для того, чтобы компания могла предоставлять пользователям нужные им связи, с которыми они будут наиболее активно взаимодействовать.

Почему это различие важно

Разделение проблем, возникающих в результате установления органических связей, инициированных пользователями, и связей, инициированных алгоритмами Facebook*, может помочь нам разобраться, какую ответственность разумно возлагать на Facebook*. К сожалению, простого решения здесь нет.

В сценариях, где создание связей происходит посредством твердой руки Facebook*, мы еще можем возлагать на компанию некую ответственность — даже если это противоречит миссии Facebook*. Например, даже если данные говорят о том, что люди с удовольствием потребляют контент, разжигающий рознь и ненависть, это не значит, что Facebook* должен доводить такой контент до моего внимания. Выбор в пользу того, чтобы не предлагать пользователям контент, которого они сами не искали, довольно очевиден.

Вопрос с ответственностью становится менее очевидным, когда мы рассуждаем, должен ли алгоритм рекомендовать связи, которые, исходя из истории взаимодействий, конкретный пользователь активно приветствует. Миссия Facebook* подразумевает, что социальная сеть должна намеренно способствовать установлению таких связей, но они могут усиливать поведение и мировоззрение пользователя. Если человек с умеренными политическими взглядами проявляет интерес к политической жизни своей страны, сколько политического контента может рекомендовать ему Facebook*, прежде чем это станет чрезмерным и даже опасным? Да, Facebook* может ограничить выдачу таких рекомендаций — хотя бы потому, что рядовые пользователи в данном случае не могут нести самостоятельную ответственность, но явную черту провести здесь очень тяжело.

Однако вопрос с ответственностью теряет всякую очевидность, когда мы говорим о связях, которые пользователи устанавливают самостоятельно. Чтобы справиться с проблематичными связями, в конечном счете компания будет вынуждена цензурировать посты и блокировать пользователей, создающих неприемлемый с нашей точки зрения контент. Здесь уже можно провести несколько вполне ярких черт — скажем, явное планирование насильственных действий, конечно, должно быть запрещено, — но основная часть потенциально опасного контента падает в обширную серую зону. Рассмотрим темную область антипрививочного контента: если мы хотим, чтобы Facebook* подвергал цензуре явную дезинформацию, что делать с продуманным, основанным на фактах контенте, описывающем побочные эффекты от какой-либо вакцины? Facebook* может настроить алгоритм на ограничение рекомендаций такого контента, но если пользователи изо всех сил стараются его найти, может и должна ли соцсеть его цензурировать? Действительно ли мы хотим этого?

Именно в этой области компании приходится сложнее всего. Facebook* неоднократно демонстрировал непоследовательность и непрозрачность в отношении цензурирования контента. Цукерберг пытался передать ответственность квазинезависимой комиссии по надзору, однако критики обвиняют компанию в сознательном нежелании предоставить комиссии нужные ресурсы и способы контроля для комплексного и эффективного выполнения своей работы.

Такая уклончивость проистекает из самой проблемы ответственности, с которой сталкиваются все соцсети. Да, мы можем спрашивать с Facebook* за то, к чему он всеми средствами привлекает наше внимание. Но можем ли мы считать Facebook* ответственным за то, к чему мы сами всеми силами стремимся приобщиться? Как компания с миссией объединять всех людей, Facebook* явно не хочет нести ответственность за связи, которых ищет сам пользователь, будь они инициированы людьми или алгоритмами социальной сети.

Что Facebook* может сделать?

Как профессор, преподающий стратегию, я, пожалуй, больше других сочувствую Facebook*. Компания разработала стратегию объединения людей, принесшую ей огромную прибыль, но та же самая стратегия сегодня создает ей множество проблем. Со всех сторон это очень трудный выбор. Я думаю, что единого четкого решения этой проблемы нет, но есть три широкие дороги, по которым Facebook* может пойти, потенциально сочетая их друг с другом.

Сообщать о негативных побочных эффектах — открыто. В рамках прошлых попыток определить свою ответственность специалисты Facebook* подразумевали, что у них есть решения для всех проблем, которые ставит перед ними социальная сеть, но таких решений в настоящее время у них, похоже, нет. В качестве одного из вариантов развития событий Facebook* может более явно и открыто рассказывать о негативных эффектах, присущих социальным сетям, за счет публикации исследований, в которых рассматриваются конкретные проблемы, касающихся, например, отношения к внешности и влияния Instagram*. Все это наряду с постоянной демонстрацией ценности, которую дает объединение людей. Эти исследования помогут регулирующим органам принимать решения, а самой компании занять хорошую позицию для управления процессом регулирования в благоприятном для отрасли направлении, ведь регулятивные нормы, предполагающие серьезные требования по нормативно-правовому соответствию, могут служить входным барьером, защищающим таких игроков, как тот же Facebook*. Примером таких норм может служить Общий регламент о защите данных, принятый в Европе.

Наращивать модерирование — массированно. Чтобы всесторонне модерировать весь контент, Facebook* необходимо продолжать расширять границы того, как алгоритмы находят нежелательный контент, и на порядок (или на порядки) увеличить количество людей-модераторов. По состоянию на 2020 год в Facebook* работает 15 тыс. модераторов, каждый из которых ежедневно просматривает сотни единиц контента, а вскоре потребуется еще больше. Эти усилия обойдутся в миллиарды долларов и, что, возможно, более болезненно для Facebook*, заставят компанию четко определиться, какой контент ограничивать: выбирать контент для одного — значит цензурировать другого. Однако все усилия, направленные на модерацию, мало что значат для контента, передаваемого через зашифрованные сообщения в WhatsApp и Messenger.

Нести ответственность — надлежащим образом. Facebook* нужны четкие границы в отношении того, за какие аспекты деятельности своей платформы он хочет — и может — нести ответственность, и четко делегировать оставшееся правительствам, независимым организациям и пользователям. В случае связей, инициированных алгоритмами, непрактично делегировать ответственность за то, что часто представляет собой черный ящик — к тому же эта технология является основой интеллектуальной собственности Facebook*, — поэтому компания должна быть готова взять на себя ответственность за связи, которые продвигает ее алгоритм.

Однако Facebook* так и не дал ответа, кто должен нести ответственность в случае с органическими связями между пользователями и нежелательным контентом. Условно независимый Совет по надзору склоняет Facebook* к делегированию ответственности, но ситуация по-прежнему до конца не ясна: совет только проверяет решения по контенту, которые принимают специалисты Facebook*, после апелляции, поданной пользователем, к тому же совет по-прежнему финансово зависит от Facebook*, а его численности недостаточно, чтобы действовать по-настоящему масштабно.

Двигаясь в будущее, Facebook* может сам взять на себя подлинную ответственность, значительно нарастив собственные усилия по модерации; публично и достоверно передать эту ответственность стороннему органу; или оставить ответственность в руках обычных пользователей, продолжая бороться за первоначальную миссию по свободному объединению людей, базирующемуся на их личном желании. Сейчас же Facebook* неясно движется по всем трем дорогам, что в конечном счете не позволяет никому взять на себя полноценную ответственность.

Больше, чем Facebook*

Facebook* служит удобным громоотводом для праведного гнева, но даже если завтра он исчезнет с лица Земли, мы по-прежнему будем сталкиваться с теми же проблемами снова и снова. Ловушке Facebook* подвержены все социальные сети, и отражает она последствия использования цифровых технологий, способствующих созданию более взаимосвязанного мира.

Twitter развивался по тому же пути, что и Facebook*, — в направлении использования алгоритмов для объединения людей по всему миру, что вызвало такие же неблагоприятные последствия, как и в случае с Facebook*. Snap(chat), изначально создававшийся для общения друзей между собой, радикально переработал платформу, чтобы управлять косвенным сетевым эффектом, увеличивающим количество времени, которое пользователи проводят за просмотром профессионального контента. TikTok быстро превратился в центр силы, применяя лучшие в своем классе алгоритмы для предоставления пользователям наиболее интересного глобального контента и пропустив этап объединения людей через дружеские круги.

Все мы должны считаться с последствиями активного объединения все большего числа людей. Для того, чтобы выбраться из ловушки, в которую мы попали, Facebook* и другие социальные платформы — будущие и существующие — должны иметь четкое представление о границах своей ответственности. Пришло время, когда компании наряду с правительствами и рядовыми пользователями должны взяться за эту проблему.

* принадлежит Meta, которая признана в России экстремистской и запрещена