Хайп-машины: что делать с растущей силой социальных сетей

В январе одно из сообществ на Reddit, r/WallStreetBets, взвинтило стоимость акций проблемной сети магазинов видеоигр GameStop, из-за чего некоторые хедж-фонды Уолл-стрит потеряли миллиарды долларов. Звучит безумно, но мы видели нечто подобное и раньше, и это лишь очередной пример хаоса, который рождается из возможности общаться и координировать свои действия в социальных сетях. Только за последнее время случилось множество разных событий: от относительно безвредных (например, несколько тысяч подростков в TikTok накрутили количество зарегистрированных заявок на участие в митинге Трампа от якобы желающих присутствовать (и в итоге он прошел на полупустом стадионе — прим. ред.)) до очень опасных (атака на Капитолий США была спланирована через такие платформы, как Gab и Parler). Скорее всего, в будущем такое будет повторяться все чаще, самыми разными способами.

Поэтому вопрос звучит так: как нам — гражданам, компаниям и властям — справиться с растущей силой онлайн-платформ и разобраться с последствиями в реальной жизни?

Чтобы найти ответ на этот вопрос, я поговорил с Синаном Аралом — директором Инициативы в области цифровой экономики MIT и автором книги «The Hype Machine: How Social Media Disrupts Our Elections, Our Economy, and Our Health—and How we Must Adapt» («Машина хайпа: как социальные сети разрушают наши выборы, экономику и здоровье — и как нам к этому адаптироваться»). Книга посвящена именно этому новому тренду — масштабной по своему влиянию и труднорегулируемой активности на онлайн-платформах.

HBR: Что бы это для нас значило — вернуть контроль над онлайн-платформами?

Арал: Мы увидели, что из социальных сетей исходит много угрозы, особенно в последнее время. Но мы также видим их огромный положительный потенциал. Поэтому я предпочитаю ставить вопрос так: «Как нам использовать весь потенциал социальных сетей, в то же время избежав их вреда?» Мне кажется, что у нас есть четыре рычага: деньги, код, нормы и законы.

Под деньгами я имею в виду бизнес-модели социальных сетей, которые обусловливают поведение пользователей, рекламодателей и инвесторов.

Код — это дизайн самих платформ и их алгоритмов: принципы формирования ленты, алгоритм «люди, с которыми вы, возможно, знакомы» и т. д.

Нормы — это фактическое социальное поведение на платформах; то, как люди их используют.

И, наконец, законы — это все обязательные правила: и антимонопольные нормативы, и Раздел 230 закона об этике в сфере коммуникаций США, и регламенты конфиденциальности, и новые руководства Комиссии по ценным бумагам и биржам.

Я убежден, что мы можем использовать социальные сети во благо, а не во зло. Но для этого нам нужно глубже изучить социальные сети научными методами и правильно использовать все рычаги.

Вы опубликовали книгу в сентябре прошлого года и предсказали в ней нечто наподобие атаки на Капитолий, случившейся 6 января. Кроме того, вы описали вероятные экономические потрясения, и ваше описание напоминает ситуацию с GameStop в январе. Вы уже давно изучаете потенциальную опасность социальных сетей. Что вы можете сказать о событиях января 2021 года?

Сейчас мы в реальном времени наблюдаем за тем, как общество пытается справиться с новым статусом социальных сетей как мощной силы. Эксперты по социальным сетям уже много месяцев — или даже лет — предупреждают, что онлайн-платформы могут создавать такие проблемы. И мы не впервые видим, как активность в социальных сетях приводит к реальной угрозе демократии или экономике. Но масштаб, публичность и экстремальность этих событий кажется для США новой.

Какие именно опасности онлайн-платформ пугают вас сильнее всего в краткосрочной перспективе?

В подзаголовке моей книги перечислено три элемента, и третий из них — это здравоохранение. Мне кажется, что этот аспект особенно важен сейчас, во время пандемии, ведь из-за дезинформации люди скептически относятся к вакцинам. Эта проблема становится все серьезнее. Так, недавно протестующие, попавшие под влияние дезинформации из социальных сетей, закрыли точку вакцинации на стадионе Доджер в Лос-Анджелесе — и то же самое происходило с вакцинацией от кори в 2018 и 2019 годах. Я искренне надеюсь, что подобного больше не будет.

В последний месяц платформы стали активнее регулировать свой контент. Twitter, Facebook* и проч. заблокировали аккаунты бывшего президента Трампа, Discord ненадолго отключили r/WallStreetBets, а трейдинговая платформа Robinhood ограничила торговлю акциями GameStop, AMC и Blackberry. Что вы думаете об этих попытках?

Конечно, между Трампом и ситуацией вокруг Gamestop есть важные различия, но оба эти явления подводят к принципиальному вопросу о модерации контента. Мы видели, что социальные сети, как правило, традиционно начинают с политики невмешательства. Но в последний год на них начало давить общество, а кроме того, возникла перспектива законодательного регулирования. Против Facebook* ведется антимонопольное разбирательство, и многие говорят о реформе или отмене Раздела 230 закона об этике в сфере коммуникаций США. Наконец, появляется все больше свидетельств, что социальные сети влияют на общество нежелательным образом. Поэтому компании начинают все более агрессивно модерировать контент, блокировать аккаунты, нарушающие их правила, и жестче устанавливать границы.

Как и где они проводят эти границы?

Это и есть главный вопрос. В конце концов, все сводится к разнице между свободой слова и злоупотреблениями, будь то в вопросах политики или финансовой информации. Некоторые вещи очевидно преступны — например, нам точно не нужны координированные попытки похитить и убить губернатора Мичигана или трансляции массовых убийств в социальных сетях. Такие вещи явно опасны, и модерировать их проще. Но что касается вещей, которые формально законны, но потенциально могут быть опасны, то их категоризировать и модерировать уже намного сложнее.

Кто же должен принимать такие решения? Платформы должны регулировать себя сами или это дело правительства?

* деятельность на территории РФ запрещена