Битва за истину

В марте 2018 года президент США Дональд Трамп написал в Twitter, что компания Amazon практически не платит ни местные, ни государственные налоги. После этого акции Amazon показали худшую месячную динамику за последние два года. Позднее выяснилось, что Трамп ошибался, и акции поднялись в цене до прежнего уровня; однако этот случай напомнил всем о серьезной проблеме: компании не защищены от дезинформации, распространяемой в соцсетях.

Конечно, в США главное внимание СМИ обычно уделяется вопросу о том, как поддельные новости повлияли на исход президентских выборов 2016 года. Но на самом деле от последствий лжи не застрахован никто. Распространение ложных сведений угрожает демократии, экономике, бизнесу и даже национальной безопасности. Крайне важно понять механизмы этого явления и противостоять ему.

Последние три года мы с Сорушем Восуги и Дебом Роем изучаем механизмы распространения ложных новостей в интернете. (Мы называем такие новости ложными, или фальшивыми, поскольку «фейковой» политики стали называть едва ли не любую информацию, расходящуюся с их мнением.) В рамках недавнего исследования мы собрали 126 тыс. цепочек репостов, покрывающих всю историю Twitter (с 2006 по 2017 год), и проверили их на соответствие действительности. Затем мы сравнили динамику распространения истинных и ложных новостей. В этом году журнал Science опубликовал результаты нашего исследования.

Результаты оказались неожиданными и тревожными. Фальшивые новости всех категорий распространялись быстрее, глубже и шире, чем правда, — порой на порядок. Чемпионами по всем параметрам оказались ложные политические новости.

Важность этих данных трудно переоценить. Судя по всему, пока мы будем искать средство от этой напасти, ситуация только ухудшится: технологии обработки видео и аудио постоянно совершенствуются и обман становится все убедительнее, его все сложнее раскрыть. К счастью, ученые, эксперты по искусственному интеллекту и руководители соцсетей осознали серьезность проблемы и стараются изучить ее глубже и отыскать решение.

В этой статье я расскажу, как можно помешать распространению лжи. Бороться за правду нужно в четырех взаимосвязанных направлениях: это обучение участников процесса, изменение их мотивации, совершенствование технологий и разумный контроль государства над ситуацией. Важно также ответить на пять ключевых вопросов:

• Как научить людей выявлять ложь и сопротивляться ей?

• Как ограничить распространение неправды и стимулировать распространение правды?

• Как технологии (в частности, алгоритмы) могут помешать распространению ложной информации?

• Как обеспечить вмешательство регуляторов в работу соцсетей, сохранив экономические и социальные пре­имущества этих платформ?

• Кто будет определять, где правда, а где ложь? (Это, пожалуй, самый важный вопрос.)

Прежде чем говорить о решениях, разберемся, почему эта тема так важна.

В чем опасность ложных новостей?

Люди лгут и распространяют слухи, вероятно, с тех пор, как научились ­говорить. Но сегодня эта проблема стоит особенно остро. Соцсети, многократно увеличившие скорость и широту распространения информации, обрели невероятное влияние. Основанной в 2006 году сетью Twitter активно пользуются 336 млн людей по всему миру. Гигант Facebook*, созданный в 2004-м, объединяет 2,19 млрд пользователей. Для многих эти платформы стали основным источником новостей. Но поскольку сегодня соцсети сознательно отказываются следить за качеством пользовательского контента, их читатели никак не защищены от распространяемой дезинформации.

Та легкость, с которой ложь разлетается по соцсетям, не просто раздражает — она опасна и очень дорого обходится обществу. Фальшивые новости угрожают безопасности выборов и демократии: вспомним о расследовании Роберта Мюллера, посвященном вмешательству России в американские выборы, или о снятом скрытой камерой видео, на котором бывший глава Cambridge Analytica Александр Никс рассказывает, как его компания влияла на выборы в разных странах, распространяя в интернете сфабрикованные материалы. Пока еще окончательно не установлено, в какой степени фальшивые новости повлияли на исход президентских выборов в США, а также в Европе и Африке. Однако большинство экспертов убеждены: распространение лжи в интернете представляет серьезную угрозу для демократии.

Фальшивые новости порой приводят к неоптимальному распределению ресурсов — например, если силовики и волонтеры хотя бы в какой-то мере используют соцсети для сбора информации о теракте. Так, масса ложных сведений попала в сеть после взрыва на Бостонском марафоне, когда полиция в поисках террористов оцепила кампус MIT — нашего родного вуза. Мы не знали, куда бежать, где безопаснее, и в поисках ответа прочесывали Twitter. Помимо реальных новостей (которые появлялись в нем намного быстрее, чем на телевидении), мы видели там море слухов, которые мешали работе полиции. Зная, что полицейские просматривают соцсети, террористы могут пускать их по ложному следу. Если соцсети служат для вас источником информации, тот, кто сможет отравить этот источник, завладеет мощным оружием против вас.

Дезинформация — бич экономики, инвестиций, частного бизнеса. В 2014 году всего один лживый твит, сообщавший, что Барак Обама ранен во время взрыва, за день обрушил рынок акций на $130 млрд. Сегодня инвестиционные фонды учитывают настроения в соцсетях в методах алгоритмической торговли. Если в соцсети проникают ложные новости, это сказывается на заключаемых сделках. Пока еще сложно оценить точный ущерб от ложных новостей — но ряд примеров показывает, что соцсети весьма серьезно влияют на экономику.

* деятельность на территории РФ запрещена