Битва
за истину

В марте 2018 года президент США Дональд Трамп написал в Twitter, что компания Amazon практически не платит ни местные, ни государственные налоги. После этого акции Amazon показали худшую месячную динамику за последние два года. Позднее выяснилось, что Трамп ошибался, и акции поднялись в цене до прежнего уровня; однако этот случай напомнил всем о серьезной проблеме: компании не защищены от дезинформации, распространяемой в соцсетях.

Конечно, в США главное внимание СМИ обычно уделяется вопросу о том, как поддельные новости повлияли на исход президентских выборов 2016 года. Но на самом деле от последствий лжи не застрахован никто. Распространение ложных сведений угрожает демократии, экономике, бизнесу и даже национальной безопасности. Крайне важно понять механизмы этого явления и противостоять ему.

Последние три года мы с Сорушем Восуги и Дебом Роем изучаем механизмы распространения ложных новостей в интернете. (Мы называем такие новости ложными, или фальшивыми, поскольку «фейковой» политики стали называть едва ли не любую информацию, расходящуюся с их мнением.) В рамках недавнего исследования мы собрали 126 тыс. цепочек репостов, покрывающих всю историю Twitter (с 2006 по 2017 год), и проверили их на соответствие действительности. Затем мы сравнили динамику распространения истинных и ложных новостей. В этом году журнал Science опубликовал результаты нашего исследования.

Результаты оказались неожиданными и тревожными. Фальшивые новости всех категорий распространялись быстрее, глубже и шире, чем правда, — порой на порядок. Чемпионами по всем параметрам оказались ложные политические новости.

Важность этих данных трудно переоценить. Судя по всему, пока мы будем искать средство от этой напасти, ситуация только ухудшится: технологии обработки видео и аудио постоянно совершенствуются и обман становится все убедительнее, его все сложнее раскрыть. К счастью, ученые, эксперты по искусственному интеллекту и руководители соцсетей осознали серьезность проблемы и стараются изучить ее глубже и отыскать решение.

В этой статье я расскажу, как можно помешать распространению лжи. Бороться за правду нужно в четырех взаимосвязанных направлениях: это обучение участников процесса, изменение их мотивации, совершенствование технологий и разумный контроль государства над ситуацией. Важно также ответить на пять ключевых вопросов:

• Как научить людей выявлять ложь и сопротивляться ей?

• Как ограничить распространение неправды и стимулировать распространение правды?

• Как технологии (в частности, алгоритмы) могут помешать распространению ложной информации?

• Как обеспечить вмешательство регуляторов в работу соцсетей, сохранив экономические и социальные пре­имущества этих платформ?

• Кто будет определять, где правда, а где ложь? (Это, пожалуй, самый важный вопрос.)

Прежде чем говорить о решениях, разберемся, почему эта тема так важна.

В чем опасность ложных новостей?

Люди лгут и распространяют слухи, вероятно, с тех пор, как научились ­говорить. Но сегодня эта проблема стоит особенно остро. Соцсети, многократно увеличившие скорость и широту распространения информации, обрели невероятное влияние. Основанной в 2006 году сетью Twitter активно пользуются 336 млн людей по всему миру. Гигант Facebook*, созданный в 2004-м, объединяет 2,19 млрд пользователей. Для многих эти платформы стали основным источником новостей. Но поскольку сегодня соцсети сознательно отказываются следить за качеством пользовательского контента, их читатели никак не защищены от распространяемой дезинформации.

Та легкость, с которой ложь разлетается по соцсетям, не просто раздражает — она опасна и очень дорого обходится обществу. Фальшивые новости угрожают безопасности выборов и демократии: вспомним о расследовании Роберта Мюллера, посвященном вмешательству России в американские выборы, или о снятом скрытой камерой видео, на котором бывший глава Cambridge Analytica Александр Никс рассказывает, как его компания влияла на выборы в разных странах, распространяя в интернете сфабрикованные материалы. Пока еще окончательно не установлено, в какой степени фальшивые новости повлияли на исход президентских выборов в США, а также в Европе и Африке. Однако большинство экспертов убеждены: распространение лжи в интернете представляет серьезную угрозу для демократии.

Фальшивые новости порой приводят к неоптимальному распределению ресурсов — например, если силовики и волонтеры хотя бы в какой-то мере используют соцсети для сбора информации о теракте. Так, масса ложных сведений попала в сеть после взрыва на Бостонском марафоне, когда полиция в поисках террористов оцепила кампус MIT — нашего родного вуза. Мы не знали, куда бежать, где безопаснее, и в поисках ответа прочесывали Twitter. Помимо реальных новостей (которые появлялись в нем намного быстрее, чем на телевидении), мы видели там море слухов, которые мешали работе полиции. Зная, что полицейские просматривают соцсети, террористы могут пускать их по ложному следу. Если соцсети служат для вас источником информации, тот, кто сможет отравить этот источник, завладеет мощным оружием против вас.

Дезинформация — бич экономики, инвестиций, частного бизнеса. В 2014 году всего один лживый твит, сообщавший, что Барак Обама ранен во время взрыва, за день обрушил рынок акций на $130 млрд. Сегодня инвестиционные фонды учитывают настроения в соцсетях в методах алгоритмической торговли. Если в соцсети проникают ложные новости, это сказывается на заключаемых сделках. Пока еще сложно оценить точный ущерб от ложных новостей — но ряд примеров показывает, что соцсети весьма серьезно влияют на экономику.

Фальшивые данные могут ударить фактически по любому аспекту бизнеса: направить инвестиции, куда не следует; снизить оборот; исказить прогнозы спроса, модели управления запасами и планирование. Ложь подрывает репутацию, а с ней и стоимость акций. Упомянутый выше твит Трампа об Amazon — лишь одно из множества ложных заявлений, причинявших ущерб корпорациям. Сайт Snopes, борющийся с непроверенными фактами в сети, составляет список «50 горячих слухов», который обновляется пугающе часто. Здесь можно найти слух 2008 года о банкротстве United Airlines и «новость» 2017 года, будто Starbucks планирует бесплатно раздавать ­рабочим-нелегалам фраппучино. Есть и еще один слух 2017 года: якобы глава PepsiCo Индра Нуйи посоветовала сторонникам вновь избранного президента США «вести бизнес с кем-нибудь другим». Как и в случае с трейдингом, мы не можем назвать точные суммы ущерба, нанесенного частному бизнесу подобной дезинформацией. Однако частота, с которой это случается, говорит о том, что проблема существует и становится все более острой.

КАК БОРОТЬСЯ С ФАЛЬШИВЫМИ НОВОСТЯМИ

                             

	ПРЕДЛОЖЕНИЕ	СПРОС
Просвещение	Информировать рекламодателей и СМИ о последствиях распространения лжи и наказании за него	Научить потребителей выявлять недостоверную информацию и не доверять ей
Мотивация	Удалять публикаторов поддельных новостей с платформ и сокращать охват лживого кон­тента	Дать потребителям возможность сообщать о фальшивых новостях
Технологии	Развивать алгоритмы, выявляющие ложные новости и их распространителей	Разрабатывать инструменты автоблокировки, позволяющие людям ограничивать поступление ложной информации в их ленту новостей; использовать в этих целях машинное обучение — контролируемое и с оператором в контуре управления (HITL)
Регулирование	Ввести наказание за распространение ложных сведений, опираясь на раздел 230 Закона 1996 года о пристойности в коммуникациях	Усовершенствовать законы об ответственности за действия в интернете

Почему ложь так быстро разлетается?

Результаты наших исследований заставляют усомниться в очевидных, казалось бы, объяснениях этого явления. Например, можно было бы предположить, что причина успешного распространения лжи в соцсетях — участие в этом популярных пользователей, но наши данные говорят об обратном. У людей, публикующих фальшивые новости, намного меньше связей в Twitter, чем у тех, кто пишет правду. У них меньше подписчиков, они сами подписаны на меньшее число пользователей, они менее активны в сети, их личности реже бывают «верифицированы» платформой — и вообще эти люди, как правило, недавно зарегистрировались в соцсети. Все это говорит о том, что фальшивые сведения распространяются так быстро и широко вопреки, а не благодаря качествам их публикаторов.

Из недавних разоблачительных статей (и показаний в Конгрессе) можно было бы заключить, что в распространении лжи виновны боты. Однако, по нашим данным, роботы продвигают ложь и правду примерно в равной мере — а значит, более быстрому распространению лжи способствуют люди.

Почему люди так легко верят фальшивым новостям? Один из ответов дает так называемая гипотеза новизны. Согласно ей, новая информация привлекает внимание и вызывает желание поделиться ею, чтобы выглядеть компетентным. В нашем исследовании ложные новости действительно отличались большей новизной, чем правдивые, и люди более охотно делились новой информацией. (В данном случае «новизна» означает «отличие от того, что привык видеть пользователь Twitter».) Но лживые слухи вызывали у людей больше удивления и раздражения в откликах — в то время как правда рождала подъем, радость и доверие. Возможно, люди просто склонны делиться чем-то неожиданным (и даже непристойным).

Как бороться с ложными новостями?

Для начала полезно взглянуть на ситуацию глазами пользователя. Если рассматривать проблему с точки зрения спроса, можно, например, обучать людей, предоставляя им информацию о качестве новости или твита. А если подходить к ней с позиции предложения, можно попытаться выкорчевать ее с корнем — скажем, сделав публикацию и распространение лжи невыгодными для соцсетей и поставщиков контента. Оба подхода очень важны, и они дополняют друг друга. В обоих случаях огромную роль будут играть алгоритмы. Кроме того, госорганам стоит задуматься о своей конструктивной надзорной роли в этой борьбе.

Защита и просвещение пользователей. Возможно, хорошим способом сообщить людям о качестве информации и новостей в соцсетях могла бы стать маркировка — наподобие пищевой. В большинстве стран продукты в упаковке тщательно маркируются: мы можем узнать, сколько в них калорий, белков, жиров, углеводов; было ли производство органическим, находились ли животные на свободном выгуле; может ли еда содержать частицы пшеницы или арахиса. (Указывать эти сведения когда-то потребовали сами покупатели — и госорганам пришлось издать необходимые законы и следить за их выполнением.)

Но читая новости (особенно в интернете), мы не получаем такой подробной информации об их качестве. Мы не знаем, заслуживает ли доверия источник; не знаем, в какой степени правдива конкретная история. Мы даже не знаем, как писалась та или иная новость — проверялась ли информация по трем независимым источникам или лишь по одному; не знаем, сколько журналистов работало над материалом, сколько интервью они взяли и как долго вели расследование.

Это важное направление работы, но здесь есть ряд непростых вопросов.

Умеем ли мы точно идентифицировать ложные новости? В своем исследовании мы изучали цепочки репостов в Twitter новостей, достоверность которых оценивали шесть независимых организаций. Затем мы попросили студентов MIT и Колледжа Уэллсли дополнительно проверить, нет ли в принципах оценки веток репостов этими организациями признаков предвзятости.

Конечно, масштабировать такую процедуру проверки чрезвычайно сложно. Поэтому нужны алгоритмы, способные максимально точно определять истинность контента. В своей докторской диссертации Соруш Восуги предложил один из первых алгоритмов для автоматического обнаружения в реальном времени слухов, распространяемых в Twitter, и оценки их достоверности. Анализируя лингвистические особенности текста, этот алгоритм выявляет слухи с точностью 91% и прогнозирует их достоверность с точностью 75% — по стилю, по характеристикам людей, которые их репостят, и по динамике распространения. Есть и другие исследования в этой области, но до создания надежной методологии для идентификации ложных новостей еще далеко.

Кто будет решать, где правда и где ложь? Вот важнейший вопрос, на который пока нет четкого ответа. Дать это право самим платформам? Или этим должны заниматься госорганы? Можно ли положиться на организации, занимающиеся проверкой фактов? Нужна ли независимая комиссия? Можно ли обеспечить беспристрастность этих организаций и комиссий? Чтобы ответить на данные вопросы, нужно многое обдумать и проанализировать.

Недавно Facebook* объявила, что новостные публикации в соцсети будут сопровождаться кнопкой «Об этой статье». Нажав ее, можно будет перейти к дополнительной информации: статьям по теме, недавним публикациям того же автора (издания) и ссылке на страницу Википедии о нем. Возможно, это шаг в верном направлении — но таких шагов должно быть больше.

Замедлит ли маркировка распространение ложных новостей? Ученые не нашли однозначного подтверждения ее эффективности. Одни исследования показывают, что ­отметка о ложности мешает распространению новости, другие — что новости с такой отметкой разлетаются быстрее. В этой области пока мало опубликованных и рецензированных работ, и чтобы понять, как эффективно использовать маркировку, нужны эксперименты. Скажем, что сработает лучше — «рейтинг достоверности» или ссылка на страницу об авторе в Википедии?

Изменение стимулов для создателей контента, рекламодателей и владельцев соцсетей. Размещение рекламы в соцсети зависит от распространения в ней контента. Чем больше внимания привлекает контент, тем больше ценности он создает — и тем больше доход от рекламы. В каком-то смысле нынешние бизнес-модели цифровой рекламы поощряют ложные новости — ведь, как мы уже знаем, ложь распространяется быстрее. Известно, что появление ложных новостей в Македонии во время президентских выборов 2016 года было вызвано не столько политическими, сколько экономическими причинами: их публикаторы просто поняли, что ложь позволяет получить больше дохода от рекламы, чем правда.

Экономические стимулы к распространению ложной информации, разумеется, краткосрочны. Со временем ложь разрушает репутацию платформы, наносит ущерб рекламодателям и снижает доверие даже к добросовестным создателям контента.

Мы лишь начинаем задумываться о том, как будут (и должны) меняться поставщики новостей. Я вижу здесь два варианта.

1. В корне изменить бизнес-модель. Радикальный подход — выстроить бизнес-модель Facebook* и других соцсетей не на рекламе, как сейчас, а на подписке: погоня за кликами неизбежно стимулирует распространение сенсационного, раздражающего и лживого контента. Есть мнение, что, если люди начнут каждый месяц платить небольшую сумму за пользование соцсетью, материальные стимулы платформы будут крепче увязаны с интересами пользователей.

Facebook* уже рассматривает этот вариант. Ее операционный директор Шерил Сэндберг рассказала об идее перевести Facebook* на условно-бесплатную модель, позволяющую пользователям за деньги отключать рекламу (и, возможно, сбор личных данных). Экономически это возможно: подобные модели уже процветают. Музыкальный сервис Pandora доступен бесплатно — но отключить рекламу можно только за деньги. The New York Times позволяет безвозмездно прочесть 10 статей в месяц — за остальные придется платить.

Но приемлема ли такая модель для соцсети? Facebook* и ряд других крупных компаний создали крайне высокодоходный сектор экономики и едва ли откажутся от найденного источника прибыли — если только регуляторы не окажут на них серьезное давление (об этом мы поговорим ниже).

Но даже если бы мы могли в одночасье изменить бизнес-модели соцсетей, решило бы это проблему? Многие нишевые площадки, производящие разнообразный узкоспециальный контент, не выживут без дохода от рекламы: модели подписки окупаются только для крупных игроков. Вместо того чтобы платить множеству мелких сервисов, потребители скорее подпишутся на несколько широких категорий контента (новости, спорт, мнения и т. д.). А значит, рынок наверняка сожмется, оказавшись в руках нескольких крупных игроков. Такая утрата информационного разнообразия нанесет обществу колоссальный ущерб.

Изменения коснутся не только публикаторов и пользователей. Сфера ­цифрового маркетинга в соцсетях включает в себя множество других компаний, создает большое число рабочих мест и обеспечивает работой бренды, агентства, трейдеров, платформы со стороны спроса и предложения, рекламные биржи, рекламные сети и т. д.

Кроме того, переход на модель подписки может усугубить неравенство в обществе. Согласно исследованию Pew Research Center 2017 года, почти 70% взрослых американцев «по меньшей мере часть новостей узнают из соцсетей»; 70% пользователей Twitter из США утверждают, что получают новости из него. Помимо новостей, Facebook* дает людям возможность расширять социальные связи — а это очень важно, например, при поиске работы. Модель подписки наверняка ограничит возможности людей, которым не по карману платить за соцсети.

Эта модель усилит и то, что я называю разрывом в приватности, — неравномерность распределения приватности в обществе. Платить за Facebook* (скажем, $9,99 в месяц) смогут лишь обеспеченные пользователи. Если мы ценим конфиденциальность и стремимся защищать личные данные, стоит ли создавать общество, где богатые смогут купить приватность, а бедным придется жертвовать ею ради доступа к информации и поиска работы?

Подведем итог: радикальные перемены в бизнес-модели соцсетей ­маловероятны — по крайней мере, в США. Да они и не нужны: жесткие меры могут разрушить ту ценность, которую платформы создают для потребителей и акционеров, а также повлечь ряд иных негативных последствий. Впрочем, есть менее радикальная и более реалистичная альтернатива.

2. Скорректировать систему, не меняя ее в корне. Платформенные компании располагают ресурсами, позволяющими ограничить распространение ложных новостей. Они могли бы совместно с другими сторонами обучать и защищать пользователей — выявлять и маркировать дезинформацию в расчете на то, что люди не захотят делиться сомнительным контентом.

Такой подход потребует доработки существующих алгоритмов и сотрудничества с рядом сторон. Сегодня одни алгоритмы определяют содержание ленты новостей, другие оценивают и повышают охват и популярность самого притягательного (не всегда правдивого) контента; API и модели таргетинга рекламы позволяют рекламодателям и политтехнологам направлять контент конкретной аудитории — например, склонной доверять ложным новостям по конкретной теме. При наличии достаточно точной системы оценки достоверности эти алгоритмы можно будет доработать, чтобы они замедляли распространение лжи.

Другой подход опирается на информационный дизайн и проверку фактов. Дизайн онлайн-новостей влияет на то, как мы воспринимаем контент, реагируем на него и обмениваемся им. Если информационный дизайн будет ориентирован на недопущение лжи, это помешает ее распространению.

Вопросы регулирования

Сегодня в СМИ активно обсуждается тема государственного надзора над крупнейшими соцсетями. Марк Цукерберг уже дал показания в Конгрессе США в марте и апреле и выступил в Европарламенте в мае 2018 года. В том же мае Евросоюз принял Общий регламент по защите данных — документ, призванный защитить персональные данные пользователей. Я не берусь делать здесь выводы о том, какой подход к вопросам приватности и антимонопольной политики будет правильным. Однако регуляторы должны учитывать мнение экспертов по цифровой экономике и действовать осторожно.

Некоторые законодатели в США убеждены, что соцсеть Facebook* слишком велика для саморегулирования и должна контролироваться извне. Другие опасаются, что такой контроль повлечет непредсказуемые последствия для общества и экономики. Однако вопрос о том, нужно ли регулировать соцсети, устарел. Пора задать другой — как путем регулирования сохранить их достоинства и устранить недостатки?

Фальшивые новости особенно сложно держать под контролем, ведь здесь неизбежно возникает вопрос: кто вправе решать, что можно и что нельзя распространять? Пожалуй, это самый важный вопрос, встающий перед демократиями в информационную эру. Мы не наделяем государство правом цензурировать новости; готовы ли мы доверить ему контроль над распространением информации в интернете? Диктаторы и авторитарные лидеры легко могли бы использовать это право для укрепления своей власти. Не так давно Малайзия ввела наказание в виде тюремного заключения сроком до шести лет для распространителей ложных новостей. С помощью таких драконовских мер легко заткнуть рот оппозиции и репрессировать неугодных.

Есть и другие вопросы — например, насколько соцсеть отвечает за то, что публикуют ее пользователи? Закон США 1996 года о пристойности в коммуникациях гласит, что платформы, подобные Facebook*, — лишь посредники, не несущие ответственности за публикации пользователей. Этот принцип был призван защитить свободу слова, в том числе в сети. В наши дни его разумность подвергается сомнению: не следует ли сделать исключение для тех случаев, когда злоупотребление свободой слова несет явный вред? В частности, недавно Сенат США утвердил Закон о запрете секс-торговли людьми (SESTA), согласно которому Facebook* отныне несет ответственность за размещаемые в этой соцсети объявления, связанные с секс-торговлей.

Закон о пристойности крайне важен для того, чтобы платформы осознавали ответственность за влияние на мир. Использовать его нужно разумно, ведь ограничение свободы слова — весьма скользкая тема. И здесь законодатели должны тщательно взвешивать все за и против.

Сложность этого вопроса иллюстрирует проблема контроля над политическими высказываниями в интернете. В Мэриленде недавно приняли закон, обязующий соцсети отслеживать всю политическую рекламу и ее таргетирование. Этот же закон запрещает использовать на выборах в штате иностранную валюту и уполномочивает наблюдательную комиссию рассматривать жалобы на онлайн-рекламу и давление на избирателей. Facebook* и Twitter обязались соблюдать Закон о честной рекламе (который введет аналогичные ограничения на федеральном уровне) и уже привели в соответствие с ним свои технологии. Однако есть мнение, что закон штата Мэриленд противоречит Первой поправке к Конституции США. Кроме того, безусловно, регулирование приведет к тому, что политические высказывания будут оценивать политические деятели, имеющие собственные интересы и предпочтения.

Регулировать сбор личных данных также непросто. От этих данных зависит работа множества отраслей и социальных сервисов. Например, система кредитных рейтингов США собирает, использует и продает по­дробные данные рекламодателям для таргетирования. Люди так или иначе вынуждены сообщать личные данные, когда используют кредитные карты, берут ипотеку, путешествуют, получают образование, пользуются медицинскими и социальными услугами. Регуляторы должны оценить пользу от защиты конфиденциальности и вред, который ограничение сбора данных может нанести поставщикам базовых услуг.

Если ограничить сбор данных, собирать их лишь с согласия пользователя или внедрить API для переносимости данных, это вызовет непредсказуемые последствия. В частности, защита информации и конкуренция находятся в отношениях обратной зависимости. Переносимость данных может усилить конкуренцию: ведь новые компании получат доступ к информации, накопленной солидными игроками (а значит, и их сетевому эффекту). Однако сегодня Facebook* критикуют за передачу данных, например, производителям техники, мобильным провайдерам и разработчикам приложений. Нужны решения, которые обеспечат баланс между защитой информации и конкуренцией — иначе усиление одного фактора ослабит другой.

Даже при высоком уровне защиты данных их переносимость необязательно усилит конкуренцию. Например, если позволить людям переносить свои данные из одной соцсети в другую, это может привести к конкуренции между платформами — но есть вероятность, что люди будут доверять данные только крупным игрокам, игнорируя незнакомые стартапы. Введение общих ограничений сейчас, когда Facebook* и другие гиганты уже создали монополии, лишь укрепит их позиции на рынке и снизит конкурентоспособность других. Быть может, ограничения на сбор и использование данных следует дополнить антимонопольными мерами? Стоит понаблюдать, как будет применяться Общий регламент по защите данных в Европе: он предусматривает и защиту приватности, и переносимость данных, а значит, может стать предтечей аналогичных инициатив в США.

Как ученого меня беспокоят побочные эффекты того, что я называю парадоксом прозрачности. Сегодня Facebook* просят раскрыть максимум сведений о том, как работают его алгоритмы ленты новостей, трендинга и таргетирования — и как Россия и другие субъекты могут использовать соцсеть для распространения пропаганды и ложных новостей. В то же время от Facebook* требуют повысить безопасность и лучше защищать собственные данные и данные пользователей. Facebook* помогает ученым оценить влияние соцсетей на выборы; инициатива, разработанная компанией вместе с Гэри Кингом из Гарварда и Нейтом Персили из Стэнфорда, предлагает новую и весьма ценную модель сотрудничества науки и бизнеса. И все же есть риск, что, боясь разделить участь Cambridge Analytica, компания начнет перестраховываться и не даст исследователям провести на ее материале весь объем столь нужных сейчас изысканий.

Грядущие сложности

Справиться с засильем лжи будет непросто. Во-первых, почти каждое решение потребует каким-то образом отличать правду от неправды. Чтобы маркировка давала нужную информацию, а алгоритмы блокировали фальшивые новости, нужно для начала определить, где пролегает граница между правдой и ложью, и дать кому-то право принимать решения. Это нетривиальная задача.

Во-вторых, ложь постоянно меняет облик. Какие бы преграды ни вставали на ее пути, люди, заинтересованные в ее продвижении, научатся их обходить. Из выделенных и изученных нами категорий лжи едва ли не самой изощренной стала смешанная ложь — это новости, содержащие и корректные, и некорректные данные. Ложь так закутывается в истину, что ее трудно выявить — и еще труднее ей не поддаться. Если фальшивые новости будут безжалостно удаляться, завуалированной неправды станет еще больше.

В-третьих, та ложь, с которой мы сталкиваемся сегодня, — детский лепет по сравнению с тем, что нас ждет в ближайшем будущем. Если в 2016 году Россия, пытаясь влиять на выборы в США, использовала текстовые сообщения с отретушированными фотографиями, то фальшивые новости будущего будут представлять собой синтез сфабрикованных аудио- и видеоматериалов, неотличимых от реальных. Представьте себе такие ролики, дискредитирующие политиков, — в долгосрочной перспективе они нанесут больший урон, чем новости о реальных проступках общественных деятелей, которые сами они называют «фейками». Технологии синтеза медиа изменят наше восприятие реальности и критерии истины. Автор нашумевших поддельных видеороликов, чей псевдоним deepfakes дал название этому жанру фальшивок, уже заявил о планах сделать свое ПО более доступным. По мере того как волна высокотехнологичной лжи будет ­захлестывать мир, выявление, маркировка и блокировка подделок станет для нас важнейшей задачей.

Наконец, нужно продолжать изучать влияние соцсетей на общество. То, как люди реагируют на микротаргетинг рекламы сегодня, может многое сказать о том, как они воспримут политические манипуляции завтра. Надо признать, что их реакция заметна, но не слишком впечатляет: мнение людей удается изменить в 0,01—0,1% случаев. Если цифры столь низки, можно ли верить бывшему сотруднику Cambridge Analytica Кристоферу Уайли, утверждающему, что эта компания ответственна за 5—7% результатов голосования на президентских выборах в США? Мы не знаем этого наверняка — но если хотим противостоять информационным угрозам, придется разобраться и в этом, и во многом другом.

Как ограничить распространение неправды и стимулировать распространение правды?Как ограничить распространение неправды и стимулировать распространение правды?Изобилие лживых новостей может привести к тому, что Франклин Фоер из журнала Atlantic назвал «концом реальности». Мы живем в мире, где иностранные правительства распространяют дезинформацию, чтобы влиять на выборы и рушить демократии, где политики называют «фейком» любую критику и где новые технологии позволяют создавать реальность, почти неотличимую от нашей. Если все это разорвет связь между миром и нашим представлением о нем, человечество ждут серьезные проблемы. Платформы, ученые и законодатели должны сплотиться ради сохранения правды — пока мы не оказались вовлечены в масштабную битву за реальность.

Об авторе. Синан Арал (Sinan Aral) — профессор менеджмента Массачусетского технологического института, профессор ИТ и маркетинга Института данных, систем и общества при Массачусетском технологическом институте.

* принадлежит Meta, которая признана в России экстремистской и запрещена