За последние несколько недель разоблачения Facebook на основе внутренних документов, предоставленных бывшей сотрудницей компании Фрэнсис Хауген, подтвердили то, что правозащитники твердили годами: алгоритмическое усиление Facebook подстрекательского контента в сочетании с его неспособностью уделять приоритетное внимание модерации контента за пределами США и Европы, способствует распространению ненавистнических высказываний и дезинформации, дестабилизируя страны по всему миру.
Но в этой истории упущена важная деталь.
Facebook не просто распространяет дезинформацию. Как выяснил MIT Technology Review, компания её финансирует.
Секрет успеха, или как забрать доход у Google
В 2015 году Facebook (теперь уже Meta) запустил программу «Мгновенные статьи», которая дала пользователям возможность просматривать материалы интернет-изданий в мобильном приложении соцсети без перехода на их сайт.
Компания позиционировала инструмент как способ сократить время загрузки статьи и сделать ее просмотр более удобным для юзеров.
Широкой общественности продавались благие намерения, но на деле новая программа позволила Facebook переманить рекламный трафик с Google. До появления «Мгновенных статей» материалы, размещенные в соцсети, перенаправляли в браузер, где они открывались на собственном сайте СМИ или автора контента.
Рекламный провайдер, обычно Google, получал прибыль от любых просмотров или кликов по рекламе. Согласно новой схеме Facebook, статьи должны были открываться непосредственно в приложении соцсети, и теперь она завладела рекламным пространством. При этом соцсеть давала возможность заработать и самим авторам: если они подавали заявку на монетизацию с помощью рекламной сети Facebook, то соцсеть вставляла в их материалы рекламу, отчисляя с неё авторам процент дохода.
«Мгновенные статьи» быстро потеряли популярность у своей первоначальной аудитории - крупных СМИ, для которых выплаты были недостаточно высокими. Зато нашли множество заинтересованных авторов в странах третьего мира, где Facebook начал запускать инструмент в 2016 году. В 2018 году компания сообщила, что выплатила 1,5 миллиарда долларов авторам и разработчикам приложений (которые также могут участвовать в программе). К 2019 году эта цифра достигла нескольких миллиардов.
Рука, кормящая плагиаторов
Проблемы начались из-за концентрации Facebook на прибыли, а не на обеспечении безопасности на своей платформе. Компания долгое время слабо контролировала качество ресурсов, присоединяющихся к программе «Мгновенных статей». Кроме того, соцсеть не применяла санкций к пользователям-плагиаторам, публикующим идентичный контент на своих страницах Facebook, при том, что размещение одной и той же статьи на нескольких страницах могло удвоить количество пользователей, которые нажали на нее, и соответственно увеличить доход автора от рекламы.
Так по всему миру появились «кликбейт-фермы», которые ухватились за равнодушие Facebook и начали запускать сайты для публикации преимущественно плагиата, - регистрируя их в «Мгновенных статьях» и получая встроенную рекламу, а затем запуская эти статьи на нескольких десятках страниц Facebook одновременно.
Такие «кликбейт-фермы» внезапно появились и в Мьянме.
Через год после запуска «Мгновенных статей» только 2 из 10 популярных страниц на Facebook в Мьянме принадлежали официальным СМИ. К 2018 году их не осталось совсем. Вместо этого распространение получали фейки и материалы, созданные исключительно для получения кликов и заработка – без проверки фактов, зачастую предвзятые и деструктивные. В стране, где Facebook является синонимом интернета, низкокачественный контент преобладал над другими источниками информации.
Именно во время этой стремительной деградации цифровой среды Мьянмы произошел геноцид рохинджа – во многом из-за того, что в сети распространялись фейковые новости о том, что мусульмане вооружены, собираются толпами в 1000 человек и собираются убивать. Огромное количество фейковых новостей и кликбейтов подействовало как топливо в пламя и без того опасно высокой этнической и религиозной напряженности.
Бой с гидрой, или что происходит на самом деле
MIT Technology Review обнаружил, что проблема обрела глобальный масштаб. Сейчас существуют тысячи «кликбейт-ферм», в основном в странах, где выплаты Facebook обеспечивают более крупный и стабильный источник дохода, чем другая работа. Они больше не ограничиваются публикацией статей. Они выпускают одни и те же видео, выдавая их за прямые трансляции, и заводят учетные записи в Instagram, которые монетизируют напрямую или используют для увеличения трафика на свои сайты.
У Google та же проблема.
Его похожая программа AdSense использовалась для ферм в Македонии и Косово, ориентированных на американскую аудиторию в преддверии президентских выборов 2016 года. И именно AdSense сейчас стимулирует новые «кликбейт-фермы» публиковать на YouTube опасный контент и вирусную дезинформацию.
На первый взгляд кажется, что проблему решить легко, ведь у ИТ-гигантов есть базы всех, кто подал заявки на монетизацию, поэтому их можно отследить и заблокировать. Однако это все равно что отрубить одну голову гидре, ведь основная угроза кроется в самих цифровых корпорациях.
Заработок «кликбейт-ферм» зависит от того, насколько успешно системы рекомендаций по контенту Facebook и YouTube продвигают их статьи. Они не добились бы успеха и не стали бы заниматься плагиатом ненавистнического контента и фейков, если бы платформы не рекомендовали их контент.
В связи с этим, становится ясно, что основная причина проблема кроется в неуемном стремлении цифровых корпораций к росту, а значит удержанию существующих пользователей и привлечению новых. Их алгоритмы настроены таким образом, чтобы продвигать контент, который получит максимум реакций, - и именно ими становятся фейки, скандалы, сенсации и деструктив.
Желание максимизировать взаимодействие на платформах превратило алгоритмы площадок в гигантский мегафон для разжигания ненависти и распространения дезинформации.
В результате запрет самих «кликбейт-ферм» не является решением: их создатели всегда смогут запустить новые сайты и страницы, чтобы получить больше денег. Вместо этого необходимо тщательно изучить работу алгоритмов и механизмы вознаграждения за контент и взять их под усиленный контроль.
«Facebook может измениться, но явно не собирается делать этого самостоятельно, - отмечала Фрэнсис Хауген. - Я опасаюсь, что без каких-либо действий со стороны компании разногласия и экстремистское поведение, которое мы наблюдаем сегодня, — это только первые главы истории, настолько ужасающей, что никто не хочет знать, чем она закончится».