Цивилизация
Прошел год с момента инцидента в Капитолии 6 января 2021 года, когда сторонники экс-президента США Дональда Трампа устроили беспорядки в Вашингтоне в знак протеста против результатов президентских выборов. Событие стало знаковым для современной истории штатов: оно не только обозначило раскол в американском обществе, но и раскрыло нового «игрока», имеющего реальные рычаги давления на политические и общественные процессы, – бигтех.
Во многом январские события произошли из-за неспособности (или нежелания?) крупнейших американских соцсетей контролировать происходящее на собственных площадках. Скандалы, жестокость, конспирология, фейки – эти и другие виды негативного контента бигтеху оказалось продвигать куда выгоднее, чем правду и официальную информацию. Ведь именно провокационные публикации привлекают большее внимание аудитории, повышают просмотры и время, проводимое на площадке, - а значит и прибыль ИТ-гигантов.
То, что беспорядки в Капитолии не обошлись без «подогрева» со стороны соцсетей, привлекло внимание регуляторов, и о проблеме, наконец, заговорили уже на уровне руководства страны.
В марте 2021 года Конгресс США призвал к ответу глав Facebook (Марк Цукерберг), Google (Сундар Пичаи) и Twitter (на тот момент пост занимал Джек Дорси). Платформы обвинили в распространении фейков и деструктивного контента, которые в итоге привели к штурму Капитолия. Тогда ответственность за недостаточную модерацию и спорные решения алгоритмов признал только Дорси, однако роль других обвиняемых в произошедшем особо не вызывает сомнений. Так, за несколько недель до событий в американской столице Facebook распустил оперативную рабочую группу по модерации политических сообществ - видимо решив, что постоянный контроль за таким контентом на площадке излишен.
А на YouTube даже год спустя теории заговора и фейки о фальсификации выборов, все еще легко доступны и набирают просмотры. Некоторые из них совершенно абсурдны, как, например, видеоролики, в которых утверждается, что противники Трампа использовали Covid-19 в качестве биологического оружия, чтобы украсть результаты выборов. Тем не менее, такой контент до сих пор востребован, а значит кто-то из пользователей его потребляет и верит в его достоверность.
Осенью прошлого года опасения по поводу недобросовестной модерации ИТ-гигантов появились даже у преданных фанатов американских соцсетей.
Особенно, конечно, у тех, кто пользовался Facebook: корпорация Марка Цукерберга попала в такой скандал, что её руководству пришлось спешно проводить ребрендинг для спасения «честного» имени. Правда это едва ли помогло компании. Порядка 40% американцев негативно отнеслись к смене названия, а 51% связали перемены с попыткой замять череду громких скандалов. Не удалось реабилитироваться и к концу года. В рейтинге Yahoo Finance Meta была признана худшей компанией 2021 года. Менее привлекательной корпорация стала и для специалистов отрасли: в ежегодном рейтинге лучших мест для работы в США Meta опустилась c 11 места на 47. Это стало худшим результатом ИТ-гиганта за последние 12 лет.
Такие низкие показатели не удивительны с учетом громких разоблачений, которые буквально сыпались на голову ИТ-гиганта в 2021 году. Выяснилось, что компания игнорировала сообщения о незаконной деятельности мексиканского наркокартеля, закрывала глаза на наличие на платформе объявлений о продаже людей, сама продвигала разжигающие ненависть посты об этнических меньшинствах с призывами к насилию.
В декабре Facebook столкнулась с рядом судебных исков со стороны беженцев рохинджа по обвинению в подстрекательстве к геноциду в 2017 году мусульманского меньшинства в Мьянме. WSJ выяснил, что компания Цукерберга «приложила руку» и к трагическим событиям в Эфиопии в 2020-м году: радикально настроенные группы использовали Facebook для призывов к насилию в отношении народа, населяющего штат Тыграй, ставшего жертвой этнической чистки. Экстремистский контент просочился в сеть из-за банального отсутствия модераторов, говорящих на местных языках и наречиях. Кроме того, компания даже не удосужилась перевести свои правила сообщества на местные языки.
Скандалы, связанные с безответственностью техногиганта, плавно перетекли и в новый 2022-й год: в начале января Анджела Андервуд, сестра офицера службы безопасности, убитого в американском Окленде в 2020 году, подала в суд на Facebook, обвинив соцсеть в сознательном продвижении разжигающего ненависть, жестокого контента и призывов к экстремизму.
Причина подобных ситуаций не только в безответственном подходе ИТ-гигантов, но и в банальном распределении финансирования. Согласно документам, предоставленным бывшей сотрудницей Facebook Фрэнсис Хауген, порядка 84% бюджета, выделенного на борьбу с дезинформацией и ненавистью, распределены на модерацию контента в США, хотя американцы составляют менее 10% аудитории соцсети. Всем остальным остается всего 16% средств. Это приводит к тому, что некоторым странам достается смешное число модераторов-людей, явно не способных сдержать лавину деструктива, и никаких автоматизированных систем, которые бы заменили человека. Так обстоят дела, например, в Финляндии, где борьбу с противозаконным контентом осуществляют всего 11 сотрудников, сидящих в берлинском офисе. Автоматической модерации удостаиваются лишь наиболее популярные на просторах сети языковые группы. Финны своего алгоритма не получили, а значит без присмотра остался такой запрещенный контент, как язык вражды, насилие и нагота.
Россия не исключение из этой печальной тенденции.
У нас в стране все еще нет офисов ни Facebook, ни других ИТ-гигантов, где работали бы русскоязычные модераторы, а количество деструктива на интернет-площадках и не думает уменьшаться. По данным Роскомнадзора, только с января по сентябрь 2021 года было выявлено и заблокировано более 427 тыс. материалов с запрещенным контентом. 166 тыс. из них относились к таким категориям, как «наркотики», «пропаганда самоубийства» и «детская порнография». Показательно, что более трети всей запрещенной информации прислали в ведомство сами россияне (видимо, на жалобы соцсети не обратили никакого внимания).
С такой «закономерной» практикой необходимо бороться, и российский регулятор активно принимает меры по обузданию ИТ-гигантов.
В декабре 2021 года за систематическое неудаление запрещенного контента Meta (как теперь именуется Facebook) назначили оборотный штраф в размере 1,99 млрд руб., по той же статье был оштрафован Google - на 7,221 млрд руб. За игнорирование закона ранее был наказан и Twitter. 10 марта Роскомнадзор сообщил о замедлении трафика соцсети на территории России. Почти сразу после этого компания пошла на мировую, не рискнув нарываться на полную блокировку ресурса. Сегодня на платформе удалено более 90% запрещенной информации, однако скорость модерации оставляет желать лучшего.
Ситуация выходит парадоксальная: количество деструктивного контента на иностранных площадках остается гигантским, мощностей для модерации запрещенных материалов у них явно не хватает, безопасность российских пользователей для американских офисов не в приоритете, зато времени на то, чтобы пристально отслеживать и цензурировать контент российских СМИ, у ИТ-гигантов предостаточно.
По статистике, представленной Роскомнадзором в ноябре 2021-го, с 2020 года был зафиксирован 51 случай цензуры материалов российских СМИ и их официальных аккаунтов со стороны зарубежных интернет-площадок. Лидером среди цензоров стал YouTube — 24 случая; затем идет Facebook — 13 случаев; Instagram — 8; Twitter — 4; Google — 1; TikTok — 1. При этом зачастую при блокировке не сообщается конкретная причина, а следуют пространные заявления о нарушении правил сообщества той или иной площадки.
Непонятно, где находится граница и как далеко может зайти «американская машина цензуры», если даже ссылки в материалах на официальную информацию от государственных органов не останавливают ИТ-гигантов от того, чтобы объявить контент фейком.
Показательным стал случай, когда в марте прошлого года Facebook заблокировал статьи РБК, ТАСС, «Ведомостей» и «Коммерсанта», основанные на официальном сообщении ФСБ и Следственного комитета.
Проблемы ИТ-гигантов с модерацией, их растущие возможности влиять на миллионы пользователей, непрозрачная работа алгоритмов, политическая предвзятость – все это привлекает все большее внимание регуляторов по всему миру.
Стремление обуздать корпорации, жаждущие наживы, но не проявляющие достаточно ответственности по отношению к своей аудитории, - уже общемировой тренд. В 2021 году меры по защите пользователей, особенно несовершеннолетних, от негативного влияния соцсетей приняла Великобритания. Австралия предложила правительствам всего мира призвать социальные сети к саморегулированию, а также совместно выработать нормы по борьбе с дезинформацией в интернете.
На своей американской родине бигтеху приходилось регулярно посещать слушания в Сенате и Конгрессе, пытаясь объяснить негативные результаты своей деятельности. В Евросоюзе в том году активно велась работа над европейскими законами «О цифровых услугах» и «О цифровых рынках», а в Германии с 1 февраля 2022-го вступит в силу новая редакция закона о социальных платформах: отныне операторы социальных платформ обязаны не удалять «контент, разжигающий ненависть», а докладывать о такого рода публикациях сразу в Федеральное ведомство уголовной полиции.
Конечно, учитывая существующие кейсы, довольно трудно представить, что техногиганты готовы всерьез взяться за изменение своей политики и пожертвовать частью прибыли ради безопасности пользователей. Тем не менее, остается надежда на то, что прошлый год со всеми скандалами, регуляторными мерами, жесткими санкциями и многомиллионными штрафами заставил бигтех сделать правильные выводы. И 2022-й станет для ИТ-индустрии действительно «новым» годом.
Автор — член Общественной палаты Российской Федерации, первый заместитель директора Института стратегических исследований и прогнозов (ИСИП) РУДН.
