Расизм наяву
Во вторник, 9 апреля, в конгрессе США прошли слушания, посвященные национализму и преступлениям на почве ненависти в интернете. На заседании также присутствовали представители Facebook (владелец компания Meta признана в России экстремистской и запрещена) и Google, которые рассказывали о тех мерах, которые предпринимаются администрацией онлайн-ресурсов, чтобы справиться с потоком агрессивных комментариев.
Наглядный пример того, что такая проблема действительно существует, произошел прямо во время заседания. Слушания транслировались в прямом эфире на видеохостинге YouTube (принадлежит Google), сопровождаемом секцией комментариев, в которой пользователи могли обмениваться мнениями в режиме онлайн.
К сожалению, трансляция быстро свернула не туда — зрители оставили рекордное количество расистских и антисемитских комментариев, чистить которые модераторы видеохостинга не успевали.
Кроме того, некоторые из пользователей специально делали орфографические ошибки, чтобы алгоритм не мог распознать «опасные» слова и удалить их автоматически.
В результате администрации YouTube пришлось «закрыть комменты», так как справиться с потоком расизма не представлялось возможным — секцию комментариев отключили спустя около 30 минут после начала заседания.
«Риторике ненависти не место на YouTube. Мы вкладываем много усилий и средств в сотрудников и технологии, которые призваны удалять ненавистнические комментарии и видео. Из-за наличия агрессивных сообщений мы отключили комментарии под прямой трансляцией слушаний Юридического комитета», — заявили в пресс-службе YouTube.
Сообщается, даже после отключения комментариев расистские сообщения продолжили появляться под другими, неофициальными стримами из конгресса.
Утром 10 апреля стало известно о том, что в работе YouTube произошел масштабный сбой. При этом с проблемами столкнулись жители России, США, Украины, Японии, Германии, Великобритании, Франции, Болгарии и Румынии. Большинство пользователей (66%) испытывали трудности с трансляцией видео.
Кто-то должен нести ответственность
Слушания в конгрессе были инициированы американскими законодателями после расстрела прихожан в новозеландском городе Крайстчерч в марте текущего года. Тогда от рук преступников погибли 50 человек. Один из нападавших снимал происходящее на камеру и транслировал бойню в прямом эфире на крупнейших онлайн-платформах, в том числе в Facebook и YouTube.
В сети социальные сети подверглись шквалу критики за неспособность остановить распространение жестокого видео. Тогда вице-президент и заместитель главного юрисконсульта Facebook Крис Сондерби утверждал, что трансляцию убийства успели посмотреть менее 200 раз, пока оно было в эфире, и около 4 тыс. раз перед тем, как оно было удалено с платформы.
Новый доклад от Facebook вышел на следующий день после новости о том, как социальная сеть удалила 1,5 млн видео с атакой мечети в Новой Зеландии за первые 24 часа после нападения, включая 1,2 млн роликов, которые были запрещены соцсетью к повторной загрузке.
Тем не менее, это означает, что Facebook так и не смогла остановить 20%, или 300 тыс. видео, которые все-таки попали на платформу, а значит были просмотрены пользователями.
Этой ситуацией заинтересовались власти США. Председатель комитета Сената по внутренней безопасности Бенни Томпсон направил приглашения в адрес главы Facebook Марка Цукерберга, главы YouTube Сьюзан Войжицки, главы Twitter Джека Дорси и главы Microsoft Сатьи Наделлы, в которых призвал компании Кремниевой долины отчитаться по данному вопросу.
«Я был глубоко обеспокоен, когда узнал, что один из стрелков транслировал эту атаку в прямом эфире в Facebook, а впоследствии этот ролик был повторно загружен в Twitter, YouTube и другие платформы. Видео было широко распространено на ваших платформах долгое время после атаки, несмотря на призывы новозеландских властей удалить его», — заявил председатель комитета.
В письмах-приглашениях говорилось о том, что IT-компании должны удалять террористический контент в приоритетном порядке. «Вы способны на большее», — заявил Бенни Томпсон.