Словосочетание «деструктивный контент» у всех на слуху, но далеко не каждый сможет с уверенностью сказать, что это, собственно, такое. И не удивительно, ведь единодушия в данном вопросе нет. В широком смысле к деструктивному контенту относятся все материалы, распространяющиеся в сети, которые могут негативно повлиять на пользователей. Вариантов масса. Прибавим к этому терминологическую неоднозначность: для кого-то мы сейчас говорим о вредоносном контенте, для кого-то о социально опасном.
Общего подхода к категоризации подобного контента в международной практике также не найти. Мы в Региональном общественном центре интернет-технологий (РОЦИТ) провели масштабную работу и создали подробный категоризатор, актуальный для нашей страны. На основе анализа Рунета было выделено четыре блока деструктивного контента.
В первый попали 11 категорий материалов, запрещенных для распространения. Среди них, к примеру, популяризация сексуального насилия, оскорбление человеческого достоинства и явное неуважение к обществу. Ко второму отнесли ограниченный к распространению контент. Это изображение или описание жестокости, преступления или иные антиобщественные действия, нецензурная лексика и так далее. Третий блок включил контент, вовлекающий в противоправную деятельность. К этому блоку относится, допустим, демонстрация жестокого обращения с животными. Четвертый блок посвящен контенту, нарушающему нормы морали и нравственности. Это, к примеру, контент, популяризирующий травлю в сети или расстройства пищевого поведения.
В настоящее время разработанный реестр действует параллельно с Единым реестром запрещенной информации Роскомнадзора. Перечни, имеющие различную форму и объем, успешно сосуществуют, дополняя друг друга.
Итак, в интернет-пространстве пользователю могут встретиться и откровенно незаконные материалы, которые не всегда оперативно удаляются, а порой, если мы говорим об иностранных площадках, просто игнорируются; и материалы сомнительного содержания. Важно помнить: вредным может оказаться и незапрещенный контент.
Есть примеры, когда контент, который носит явно нездоровый характер, активно популяризируется. Так, в прошлом году вернулся в моду, казалось бы, уже ушедший тренд на экстремальную худобу и стиль, получивший название «героиновый шик». Молодые люди одеваются и красятся особым образом, чтобы походить на инфлюэнсеров 90-х, которые кутили каждую ночь до утра и употребляли тяжелые вещества. Однако стиль, хоть и отсылающий к культуре наркопотребления, не является прямой популяризацией наркотиков. Разумеется, законодательно не запретишь людям выглядеть тем или иным образом. Однако этот тренд критикуют и у нас, и на Западе, откуда он пошел. Важно следить, чтобы молодежь не заигрывалась и не перенимала сомнительный образ жизни, который прячется за такими модными веяниями.
Особенно нуждаются в защите от деструктивного контента дети и пожилые люди как самые незащищенные от сетевых угроз категории граждан. Конечно, сегодня, когда в России существует закон о самоконтроле социальных сетей, ситуация изменилась в лучшую сторону. Ведь всего несколько лет назад на просторах интернета можно было встретить шуточные вредные советы, которые были реально опасны для жизни и здоровья. К примеру: чтобы увидеть красивую радугу, возьмите лупу и посмотрите через нее на солнце безоблачным летним днем. А если маленький ребенок прочитает такое и поверит? Страшно представить.
Сейчас с проблемой распространения деструктивного контента мы сталкиваемся в основном на иностранных площадках. Яркая демонстрация этого – видеохостинг YouTube. Недавно исследователи обнаружили, что рекомендации YouTube приводят детей к видео о стрельбе в школах и другим материалам, посвященным оружию. Специалисты Tech Transparency Project создали аккаунты девятилетних и четырнадцатилетних мальчиков и смотрели с них плейлисты о популярных видеоиграх. Вскоре обнаружилось, что алгоритм YouTube настойчиво выдает юным пользователям агрессивный и опасный контент, не связанный с играми.
Естественно, эта проблема касается и Рунета. Так, Лига безопасного интернета выявила распространение роликов по изготовлению коктейлей Молотова на видеохостинге. В связи с этим организация обратилась в Генпрокуратуру РФ. По итогам 2022 года Роскомнадзор сообщил, что администрация YouTube не удалила более 35 тысяч материалов, нарушающих российское законодательство.
В то же время российские платформы вводят новые меры по противодействию деструктиву. Помимо того, что запрещенный контент удаляется, на контроль стараются ставить и просто сомнительные материалы. Хороший пример – использование заглушки, которая предупреждает пользователя о шок-контенте. Такой инструмент решили опробовать в «ВКонтакте». В прошлом году нововведение, призванное обезопасить и увеличить комфорт пользователей, ввели в тестовом режиме.
Сами россияне согласны с тем, что с распространением подобных материалов следует бороться. По данным опроса РОЦИТ, среди граждан, знакомых с понятием деструктивного контента, 82% выступают за то, чтобы ограничивать доступ к незапрещенному деструктивного контенту. Более того, 73% опрошенных в качестве меры ограничения предпочли бы законодательное регулирование, 15% проголосовали за меры общественного контроля.
Существует три условных подхода к противодействию деструктивному контенту, которые различаются соотношением мер, предпринимаемых государством, пользователями и самими платформами. Американский подход предполагает, что платформы законодательно освобождены от ответственности за контент, который размещают пользователи. Европейский подход вводит ответственность платформ, однако обнаружением деструктивного контента и сигнализированием о его наличии занимаются сами пользователи. В азиатском подходе государство играет патерналистскую роль и принимает меры по борьбе с распространением деструктивного контента на цифровых платформах.
У нас в стране тяготеют к азиатскому подходу, однако российские общественные организации также активно борются с деструктивом в онлайн-пространстве. Над модерацией контента, помимо РОЦИТ, работают ИРИ, ЦИСМ, Лига безопасного интернета, «Крибрум» и другие.
Хорошо, что и пользователи в нашей стране стали лучше осведомлены о проблеме деструктивного контента и о том, как они могут помочь с ним бороться. Люди знают об инструментах реагирования и 41% хотя бы раз отправляли жалобы администрациям платформ.
Еще раз подчеркну, что деструктивный контент - вещь тонкая. Многие материалы, которые оказывают вредоносное влияние на пользователей, балансируют на грани дозволенного. В сети, где действуют самые разнообразные силы, среди которых и злонамеренные, и равнодушные к общественному благу, важно не забывать о цифровой гигиене и осознанно подходить к потреблению интернет-контента.
Автор — заместитель председателя правления Регионального общественного центра интернет-технологий (РОЦИТ)