В интернете есть все
Фонд наблюдения за Интернетом (Internet Watch Foundation, IWF) — одна из самых активных организаций, занимающихся изучением проблемы сексуальной эксплуатации детей. Согласно их последнему отчету, в 2023 году было зафиксировано значительное увеличение количества сгенерированного детского порнографического контента.
По данным аналитиков IWF, на форумах в даркнете ежемесячно публикуется около 10 тыс. потенциально противозаконных изображений несовершеннолетних, созданных при помощи ИИ. Анализ материалов в один из контрольных месяцев показал, что примерно 30% от всех изображений — однозначно криминальные. Почти все такие материалы представлены в виде псевдофотографий порнографического характера.
«Большинство обнаруженных ИИ-изображений были достаточно реалистичными, чтобы их можно было рассматривать как настоящее детское порно. Самые убедительные материалы визуально неотличимы от настоящих фотографий даже по мнению опытных аналитиков IWF», — говорится в заявлении фонда.
Сгенерированные видеоролики подобного рода тоже встречаются в даркнете. Однако они пока не обладают столь убедительным качеством, как псевдофотографии. При этом в IWF уверены, что появление правдоподобного детского видеопорно, созданного ИИ, — это вопрос ближайшего будущего.
Спрос рождает предложение
Сгенерированные изображения распространяются не только в даркнете. Известны случаи, когда подобные материалы встречались в Telegram, на Patreon (платформа для монетизации контента, созданного творческими людьми. – «Газета.Ru») и даже в так называемом клирнете — обычном интернете.
Согласно исследованию той же IWF, в 2023 году в клирнете работало по меньшей мере 15 веб-сайтов, на которых был размещен сгенерированный порноконтент c несовершеннолетними. Пять из них были зарегистрированы в Нидерландах, три – в Японии, два – в США. Еще по одному ресурсу было найдено на Украине, в России, Норвегии, Люксембурге и Гонконге.
На форумах в даркнете сгенерированное детское порно по популярности и объему значительно уступает оригинальному контенту. Однако за последний год соответствующие разделы появились на всех площадках, где администраторами детское порно одобрено.
«Все, что связано с детским порно, на форумах имеет большой спрос. Сгенерированный контент не является исключением. Правда, в случае с ИИ спрос сильно зависит от качества дипфейков. Насколько мне известно, основным рынком сбыта детского порно служат страны Средней Азии и Африки», — рассказал «Газете.Ru» один из исследователей даркнета.
Сгенерированный контент приобретается не только педофилами. Известны случаи, когда ИИ-изображения использовались для шантажа подростков.
Злоумышленники создают фейковые аккаунты в социальных сетях и связываются с подростками, представляясь их одноклассниками или друзьями. Они отправляют ребенку псевдофотографии, утверждая, что на них изображен он же, а следом требуют от жертвы либо деньги, либо подлинные эротические снимки взамен за нераспространение имеющихся.
Если очень захотеть
Хотя популярные ИИ-сервисы вроде DALL-E, Midjourney и Gemini запрещают создавать порнографический контент наравне с жестоким, лазейки для обхода этих запретов все равно существуют. В сущности у злоумышленников есть два способа создания ИИ-порно с несовершеннолетними.
Первый – это нишевые облачные сервисы, настроенные на «раздевание» людей на фотографиях. Обычно реклама таких платформ распространяется на порносайтах. По умолчанию такие веб-приложения не разрешают создавать контент с несовершеннолетними, однако злоумышленники подбирают промпты (запросы к нейросетям с целью получить желаемое изображение. – «Газета.Ru»), которые позволяют обходить встроенные ограничения. Ими люди периодически делятся на форумах в даркнете.
Более популярный метод создания противозаконных псевдофотографий — это локальный запуск нейросети на компьютере. В этом случае промпты обрабатываются не на удаленном сервере, а непосредственно на компьютере, и никем не модерируются, что полностью развязывает руки педофилам.
Как правило, для запуска подобных нейросетей требуются относительно мощные ПК.
Условная сложность второго метода заключается в подборе дата-сета — набора изображений для обучения нейросети. Условная она потому, что педофилы, как правило, уже имеют коллекции подобного контента. Для получения нового суррогата злоумышленники смешивают уже имеющиеся порнографические материалы с фотографиями новых жертв.
Человек и закон
Несложно догадаться, что создание порнографического контакта с участием несовершеннолетних в большинстве стран незаконно. Например, в 2023 году в Южной Корее мужчину приговорили к 2,5 года лишения свободы за использование нейросетей в аморальных целях. В мае 2024 года в США арестовали 42-летнего американца за создание 13 тысяч «гиперреалистичных» порноизображений с участием несовершеннолетних и отправку сгенерированных снимков 15-летнему мальчику в Instagram (владелец компания Meta признана в России экстремистской и запрещена). Ему грозит до 70 лет тюрьмы.
В России, как пояснил «Газете.Ru» основатель юридической компании Future Legal Павел Катков, такая деятельность тоже незаконна. Она подпадает под статью 242.1 УК РФ «Изготовление и оборот материалов или предметов с порнографическими изображениями несовершеннолетних». Максимальное наказание по ней — лишение свободы на срок до восьми лет.
В случае, если преступление совершено группой лиц по сговору, против лица, не достигшего 14 лет, с извлечением дохода в крупном размере или с использованием интернета, наказание может составить до 10 лет лишения свободы.
Также в УК РФ есть статья 242.2 «Использование несовершеннолетнего в целях изготовления порнографических материалов или предметов». По ней съемка детей для создания порнографического контента или привлечение несовершеннолетних «для участия в зрелищном мероприятии порнографического характера» также наказывается лишением свободы до 10 лет.
«Часть вторая этой же статьи считает те же деяния, совершенные с использованием средств массовой информации либо информационно-телекоммуникационных сетей, в том числе сети «Интернет», более общественно-опасными, поднимая наказание до 15 лет лишения свободы.
На мой взгляд, использование нейросетей также не смягчает, а усиливает ответственность, и к ней может добавиться антихакерская статья (273 УК РФ) и норма о распространении клеветы (128.1 УК РФ)», – заявил эксперт.
При этом Катков добавил, что в российском законодательстве есть пробел, который не предусматривает наказание за распространение инструкций о создании порноконтента с участием несовершеннолетних с использованием ИИ. По его словам, проработкой этого пробела должны заняться в Госдуме РФ.