Цивилизация
Независимый специалист по обработке данных и исследователь дезинформации известный под ником Conspirador Norteño обнаружил сеть турецких Twitter-ботов, обсуждающих порнографию на платформе, сообщает Viсe.
Meet @Dilde97512368, a Twitter account with a GAN-generated profile pic that is followed by lots of other accounts with GAN-generated pics.
— Conspirador Norteo (@conspirator0) February 14, 2021
(GAN = "generative adversarial network", the AI technique used by https://t.co/AxF5723Pje to generate fake face pics.)
cc: @ZellaQuixote pic.twitter.com/7O0GTgyZGk
«Встречайте @Dilde97512368, учетную запись с искусственно созданным аватаром, за которой следует множество других учетных записей с такими же фотографиями», — пишет специалист в Twitter-аккаунте.
В сети числится более 3000 аккаунтов. По словам Conspirador Norteño, они были созданы 25 января и используют сгенерированные GAN-аватары, некоторые из которых повторяются.
GAN, или генеративно-состязательная сеть — это метод создания высококачественных поддельных изображений. Эта сеть учится создавать реалистичные изображения, изучая большое количество входящих данных, например, портреты несуществующих людей.
Многие из таких изображений содержат детали, которых не может быть на реальной фотографии, например, неестественные завитки волос или странное расположение рта и глаз. Однако Conspirador Norteño сообщает, что найденных им ботов сложно опознать по этим признакам, потому что такие детали невозможно разглядеть на маленькой аватарке в Twitter.
Известно, что более 900 аккаунтов из этой сети имеют в качестве аватарки женские лица на чистом белом фоне, около 275 из них — аниме-аватары, а 307 — кошачьи морды.
Опасность этих ботов заключается в том, что они пропагандируют порнографию и ставки на спорт, в основном, на турецком языке.
«Эта сеть массово отвечает на посты в Twitter, причем часто сотни ботов отвечают на один и тот же твит», — рассказал Conspirador Norteño.
Стоит отметить, что эта бот-сеть, рассказывающая о порнографии и спортивных ставках, нарушает правила Twitter. Политика социальной сети запрещает «координировать вредоносные действия, поощряющие или стимулирующие поведение, которое нарушает правила платформы», а также «координированные действия с целью искусственного влияния на переписки путем использования нескольких учетных записей, фиктивных учетных записей, автоматизации и сценариев».
Однако Twitter-ботов становится все труднее обнаружить и отличить от реального пользователя.
Раньше их можно было опознать по пустой аватарке и нику, на конце которого располагается строка случайных чисел. Однако теперь искусственный интеллект и нейросети может генерировать фейковым аккаунтам уникальные аватарки, которые сложно отличить от настоящих, что позволяет им долгое время оставаться незамеченными и продолжать свою деятельность.
«Раньше боты вычислялись легче: аватар, как правило, воровали с живой страницы, что легко проверялось с помощью любого поисковика. Сейчас же с появлением специальных программ, которые генерируют уникальные изображения с лицами или персонажами, сделать это сложнее», — подтверждает Digital Project Manager коммуникационной группы iMARS Владимир Табуров.
По словам эксперта, боты могут принести немало проблем: от распространения запрещенного контента до введения пользователей в заблуждение с помощью вбросов фейковой информации и инициирования пропагандистских дискуссий.
«Социальные сети должны держать руку на пульсе и постоянно совершенствовать систему блокировки ботов. Ведь сегодня «агентами влияния» пользуются не только бренды и политические силы, но и злоумышленники», — считает Табуров.
Управляющий партнер коммуникационного агентства B&C Agency Марк Шерман отметил, что на первый взгляд, наличие этой сети ботов не должно вызвать проблем у обычного пользователя.
«С другой стороны, массированный вброс какой-то информации с помощью тысяч аккаунтов может привести к тому, что этой темой начнут интересоваться — в данном случае речь идет о таких кликабельных вещах, как спортивные ставки, и если туда перейдет даже небольшое количество людей, ставка на ботов будет оправдана. За небольшие деньги можно добиться монетизации, пока новый алгоритм появления ботов не накрыли. Для Twitter это несет репутационные потери, поскольку мессенджер позиционирует себя как борца за правду: банит аккаунты, как получилось с Дональдом Трампом и собирается вводить верификацию твитов», — объяснил Шерман.
По его словам, боты вводят пользователей в заблуждение, поскольку продвижением информации занимаются не реальные люди, а алгоритмы.
«Пользователям можно посоветовать не поддаваться на кликабельность и при малейших сомнениях в правдивости аккаунта. Кроме того, ссылки от ботов могут привести на вредоносные сайты, что может привести уже к большим финансовым проблемам», — заключил эксперт.
