Цивилизация
На днях сверхпопулярный TikTok сообщил о планах ограничить рассылку уведомлений подросткам: пользователи младше 16 лет не будут получать оповещения после 9 вечера. Так соцсеть надеется с раннего возраста сформировать у юной аудитории полезные привычки поведения в онлайн-среде.
Немногим ранее YouTube также заявил о скором создании напоминаний о режиме сна, безопасного поиска и о том, что ролики несовершеннолетних пользователей будут по умолчанию приватными. Еще в YouTube Kids теперь не получится автоматически воспроизводить ролики один за другим.
Instagram после многочисленных жалоб тоже решил не отставать. В соцсети появилась функция Limits, которая дает возможность скрыть негативные комментарии и запросы на отправку личных сообщений от людей, которые не являются подписчиками или подписались недавно.
Пока не до конца ясно, как именно будут фильтроваться сообщения, но инициатива, в целом, полезная.
А Facebook, которому и принадлежит Instagram, заявил, что больше не будет допускать демонстрации таргетированной рекламы по интересам для пользователей, не достигших 18 лет. Теперь в Facebook, Messenger и Instagram можно будет показывать рекламу детям только исходя из информации об их поле, возрасте и местоположении. Не стоит правда забывать, что Facebook является одной из самых токсичных платформ, а меры по ограничению рекламы не появились бы, если ИТ-гиганта не поймали бы за руку.
Вполне вероятно, что на решение соцсети повлияло исследование австралийского центра Reset Australia. Оно доказало, что если подросток, не достигший 18 лет, будет интересоваться табачной продукцией, азартными играми или сайтами знакомств, то алгоритмы социальных сетей с радостью предложат ему все желаемое. А из постов о фитнес-тренировках и здоровом питании может неожиданно «вылезти» пропаганда анорексии и быстрого сжигания веса, что для юных девушек, например, может обернуться довольно травматичным увлечением.
Заявления – это, конечно, хорошо. Но жизнеспособность нововведений и фактический результат от их внедрения – совсем другое дело.
Отсутствие четких правил уже не раз позволяло технологическим корпорациям принимать решения сомнительной эффективности и также быстро от них отказываться. Никто не может дать гарантий, что алгоритмы рано или поздно не обманут собственных хозяев. И мы не раз уже убеждались, что ИТ-гиганты не очень-то ловко с ними управляются.
В качестве примера подойдет все тот же YouTube. Недавно американские аналитики доказали, что несмотря на то, что видеохостинг вовсю рассказывает о своих усилиях по обеспечению прозрачности сервиса, он навязывает своим пользователям контент сомнительного содержания.
Получается, что одни алгоритмы YouTube блокируют противоправный контент, а другие, наоборот, его рекомендуют?
Проблема непрозрачной работы внутренних систем модерации и таргетинга стоит сегодня как никогда остро. И пока государственные органы и эксперты из разных стран размышляют над тем, может ли искусственный интеллект оказывать на пользователей негативное влияние, прибыль продолжает поступать в карманы ИТ-гигантов.
Кстати, если Facebook и Instagram легко могут идентифицировать несовершеннолетних пользователей своих сетей (для чего им непременно придется собирать их персональные данные), чтобы их защищать, значит они смогут использовать эту информацию и для того, чтобы заработать.
Призвать ИТ-гигантов к ответственному поведению возможно только при грамотном взаимодействии всех участников процесса: пользователей, общественников и государственных институтов.
Бигтех стремительно разрастается, компании не просто занимают монопольное положение на цифровом рынке, но фактически управляют жизнью людей. При этом они располагают огромными объемами персональной информации. И очевидно, что защитить пользователей от манипуляций с их личными данными может только государство. Как незаинтересованная сторона.
Автор — первый зампредседателя комиссии по развитию информационного сообщества, СМИ и массовых коммуникаций Общественной палаты РФ.
