Цивилизация
Звучит, на первый взгляд, здорово и ответственно, но, к сожалению, это уже не первый раз, когда коммерческие гиганты решают «омолодить» аудиторию и начать взращивать своих будущих покупателей буквально с пеленок.
К сожалению, основная цель даже, на первый взгляд, невинных инициатив, направленных на создание комфортной и безопасной среды, — это получение прибыли. А в погоне за ней корпорации стремятся как можно сильнее привязать к себе пользователей, и дети, увы, слишком часто становятся легкими жертвами манипулятивного дизайна и недостаточной модерации.
Не для детских глаз: взрослые сервисы могут довести до смерти
Конечно, полностью «отлучить» ребенка от виртуального мира не получится, да в этом и нет большого смысла. Мы живем в эпоху, когда иметь цифровые навыки необходимо каждому, и стремление детей ворваться в онлайн-пространство мы ограничить не сможем и не должны. Поэтому адаптированные, «вычищенные» версии интернет-платформ кажутся, на первый взгляд, неплохой идеей, чтобы и родители были спокойны, и дети не отрывались от современной жизни. Ведь в обратном случае соблазн ребенка попасть во взрослые сервисы все равно будет слишком велик, а мы, к сожалению, знаем, чем это может для них закончиться.
Совсем недавно против Meta (признана экстремистской организацией) и Snap были поданы иски из-за самоубийства подростка, который испытывал серьезную зависимость от их платформ.
.
Корпорации обвиняют в том, что они намеренно разработали алгоритмы, которые удерживают несовершеннолетних на платформах и поощряют увеличивать время, которое они там проводят. При этом, по заявлениям истцов, ИТ-гиганты прекрасно осведомлены о том, какой разрушительный эффект оказывает привыкание к платформам, однако ничего с этим не делают и не предупреждают ни юных пользователей, ни их родителей.
Параллельно этому ужасному и печальному судебному процессу прокуроры 8 штатов США расследуют, как другой популярный среди детей сервис – TikTok – использует различные технологии для удержания несовершеннолетних.
Деньги важнее детской безопасности
То, что взрослые сервисы совершенно не подходят юным пользователям и откровенно для них опасны, уже очевидно. Однако детские версии выглядят хорошей идеей лишь на первый взгляд. Перед желанием «завлечь» юных пользователей не в силах устоять ни один ИТ-гигант, и многие из них готовы поступаться здоровьем и безопасностью детей в своих продуктах.
Корпорации из Силиконовой долины действительно в курсе того, что их дизайн и рекомендательные сервисы, а также недостаточная модерация опасного контента влияют на подростков. Так, Instagram (компания-владелец Meta признана экстремистской организацией) был в курсе того, что он понижает самооценку девочек-подростков и способен привести к психическим расстройствам и суицидальным мыслям.
Однако это не мешало ИТ-гиганту разрабатывать детский Instagram*.
На компанию обрушился шквал справедливой критики со стороны родителей, общественников и регуляторов: по их мнению, основная цель приложения - «зацепить детей, когда они наиболее уязвимы, удержать их на платформе и получить доступ к как можно большему количеству их личных данных».
На волне возмущения корпорация пообещала приостановить – но не прекратить – это дело.
Между прочим это не первая попытка господина Цукерберга заполучить детскую аудиторию.
В 2018 году общественный резонанс вызвало приложение Messenger Kids, рассчитанное на пользователей до 13 лет. Американская организация «За детство без рекламы» (Campaign For a Commercial-Free Childhood) призвало руководство закрыть мессенджер, так как он усиливает зависимость детей от сети и способен негативно повлиять на их психику и социальные навыки.
Однако, даже не смотря на дальнейшие скандалы с конфиденциальностью (из-за критической уязвимости дети попадали в чаты ко взрослым незнакомцам), приложение все еще работает.
YouTube опутывает детей сетями
Одна из самых спорных «детских» разработок – это сервис другого ИТ-гиганта под названием YouTube Kids, запущенный еще в 2015 году.
Это красочная, веселая и урезанная версия YouTube, полная анимации, ярких цветов и мультяшных аватаров, предназначенных для привлечения самых маленьких интернет-пользователей.
Причем не только привлечения, но и удержания: на это направлена специальная функция автозапуска, которая заставляет одно видео следовать за другим без остановок. Когда один ролик заканчивается, автоматически воспроизводится следующий, выбранный алгоритмом рекомендаций YouTube Kids.
Долгое время автовоспроизведение было включено по умолчанию, и отключить его было невозможно, поэтому YouTube Kids продолжал кормить детей алгоритмически отобранными видеороликами, которые могли показываться бесконечно, если только кто-то не вмешается.
И если родители включали ребенку мультик, то через какое-то время юный зритель мог уже смотреть ролики, призывающие к диетам и похуданию, - или вообще видео, призывающие к самоубийству.
Беспокойство относительно такой манипулятивной функции выражалось и генеральному директору YouTube Сьюзен Воджицки, и генеральному директору Google Сундару Пичаи. Однако сервис убрал включение этой функции по умолчанию только в августе прошлого года, после массового возмущения общественников и членов Конгресса, которые публично призывали ИТ-гиганта прекратить травить детей непонятным контентом.
Кстати, это был не единственный скандал, связанный с YouTube и его детской версией.
В прошлом YouTube Kids подвергался критике за то, что пропускал жестокие и сексуальные материалы, и компания даже предупреждала родителей, что ее системы могут не исключать весь неприемлемый контент.
В отчете New York Times за 2017 год говорится, что дети сталкивались с видео со сценами насилия, в том числе с героями популярных детских мультфильмов. А в 2019 году выяснилось, что YouTube рекламировал свою популярность среди детей производителям игрушек, и ненадлежащим образом собирал информацию о детях, нарушая ограничение на сбор данных детей до 13 лет.
Получается, что детские версии пока не заслуживают доверия родителей, а взрослые сервисы слишком опасны для того, чтобы юные пользователи в принципе имели к ним доступ.
К сожалению, эта ситуация не изменится, пока ИТ-гиганты не сделают выбор в пользу безопасности, а будут продолжать набивать свои кошельки. Юная аудитория сейчас для них в приоритете, потому что – как бы цинично это ни звучало – именно она потом станет тем самым товаром, который они будут продавать рекламодателям.
На мой взгляд, не стоит ожидать, что западные соцсети разработают для наших детей безопасные и надежные решения, им это просто невыгодно.
А сейчас мы все видим их истинное лицо – продажных и политически ангажированных корпораций. Поэтому будем ждать российские продукты, которые, конечно, тщательно протестируем, прежде чем пускать туда наших детей.
Автор — директор Лиги безопасного интернета, член Общественной палаты РФ.
* компания-владелец Meta признана экстремистской организацией.
