Платформа TikTok известна прежде всего своим компактным контентом — максимальная продолжительность видео, которые можно загрузить на платформу, составляет 60 секунд. Как оказалось, обойти это ограничение не составит большого труда.
Пользователь платформы по имени Морри Колман смог обмануть ее алгоритмы и опубликовал видео продолжительностью 71 минуту, сообщает портал Motherboard. Подробностями о том, как ему это удалось, он поделился в своем Twitter-аккаунте.
Выяснилось, что TikTok не проверяет длительность загружаемого видео самостоятельно — он просто считывает метаданные файла, в котором содержится эта информация.
Таким образом, любой может внести изменения в этот файл, заставив соцсеть «поверить» в то, что продолжительность ролика не превышает минуту.
Благодаря этому Колману удалось загрузить в TikTok целый фильм — «Магазинчик ужасов» 1960 года. По словам пользователя, обмануть алгоритмы социальной сети получилось, потому что по факту она «не смотрит» видео, которые в нее загружают.
«Поскольку в процессе проверки TikTok рассматривает видео как файл, а не ролик, он предполагает, что, когда он получает новый фрагмент контента, — даже если его загрузил человек — он получает контент, созданный другой машиной. Таким образом, он не будет проверять и смотреть видео, потому что «просмотр» — чужеродное понятие для вовлеченных в процесс машин. «Магазинчик ужасов» будет оставаться на платформе до тех пор, пока не будет вмешательства со стороны сотрудника-человека. Как Uber не владеет ни одним автомобилем, а Facebook (владелец компания Meta признана в России экстремистской и запрещена) — отделом новостей, так и в TikTok нет никого, кто на самом деле смотрел бы загружаемые видео», — заявил Морри Колман.
В пресс-службе TikTok сообщили, что «изменение или адаптация кода на нашей платформе нарушают Принципы сообщества, которые призваны обеспечить аутентичный опыт для всех».
После этого видео, загруженное Колманом, было удалено.
Идея о том, что администрация TikTok имеет так мало контроля над своим контентом, поднимает логичный вопрос о возможности обхода запрета на публикацию запрещенных к распространению материалов. Это особенно важно на фоне того, что большой процент аудитории TikTok составляют несовершеннолетние.
«Когда появляются такие откровения со стороны юзеров, то открывается ящик Пандоры, и знакомые с программным обеспечением люди будут пытаться повторить этот «подвиг», и здесь возникает вопрос, насколько соцсеть контролирует свой контент и занимается его модерацией», — поясняет «Газете.Ru» управляющий партнер коммуникационного агентства B&C Agency Марк Шерман.
Подобные прецеденты всегда должны становиться объектом внимания разработчиков и специалистов в области защиты данных, соглашается генеральный директор Gamesup42 Игорь Ивченко.
«Если что-то удалось одному пользователю, то всегда есть возможность, что такую уязвимость начнут использовать другие пользователи, в том числе нарушая правила функционирования платформы в России. Однозначно, этот случай показывает, что на ресурсе есть возможность обойти ограничения и загрузить контент, который не соответствует требованиям к политике мессенджера, что в результате может стать поводом для проверки государственных органов и негативно скажется на имидже TikTok. Этот случай наверняка станет поводом для серьезной работы целого перечня специалистов, которые эту уязвимость должны устранить, причем в самое ближайшее время, а также сделать так, чтобы в дальнейшем такие ситуации не повторялись», — говорит эксперт.
В свою очередь Digital Project Manager коммуникационной группы iMARS Владимир Табуров считает, что волноваться насчет безопасности несовершеннолетних пользователей TikTok пока рано.
«За выявление «запрещенного» контента в TikTok отвечают несколько иные алгоритмы, — не зря же пользователи социальный сети заменяют, к примеру, слово «секс» на «кекс», пытаясь шутить на запрещенные темы. Неприемлемые видео удаляются и блокируются автоматически. Кроме того, неравнодушные зрители всегда могут пожаловаться на подобный контент, выбрав одну из 13 причин для блокировки. На сегодняшний день загруженное часовое видео уже недоступно — разработчики оперативно с ним расправились. Если и в будущем компьютерным «гениям» будет удаваться находить бреши в искусственном интеллекте TikTok, то платформа будет их оперативно исправлять, удаляя нарушающий правила контент. На мой взгляд, выявлять какую-то особую опасность в данном прецеденте несколько некорректно, так как ИИ пока создается людьми, а человеку, как известно, свойственно ошибаться», — заключает собеседник «Газеты.Ru».