50-летняя Рафаэлла Споун из США использовала технологию deepfake, чтобы подставить трех соперниц своей дочери по чирлидингу, сообщает «Би-Би-Си».
Женщина отправляла тренеру команды Victory Vipers и самим жертвам порнографические видео с их участием, а также ролики, где они употребляют наркотики и пьют. Родители одной из жертв обратились в полицию, заявив, что девушка получает оскорбительные сообщения с неизвестного номера, в которых также были призывы к самоубийству. Позже еще две семьи заявили об аналогичных инцидентах.
После проведения анализа роликов полиции удалось определить, что они были смонтированы с помощью deepfake-технологии, которая позволяет создавать цифровые, реалистичные изображения и видео путем сопоставления разных фотографий и роликов. Для создания «дипфейков» Споун использовала фотографии из аккаунтов девушек в социальных сетях. Затем с помощью искусственного интеллекта женщина обрабатывала изображения и вставляла лица девушек в ролики непристойного характера.
«Эта технология не только очень распространена, но и проста в использовании. Так что ее может использовать даже ваш сосед по улице, и это очень страшно», — прокомментировал окружной прокурор Мэтт Вайнтрауб.
Полиция отследила номера телефонов, с которых рассылались оскорбительные сообщения, и вышла на сайт, который занимается продажей номеров. Затем правоохранительные органы установили IP-адрес, с которого совершались покупки, — он и привел их к дому Споун. При обыске были найдены устройства, с которых осуществлялась отправка сообщений.
Женщина была арестована, но затем ее освободили при условии, что она явится на предварительное слушание, которое пройдет 30 марта.
Стоун было предъявлено обвинение в киберхарассменте и преследовании, ей грозит реальный тюремный срок.
Департамент полиции заявил, что все действия обвиняемой были направлены на то, чтобы вынудить членов Victory Vipers покинуть команду, так как они обижали ее дочь. Девочка в свою очередь утверждает, что не подозревала о преступных намерениях матери.
«Victory Vipers всегда продвигала семейные отношения в коллективе, и мы выражаем свое сожаление всем причастным к этой истории. Мы строго относимся к соблюдению наших правил и боремся с издевательствами внутри команды», — сказал владелец спортзала, где тренировались девушки, Марк Мактаг.
Отец одной из жертв Джордж Ратель пояснил, что изначально все три девушки дружили с дочерью Споун. По его мнению, преступные действия в отношении его дочери и ее подруг были спровоцированы тем, что он и его жена сказали своему ребенку перестать общаться с дочерью обвиняемой из-за беспокойства по поводу ее поведения.
«Я не могу точно сказать, что толкнуло ее на это. Но как отец я был крайне расстроен, что она рассылает такие ролики с участием моей дочери. Они просто не соответствуют действительности», — поделился Ратель.
Технология deepfake имеет широкое распространение в сети. В начале марта ее использовал генеалогический сервис MyHeritage — с ее помощью можно было «оживить» портреты умерших родственников. Некоторые пользователи восприняли функцию позитивно, назвав ее «магической», а другие сочли ее слишком пугающей.