Термин «дипфейки», которым в настоящее время обозначают очень реалистичные, но при этом фейковые видеоролики, появился два года назад благодаря пользователю с никнеймом DeepFakes. Он решил использовать созданную в 2014 году технологию на базе генеративно-состязательных нейросетей (Generative adversarial network, или GAN), которая позволяет создавать образцы нового контента на базе больших массивов уже существующих файлов. Так, например, собрав фотографии той или иной знаменитости, искусственный интеллект может произвести на свет реалистичную модель лица звезды, тщательно сохранив все черты и даже мимику.
DeepFakes решил, что у этой технологии есть большой потенциал в создании порнороликов, в которых якобы участвуют известные голливудские актрисы — он брал за основу существующее видео, а нейросети накладывали на участницу ролика лицо какой-либо звезды. Таким образом, на выходе получалось новое видео с актрисой, которая никогда не снималась в порно, но любой желающий мог найти в интернете ролик с ее «непосредственным участием».
Теперь «дипфейком» называют любое фейковое видео, созданное нейросетями, которое затруднительно отличить от настоящего.
Однако, согласно недавнему исследованию, 96% дипфейков в интернете — это порнографические ролики.
С того момента, как дипфейк стало именем нарицательным, прошло два года, и технология не стоит на месте. Как сообщает портал Motherboard, в сети появилось большое количество видео, в котором комбинируются GAN и программное обеспечение по созданию 3D-моделей. Эти два инструмента дополняют друг друга — если 3D-конструктор пока не может создать реалистичные лица, то GAN сподручнее генерировать именно головы, собирая портреты звезд в виртуальных базах данных.
Таким образом, создатели этих роликов больше не зависят от уже существующего порно и могут создавать собственный контент с участием любых публичных людей.
В сети уже можно найти игру в виртуальной реальности, в которой обладатель VR-шлема может фактически заняться сексом с голливудской знаменитостью — фейковая звезда может моргать и устанавливать зрительный контакт, а также принимать сексуальные позы.
«Это один из самых пугающих роликов, которые я когда-либо видел. Кажется, что актриса застряла внутри парализованного тела и может лишь шевелить глазами», — написал один из комментаторов под роликом.
Другим пользователям игра пришлась по вкусу — они даже «заказали» авторам актрис, которых они хотели бы видеть в виртуальной реальности. Некоторые из них отметили коммерческий потенциал такой игры, если бы она вышла на гейм-рынок.
«По сути этот VR-дипфейк превращает сексуальное насилие в игру. Все, кто в ней участвует, будут чувствовать себя так, как будто над ними надругались», —
заявила американский адвокат Кэрри Голдберг, которая специализируется на защите прав пострадавших от сексуального насилия, в том числе от порномести и фейковых роликов.
Motherboard связался с авторами этой игры, чтобы узнать его мнение о добавлении реальных людей в порноролик без их согласия. Однако, создатели не видят в этом проблемы.
«Дело в том, что дипфейки, как следует из названия, являются фейками, то есть неправдой», — заявили разработчики.
Голдберг же считает, что это является лишь оправданием противоправной деятельности.
«Каждый, кто говорит о том, что интернет — это не настоящая жизнь, а виртуальная реальность — фейк, просто пытаются оправдать свои преступления», — сообщила юрист.
По ее словам, создание бота, с помощью которого можно насиловать виртуальных моделей, отличается от настоящего насилия, но оба этих деяния являются абсолютно неэтичными.
«Если бы в мире был запрет на дипфейки, я бы перестал их делать, но этого не случится, так как существуют более важные проблемы. Люди манипулируют другими людьми каждый день и без фейковых видео или новостей», — заявил один из создателей подобных порнороликов в ответ на запрос Motherboard.
Действительно, несмотря на то, что многие государства признают проблему распространения дипфейков, они никак не регулируются законодательно.
Если создатели «порно со звездами» не планируют на них зарабатывать, то их будет весьма затруднительно привлечь к ответственности. Однако, налицо и моральная проблема, заключающаяся в использовании в фейковых роликах настоящих людей, а точнее их образов.
«Нам понадобится культурный сдвиг, чтобы люди осознали, что использовать тела женщин для удовлетворения чьих-то сексуальных фантазий без обоюдного согласия недопустимо, даже если это происходит в цифровом мире», — считает профессор юридического факультета Университета Оттавы Сьюзи Данн.