На днях услышал, как Виктор Цой поет песню Кипелова «Я свободен». В подписи к этому видеоматериалу было указано «AI-cover». После этого остановиться уже было сложно, и я переслушал все: от Freddie Mercury, исполнившего легендарную «My Heart Will Go On» Селин Дион, до кавера Кар-Карыча на RHCP.
К сожалению, подобные технологии используются не только в развлекательных целях. И если фраза «AI-cover» не несет в себе негативных ассоциаций, то сказать того же про слово «дипфейк» нельзя. Хотя суть технологии сходная. Именно поэтому будет интересно порассуждать об этом феномене с юридической точки зрения.
Линию размышления можно выстроить в двух направлениях. Первое – регулирование дипфейков как объектов интеллектуальных прав. Второе – отношение законодательных органов и регуляторов на то, как дипфейки влияют на жизнь общества. Первое направление более сложное и заслуживает целой отдельной статьи, поэтому пока предлагаю остановиться на отношении государственных органов к проблеме дипфейков – этот аспект проблемы легче воспринимается, да и поводы для обсуждения имеются.
Первые реакции органов публичной власти
Недавно в СМИ появилась новость, что российский парламент уже в ближайшей перспективе планирует ввести нормативное понятие дипфейка. Какая у этого причина? Как я уже говорил, истории про веселые музыкальные композиции – это только одна сторона медали. Обратная связана с тем, что дипфейк технологии используются для противоправных действий, таких как мошенничество или шантаж.
Стремление защитить частных лиц – ожидаемое стремление публичной власти. Согласитесь – нельзя допустить того, чтобы кто-то неправомерно с помощью вашего голоса залогинился в банковском приложении и списал деньги со счета. Такая цель безусловно оправдывает ввод законодательного регулирования, однако придумать одну меру на все случаи жизни невозможно, и закон точно будет дорабатываться в процессе применения. Развитие технологии опережает регулирование, поэтому пока трудно сказать, к чему мы придем в итоге.
Зарубежный опыт
Проблема дипфейков обсуждается давно, и каждое государство вырабатывает свой подход к ее решению.
Избирательный кодекс штата Калифорния запрещает распространение обманчивых аудио- или видеоматериалов о кандидате, которые причиняют вред его репутации или могут ввести избирателей в заблуждение относительно голосования за или против кандидата. Такой запрет действует в течение 60 дней до момента выборов, на которых кандидат будет включен в избирательную бюллетень.
Если такие материалы все же попали в интернет, то кандидат получает право требовать судебного запрета на их дальнейшее распространение. Этот способ защиты реализуется не по правилам Избирательного кодекса, а по процедуре, предусмотренной Гражданским процессуальным кодексом штата Калифорния.
Этот запрет появился еще в 2019 году, когда в сети распространялись и были популярны видео с кандидатами на политические должности. Отметим, что термина «дипфейк» в Избирательном кодексе нет, но распространение таких роликов стало одним из поводов для внесения поправок в закон.
Суд в провинции Квебек рассматривал уголовное дело (R v Larouche, 2022 QCCQ 6917), связанное с хранением и созданием порнографических дипфейков с участием детей. Как указано в решении суда, обвиняемый создал более 86 000 таких видео.
Любопытно, что в этом примере суд составил собственное определение понятия «дипфейк». Согласно судебному решению, это «процесс манипулирования аудиовизуальными данными, использующий алгоритмы глубокого обучения для создания сверхреалистичных образов. Эта технология может быть использована, например, для встраивания лица человека в тело другого человека в видеоряд. Такая визуальная манипуляция может сочетаться с компьютерным голосом, который звучит идентично голосу персонифицированного человека».
В этом деле технология использовалась больше как способ совершения противоправного действия, поскольку предметом судебного исследования стала норма уголовного закона о запрете создания определенных порнографических материалов, а не какая-либо норма о запрете дипфейков.
Если приводить ситуацию к наименьшему общему знаменателю, то в мировой практике в большинстве случаев отсутствуют нормативно закрепленные понятия термина «дипфейк». Тем не менее общественность и органы власти время от времени обсуждают необходимость регулирования.
Например, в Южной Корее достаточно много людей подписали онлайн-петицию с требованием принять меры против дипфейк-порнографии. Корейские кей-поп айдолы нередко становились жертвами дипфейков, поэтому реакция общественности весьма закономерна. В Англии же были известны случаи применения дипфейков для шантажа.
Так ли опасны дипфейки?
Все зависит от того, для чего используется технология. Это может быть, как создание цифрового двойника погибшего сына или дочери для облегчения горя матери, так и кража денег, шантаж и распространение запрещенных порнографических материалов. Именно поэтому задача по формированию законодательного регулирования для дипфейков априори не может решаться быстро и просто.
Если вспомнить пример из канадской судебной практики, то суд применил более общую норму о запрете распространения детской порнографии, а не искал в законе определения дипфейка. Последнее – лишь инструмент для действия. В этом смысле не всегда целесообразно создать определение термина, если правоприменитель может использовать его из уже устоявшихся правовых конструкций.
Возьмем простой пример – диспозицию российского уголовного закона о мошенничестве: «Мошенничество – это хищение чужого имущества или приобретение права на чужое имущество путем обмана или злоупотребления доверием». Обман или злоупотребление доверием может фактически совершаться разными способами и, вероятно, дипфейк является неким способом совершения противоправного действия, что не требует особого термина.
Этот вопрос может быть сугубо в плоскости правоприменения и процессуальных правил. В таком случае задача стороны обвинения – доказать, что дипфейк был способом совершения преступления. Необходимость корректировки закона здесь кажется излишней, и такая логика может быть распространена на многие составы уголовного закона.
Ни в коем случае не упуская из виду явные проблемы, стоит отметить, что излишнее регулирование технологий дипфейков может тормозить технологическое развитие. Перед законодательством всегда стоит задача соблюсти баланс публичных и частных интересов, и дипфейки исключением не являются.