Прокуратура Манхэттена изъяла 12 сайтов с дипфейк-порно знаменитостей
В понедельник прокуратура округа Манхэттен (Manhattan District Attorney's Office) объявила об изъятии 12 доменов, которые использовались для незаконного распространения, публикации и продажи порнографических дипфейк-видео со знаменитостями без их согласия. По оценке ведомства, это, вероятно, крупнейшая на сегодняшний день операция по блокировке подобных сайтов и одно из самых масштабных действий против дипфейк-порноресурсов с момента появления самой технологии в конце 2017 года. Изъятие проведено по уголовно-процессуальному законодательству штата Нью-Йорк на основании ордера Верховного суда штата.
На сайтах были размещены несогласованные сексуальные изображения и видео примерно 1200 человек, в подавляющем большинстве женщин, включая инфлюенсеров, актрис, активисток, спортсменок, музыкантов и политиков. Окружной прокурор Элвин Брэгг заявил, что подобные грубые нарушения приватности преследуют жертв в карьере и личной жизни и наносят огромный урон эмоциональному и психическому состоянию, и призвал пострадавших обращаться в бюро по киберпреступлениям его ведомства. Расследование того, кто стоит за сайтами и кто загружал ролики, продолжается; сами домены прокуратура публично не называла, но издание Wired независимо обнаружило, что на прошлой неделе на главных страницах нескольких из них появились уведомления «ДОМЕН ИЗЪЯТ» со ссылкой на ордер о конфискации.
Сайты использовали названия со словами вроде «секс-знаменитость» или обещаниями «настоящих дипфейков» и работали годами: один утверждал, что существует с 2018 года. По оценке издания, суммарно они были просмотрены миллионы раз, а отдельные ролики, судя по архивным копиям, набрали десятки тысяч просмотров. Видео длились по несколько минут и представляли собой полноценные порнографические сцены, в которых лица знаменитостей или других публичных фигур были вставлены в уже существующие ролики для взрослых. По словам ведущего исследователя некоммерческой организации American Sunlight Project Бенджамина Шульца, большинство видео представляли собой обычные порнофильмы с заменёнными лицами, и многие ролики были репостами материалов с сайта MrDeepFakes, печально известной дипфейк-платформы, закрытой после того, как журналисты установили личности её создателей.
Шульц также обнаружил, что как минимум на двух изъятых сайтах у выборных должностных лиц были отдельные профили с именем, должностью и подборкой видео с их лицами. По его данным, на сайтах упоминались или фигурировали 56 европейских политиков, включая 16 политиков из США и двух из Великобритании.
Исследователь Института стратегического диалога (ISD) Леони Эмиг назвала изъятие значимой победой в борьбе с синтетическими несогласованными интимными изображениями (NCII) и отметила, что изъятые сайты недоступны даже через VPN из других стран, по её словам, это показывает, что скоординированное правоприменение возможно даже там, где регулирование остаётся раздробленным между юрисдикциями. При этом она подчеркнула, что для реального эффекта нужно воздействовать на всю экосистему сразу: инструменты создания такого контента, их продвижение, хостинг и техническую инфраструктуру, а также платёжные и партнёрские системы, на которых зарабатывают операторы подобных сайтов.
Ключевые факты
- Прокуратура Манхэттена изъяла 12 доменов с дипфейк-порно знаменитостей, по её оценке, крупнейшая подобная операция на сегодняшний день.
- На сайтах были размещены несогласованные видео примерно 1200 человек, в основном женщин, включая знаменитостей, активисток, спортсменок и политиков.
- Расследование того, кто управлял сайтами и загружал видео, продолжается; сами домены прокуратура публично не называла.
- По данным исследователя Бенджамина Шульца (American Sunlight Project), на изъятых сайтах фигурировали 56 европейских политиков, включая 16 из США и двух из Великобритании; многие видео были репостами с закрытой платформы MrDeepFakes.
- Эксперты называют изъятие важной победой, но подчёркивают, что бороться нужно со всей экосистемой, инструментами создания, хостингом и платёжными системами.
Почему это важно
Это одна из самых масштабных на сегодняшний день скоординированных операций против дипфейк-порноресурсов: за один раз изъято 12 доменов с видео около 1200 человек. Она показывает, что скоординированное правоприменение против синтетического несогласованного интимного контента (NCII) возможно даже там, где регулирование остаётся раздробленным между юрисдикциями, прокуратура округа использовала уголовно-процессуальное законодательство штата и ордер суда.
Кому это важно
В первую очередь, женщинам и публичным фигурам, чьи лица оказались на подобных сайтах: у них появляется прецедент, к которому можно апеллировать, и адрес, куда обращаться (бюро по киберпреступлениям прокуратуры Манхэттена). Также это важно для регуляторов и правоохранителей в других штатах и странах, оценивающих, как использовать локальные законы против дипфейк-индустрии, и для исследователей вроде ISD и American Sunlight Project, документирующих масштаб проблемы.
Как это применить
Для пострадавших, обращение в бюро по киберпреступлениям прокуратуры (для случаев, подпадающих под её юрисдикцию) и использование федерального закона Take It Down Act, который позволяет требовать удаления таких изображений и даёт правоохранителям основания изымать сайты. Для платформ и регуляторов, вывод Леони Эмиг: точечного изъятия сайтов недостаточно, нужно одновременно воздействовать на инструменты создания контента, каналы его продвижения, хостинг и платёжные системы, которые монетизируют такие ресурсы.
Можно ли доверять
Материал Wired опирается на официальное заявление прокуратуры округа Манхэттен, независимое наблюдение редакции (уведомления об изъятии на главных страницах сайтов) и комментарии двух исследователей, из Института стратегического диалога и American Sunlight Project, чьи выводы совпадают в оценке масштаба и значимости операции. Прокуратура при этом сама не назвала изъятые домены публично, и часть цифр (например, число политиков на сайтах), результат отдельного исследования Шульца, а не официальной статистики ведомства.
Риски и подводные камни
Прокуратура не раскрыла названия изъятых сайтов и не сообщила, предъявлены ли кому-то обвинения: расследование того, кто стоит за площадками и кто загружал видео, описано как продолжающееся, сроков его завершения нет. Дипфейк-индустрия шире дюжины изъятых сайтов и включает инструменты для создания подобного контента, приложения и ботов, которые продолжают работать; сама технология используется и против не-знаменитостей, часто в закрытых группах в соцсетях, куда правоприменение пока не дотягивается.
«Эти чудовищные нарушения приватности преследуют жертв в карьере и личной жизни и наносят огромный урон эмоциональному и психическому состоянию»
— Элвин Брэгг, окружной прокурор Манхэттена