Дипфейк-порносайты нацелены на почти 150 политиков Европы, в основном женщин

Новое исследование, которое увидели журналисты Wired, показывает: за последние несколько лет почти 150 европейских политиков оказались размещены на порносайтах с дипфейками и в похожих базах, либо в виде откровенных роликов с их лицом, либо в виде «карточек» с именем, фото и ссылками на инструменты для создания такого контента. Пострадавшие, в подавляющем большинстве женщины: не менее 138 женщин-депутатов национальных парламентов из 22 стран Евросоюза так или иначе фигурируют на этих сайтах, тогда как мужчин-депутатов упомянуто всего 9. По подсчётам автора исследования, женщин-депутатов преследуют в этой форме в 33 раза чаще мужчин.

Анализ около 160 доменов, на которых размещён дипфейк-контент и другие материалы без согласия изображённых, провёл Бенджамин Шульц, стипендиат немецкого аналитического центра Agora Digitale Transformation, занимающегося цифровой демократией, и ведущий исследователь организации American Sunlight Project; там же, в Agora Digitale Transformation, исследование и опубликовано. Шульц охватил депутатов национальных парламентов всех 27 стран ЕС (депутатов самого Европарламента в выборку не включали): в июле он собрал данные более чем о 5800 парламентариях по всей Европе, а затем с помощью специально настроенных поисковых систем проверил, где они всплывают на дипфейк-сайтах. Чаще всего в выдаче оказывались политики из Германии, Нидерландов, Италии и Франции, и, по данным исследования, чем выше должность политика, тем выше шанс, что на него сделали дипфейк. Шульц лично оповестил всех задетых депутатов и дал им рекомендации, как добиться удаления контента; сами сайты Wired решил не называть, чтобы не привлекать к ним лишнее внимание.

На изученных сайтах Шульц выделил несколько категорий материалов: страницы, где ролики с политиками до сих пор выложены; проиндексированные результаты, ведущие на уже удалённый контент; и профили-«шлюзы», где нового видео ещё нет, но его можно сделать. На части страниц рядом с именем, официальным фото и порой ссылками на соцсети или личные данные депутата стоят разделы с «оценкой» тела женщины и прямые ссылки на так называемые nudify-инструменты, сервисы и приложения, которые с помощью ИИ создают фейковое обнажённое изображение человека по обычному фото. «Там есть все фото, вся информация и прямая ссылка на инструмент, и в три клика можно сгенерировать», говорит Шульц. По его словам, такие страницы-«шлюзы» ничем не лучше сайтов, которые уже хостят готовый ролик.

Пострадавшие депутатки говорят о системном запугивании. «Дипфейк-порно, часть куда более широкой волны онлайн-ненависти и запугивания женщин и женщин-политиков», говорит нидерландская депутатка Сюзанна Крёгер (группа Progressive Netherlands), назвавшая результаты исследования «по-настоящему глубоко тревожными». «Мы политики, у нас есть трибуна, и мы высказываемся, добавляет она., Но при этом есть миллионы женщин-жертв этих преступлений». Депутатка нидерландской Социалистической партии Сара Доббе говорит: «Дипфейк-видео используют, чтобы запугать политиков, но также чтобы унизить женщин», и добавляет, что пострадавшей женщине или девушке важно оперативно получить поддержку и добиться быстрого удаления контента. Опрошенные Wired исследователи и законодатели говорят, что такие дипфейки способны подрывать демократические практики и создавать «эффект охлаждения», отпугивающий женщин и девушек от публичной карьеры вообще; сам Шульц добавляет, что это отбивает у женщин желание впервые пойти в политику и вытесняет из публичной жизни тех, кто уже там, а также наносит психологический и репутационный вред, в том числе тем, кто в будущем захочет уйти из политики в другую профессию.

Проблема шире одной лишь политики. С момента появления технологии дипфейков в конце 2017 года инструменты для их создания стали куда доступнее и реалистичнее; с тех пор были созданы миллионы ИИ-изображений и видео без согласия изображённых, в основном руками мужчин и мальчиков, а используют их, чтобы преследовать, запугивать или шантажировать женщин и девушек, в том числе, по данным статьи, в почти сотне школ по всему миру. «Эти платформы спроектированы так, чтобы работать как обычный бизнес», говорит Генри Айдер, независимый консультант по ИИ и эксперт по дипфейкам, следящий за этой индустрией с 2018 года. По его словам, то, что политиков тоже атакуют таким образом, неудивительно, но исследование помогает европейским чиновникам оценить реальный масштаб проблемы: «Вся инфраструктура выстроена так, чтобы легко делать это в промышленных масштабах».

Законодатели в целом реагируют медленно, но подвижки есть: Британия и ЕС готовят (пока не ввели) запрет nudify-сервисов, а в США по закону Take It Down Act уже закрыли как минимум два крупных дипфейк-сайта, публиковавших тысячи изображений и роликов со знаменитостями; свою роль сыграли и расследования журналистов, деанонимизировавших людей за такими сайтами. Ещё до публикации материала Wired обнаружил, что как минимум полдюжины доменов из выборки Шульца уже исчезли из сети, что снизило итоговое число доступных изображений европейских депутатов. Шульц параллельно изучает, сколько политиков Британии и США фигурируют на подобных сайтах; ещё в 2024 году он уже анализировал присутствие американских сенаторов и конгрессменов на дипфейк-сайтах, и, по его словам, после того как тогдашние сайты закрыли, число изображений тех американских политиков «существенно снизилось». «Приоритет, добиться удаления таких изображений, но также добиться жёсткого регулирования этой технологии», резюмирует Крёгер.

Ключевые факты

Почти 150 европейских политиков, не менее 138 женщин-депутатов из 22 стран ЕС и всего 9 мужчин, обнаружены на примерно 160 доменах с дипфейк-порно и другим контентом без согласия изображённых; по расчётам автора анализа, женщин-политиков преследуют так в 33 раза чаще мужчин.
Исследование провёл Бенджамин Шульц (Agora Digitale Transformation, American Sunlight Project), опубликовал немецкий аналитический центр Agora Digitale Transformation; выборка охватила депутатов нацпарламентов всех 27 стран ЕС, более 5800 имён, собранных в июле и прогнанных через специальные поисковые системы.
Чаще всего в выдаче фигурировали политики из Германии, Нидерландов, Италии и Франции, и чем выше должность, тем выше риск; на части страниц рядом с фото и данными депутата стоит прямая ссылка на nudify-инструменты, генерирующие поддельное обнажённое изображение «в три клика».
Британия и ЕС готовят запрет nudify-сервисов, в США по Take It Down Act уже закрыли как минимум два крупных дипфейк-сайта; ещё до публикации материала как минимум полдюжины доменов из выборки Шульца сами исчезли из сети.
Пострадавшие нидерландские депутатки Сюзанна Крёгер и Сара Доббе говорят, что дипфейки запугивают и унижают женщин-политиков и способны отпугивать женщин от политической карьеры вообще; похожий «эффект охлаждения» отмечают опрошенные Wired исследователи и законодатели.

Почему это важно

Это первое настолько масштабное и системное измерение того, насколько сильно дипфейк-порно бьёт именно по женщинам во власти: не оценка на глаз, а подсчёт по почти 6000 депутатов и 160 сайтам, который даёт конкретную цифру, женщин-политиков атакуют такими материалами в 33 раза чаще мужчин. Материал показывает не единичные инциденты, а действующую инфраструктуру: сайты с «карточками» депутаток, прямыми ссылками на инструменты для генерации обнажённых изображений «в три клика» и коммерческой моделью позади них, по словам эксперта по дипфейкам Генри Айдера. На этом фоне Британия и ЕС впервые готовят прямой запрет именно nudify-сервисов, а не общих правил об ИИ.

Кому это важно

В первую очередь, женщинам-политикам в Европе: не менее 138 из почти 150 задетых политиков, по данным исследования, женщины, и чаще всего под удар попадают те, кто занимает более заметные посты. Дальше, законодателям Британии и ЕС, которые сейчас готовят запрет nudify-сервисов, и регуляторам в США, уже закрывшим по Take It Down Act как минимум два крупных дипфейк-сайта. В зоне интереса, исследователи вроде Бенджамина Шульца и организации вроде Agora Digitale Transformation и American Sunlight Project, которые ведут учёт таких сайтов, а также, шире, все женщины и девушки, ставшие жертвами дипфейков без их согласия за пределами политики, включая почти сотню школ по всему миру, которых эта же технология уже коснулась.

Как это применить

Прямого «инструмента» здесь нет, есть модель реакции, которую уже опробовали. Шульц лично уведомил всех задетых депутатов и дал им инструкции, как добиваться удаления контента, сама эта работа уже принесла результат: ещё до выхода материала как минимум полдюжины доменов из его выборки пропали из сети. Юридический рычаг тоже существует и уже используется: в США по закону Take It Down Act закрыли как минимум два крупных дипфейк-сайта, а Британия и ЕС готовят прямой запрет nudify-сервисов, сервисов и приложений, которые превращают обычное фото в фейковое обнажённое изображение по ссылке «в три клика». Шульц отдельно подчёркивает: страницы-«шлюзы» с именем и фото депутата и ссылкой на такой инструмент опасны не меньше уже готового ролика, то есть реагировать стоит и на них, а не только на сайты, где контент уже выложен.

Можно ли доверять

Материал вышел в Wired, издании с устойчивой репутацией в технологической журналистике, а сама исследовательская часть подписана: автор анализа Бенджамин Шульц назван по имени вместе со своей ролью (стипендиат Agora Digitale Transformation, ведущий исследователь American Sunlight Project), и результаты опубликовал именно этот немецкий аналитический центр, а не анонимный источник. Ключевые выводы подтверждены с разных сторон: двумя пострадавшими депутатками из Нидерландов (Сюзанна Крёгер, Сара Доббе) и независимым экспертом по дипфейкам Генри Айдером, который в самом исследовании не участвовал. Из слабых мест: в тексте не хватает двух дат, не указан год, когда Шульц собирал данные «в июле» или когда вышел сам материал; методика подсчёта «в 33 раза чаще» не раскрыта (не сказано, считали ли по сырым числам или как-то иначе); сами сайты и nudify-инструменты Wired сознательно не называет, разумная предосторожность против рекламы вредного контента, но она же не даёт независимо проверить список из 160 доменов. Собственный заголовок статьи в Wired («100-Plus» политиков) расходится с цифрой в тексте («почти 150»); этот пересказ ориентируется на цифру из текста как более точную. Также не уточняется, сколько из ~150 политиков стали жертвами реальных поддельных роликов, а сколько лишь фигурируют в текстовых карточках-базах, источник говорит только «некоторые» и «другие», без точного разбиения.

Риски и подводные камни

Главный риск, техническая лёгкость: по словам Шульца, на части страниц достаточно «трёх кликов», чтобы получить поддельное обнажённое изображение реального человека, а по словам эксперта Генри Айдера, площадки, которые это позволяют, устроены как отлаженный бизнес с инфраструктурой, рассчитанной на промышленный масштаб. Опрошенные Wired исследователи и законодатели предупреждают о более широком политическом эффекте: такие дипфейки способны отпугивать женщин и девушек от публичной карьеры и создавать «эффект охлаждения» для демократического участия в целом, а сам Шульц отмечает долгосрочный психологический и репутационный ущерб для задетых женщин. Регулирование при этом запаздывает: запреты nudify-сервисов в Британии и ЕС пока лишь готовятся, а не действуют, и даже там, где закон уже есть, как американский Take It Down Act, под него подпадают лишь «как минимум два» крупных сайта из гораздо большего числа существующих. Наконец, удаление одного домена не решает проблему целиком: исчезновение части из ~160 изученных сайтов к моменту публикации сократило число доступных изображений, но не показывает, что инфраструктура для создания таких материалов в принципе стала менее доступной.

«Дипфейк-порно, часть куда более широкой волны онлайн-ненависти и запугивания женщин и женщин-политиков.»

— Сюзанна Крёгер, нидерландская депутатка парламента (группа Progressive Netherlands), пострадавшая от дипфейков