Meta получила от Сан-Франциско требование прекратить ИИ-рекламу с сексуальным насилием над детьми

Городской прокурор Сан-Франциско Дэвид Чиу направил Meta официальное письмо с требованием прекратить публикацию платной рекламы, которая с помощью ИИ превращала фотографии несовершеннолетних в короткие видеоролики сексуального характера. Четырёхстраничное письмо, отправленное юристам Meta, требует от компании объяснить, как эта реклама систематически обходила модерацию, и даёт на ответ 28 дней. Чиу пишет, что цель офиса, не просто указать на прошлые провалы, а добиться, чтобы Meta выстроила систему, которая не допускает сексуальной эксплуатации детей через рекламу, за показ которой сама компания получает деньги, и чтобы компания последовательно выполняла юридические обязательства, возникающие, когда ей становится известно о подобных случаях.

Поводом стало расследование WIRED и исследователей Tech Transparency Project (TTP): во вторник, 8 сентября, WIRED сообщил, что за последние месяцы Meta показала более 350 таких объявлений на Facebook, Instagram и Threads. Часть роликов была сделана на основе фотографий реальных людей, в том числе, по данным WIRED, представителя одной из европейских королевских семей. В сумме реклама охватила более 29 000 аккаунтов в странах Евросоюза, а также показывалась пользователям в США, Австралии и Индии. При клике объявления вели на установку ИИ-приложений для генерации изображений и видео, часть из них позволяет «раздевать» людей на фотографиях или создавать другие интимные изображения без согласия. Первую партию, 53 объявления, WIRED описал в начале августа; больше 250 таких же объявлений вышли на платформах Meta уже после той публикации.

Meta отвечает, что «нет никаких признаков» показа этой рекламы в Сан-Франциско и поэтому вопрос якобы вне юрисдикции городской прокуратуры. Пресс-секретарь офиса Чиу Алекс Барретт-Шортер возражает: раз жители Сан-Франциско могут зайти на эти объявления через сервисы Meta, вопрос, дело города. «Мы находим ответ Meta поразительным. Meta, похоже, больше беспокоит, вправе ли Сан-Франциско вообще об этом говорить, чем то, виновна ли она в эксплуатации детей», говорит Барретт-Шортер. По словам Meta, часть найденных TTP объявлений компания удалила ещё до того, как о них сообщили, а сейчас удалены все; у большинства было меньше 200 показов, а весь рекламный бюджет по этим «300 с лишним» объявлениям, как утверждает Meta, составил меньше $5000.

По данным TTP, в части случаев Meta не отвечала на жалобы больше недели, и за это время рекламу успевали увидеть ещё сотни человек; часть удалённых объявлений изначально не помечалась как контент с сексуальным насилием над детьми. Директор TTP Кэти Пол говорит, что проблема не решена: после отчёта TTP от 8 сентября на платформах Meta продолжают появляться новые объявления с теми же детьми, которых организация уже направляла Meta. TTP также сообщила об этих объявлениях в Национальный центр по проблемам пропавших и эксплуатируемых детей (NCMEC), именно туда, как того требует от Meta письмо Чиу, компания обязана отчитываться о подобных находках.

Правила Meta прямо запрещают сексуальную эксплуатацию, насилие и наготу в отношении детей и взрослых, а также продвижение приложений для «раздевания» на фото; по словам компании, каждое объявление проходит автоматическую, а иногда и ручную проверку. Meta также подала в суд на гонконгскую компанию, связанную с одним из таких сервисов, и удалила, по собственным данным, сотни тысяч объявлений подобных приложений. Но, как показало собственное расследование WIRED, на платформах Meta одновременно продолжают крутиться сотни объявлений «раздевающих» приложений, а исследователи по-прежнему находят тысячи объявлений с сексуальным содержанием и наготой, которые ведут на подобные сервисы.

Ключевые факты

Городской прокурор Сан-Франциско Дэвид Чиу отправил Meta официальное письмо с требованием прекратить показ рекламы с ИИ-контентом сексуального насилия над детьми и дал компании 28 дней на ответ.
По данным WIRED и TTP, Meta показала более 350 таких объявлений; они охватили свыше 29 000 аккаунтов в ЕС и также показывались в США, Австралии и Индии на Facebook, Instagram и Threads.
Meta оспаривает юрисдикцию Сан-Франциско, заявляя, что нет данных о показе рекламы в городе; офис Чиу называет этот ответ «поразительным».
Meta утверждает, что удалила все найденные объявления (у большинства, меньше 200 показов, весь бюджет, меньше $5000), но директор TTP Кэти Пол говорит, что после отчёта TTP от 8 сентября появляются новые объявления с теми же детьми.
По данным TTP, Meta иногда не отвечала на жалобы больше недели, а часть удалённых объявлений не помечалась как контент с сексуальным насилием над детьми.

Почему это важно

Это не единичный сбой, а системная история: по словам Meta, каждое объявление проходит автоматическую, а порой и ручную проверку, и тем не менее сотни объявлений с ИИ-контентом сексуального насилия над детьми, часть из которых сделана из фотографий реальных несовершеннолетних, эту проверку прошли и показывались повторно. Городская прокуратура Сан-Франциско впервые оформила эту претензию официальным письмом с жёстким сроком ответа, потребовав от Meta объяснить не только то, как реклама обходит модерацию, но и то, как компания отчитывается о таких находках перед NCMEC.

Кому это важно

Прямо касается родителей и самих несовершеннолетних, чьи фотографии оказались использованы без их ведома; пользователей, которых такая реклама вела к загрузке приложений для «раздевания» на фото и других сервисов, создающих интимные изображения без согласия изображённых; регуляторов и юристов, которые следят, как модерация крупных платформ работает на практике, а не только по правилам на бумаге; и саму Meta, для которой это письмо создаёт публичный документальный след на случай дальнейших разбирательств.

Как это применить

Материал даёт два практических ориентира, оба, из самого письма и отчёта TTP. Во-первых, канал эскалации: TTP сообщила о найденных объявлениях и самой Meta, и в NCMEC, организацию, которую упоминает в письме сам Чиу, требуя от Meta объяснить, как она отчитывается перед NCMEC о таких находках. Во-вторых, ориентир по срокам: по данным TTP, часть жалоб оставалась без ответа Meta больше недели, и именно с этим сроком соотносятся 28 дней, которые письмо даёт компании на официальный ответ.

Можно ли доверять

Да, с оговоркой: стороны спорят о юрисдикции, а не о фактах. Число и охват объявлений (более 350, свыше 29 000 аккаунтов в ЕС) взяты из собственного расследования WIRED и TTP, а не только из письма прокуратуры, и сама Meta не отрицает существование объявлений, она подтверждает их удаление, оспаривая лишь то, в чьей это юрисдикции. Цифры про показы (меньше 200 у большинства) и бюджет (меньше $5000) по «300 с лишним» объявлениям, это собственная оценка Meta, независимо WIRED её не проверял, и этот счёт отличается от «более 350» объявлений в изначальном подсчёте WIRED и TTP.

Риски и подводные камни

Главный риск уже реализовался: письмо прокурора, это требование, а не судебное решение, и в статье не описано, что будет, если Meta проигнорирует 28-дневный срок. Юрисдикционный спор даёт компании формальный повод не отвечать по существу. И даже удаление уже найденных 350+ объявлений не закрывает проблему: по словам Пол, на платформах Meta продолжают появляться новые ролики с теми же детьми, а WIRED отдельно обнаружила сотни объявлений «раздевающих» приложений, которые всё ещё крутятся на Facebook, Instagram и Threads.

«Эта реклама глубоко тревожит и причиняет вред реальным детям. Meta заявляет, что придерживается нулевой терпимости к эксплуатации детей, но масштаб и неослабевающий характер этих проблем показывают, что нынешние усилия компании вопиюще недостаточны. Это недопустимо, и Meta должна действовать лучше.»

— Дэвид Чиу, городской прокурор Сан-Франциско, в заявлении WIRED

Компания Meta Platforms признана экстремистской организацией, её деятельность на территории РФ запрещена.