ИИтог

WIRED нашёл сеть из 400+ ИИ-приложений со скрытыми дипфейками

безопасностьРедакция ИИтогWired🔥63Рейтинг ИИтог63Влияние62Новизна55Релевантность80Неожиданность60Участники40Достоверность85
WIRED нашёл сеть из 400+ ИИ-приложений со скрытыми дипфейками

Расследование WIRED началось с, на первый взгляд, обычного ИИ-приложения Viefur, которое называет себя «портретами питомцев»: за внутриигровые монеты (около $4 за 130 монет) фото животного превращают в «антропоморфный портрет», например, хомяка в пляжных шортах или кота в гавайской рубашке. Но это, судя по всему, лишь прикрытие для создания сексуальных дипфейков, в том числе насильственных.

По данным WIRED, Viefur входит в сеть из более чем 400 связанных доменов и приложений, которые, как и он, выдают себя за повседневные сервисы, например, обучение языкам или ИИ-тренеры по фитнесу. При определённых условиях приложения сети скрытно загружают веб-интерфейс, позволяющий генерировать откровенные ИИ-изображения и видео на основе загруженных пользователем фотографий. Среди шаблонов есть сцены вроде «изнасилование в спальне» и «угроза ножом», где мужчина держит нож у шеи женщины. В интерфейсе десятки шаблонов порнографических дипфейк-видео и изображений, оплата идёт за «алмазы», есть ссылки на соцсети для связи с разработчиками.

Сеть нашли несколько исследователей, когда проверяли ссылки из тысяч видеообъявлений с откровенными дипфейками в Facebook и Instagram. Ранее WIRED писал, что сотни таких объявлений содержали сгенерированные ИИ материалы сексуального насилия над детьми, включая изображения реальных детей и представительницы или представителя европейской королевской семьи; объявления достигли десятков тысяч человек и вызвали проверки регуляторов в разных странах. Объявления вели на приложения в магазинах Apple и Google, где можно было генерировать контент и платить через Apple Pay и Google Pay. Сеть, судя по всему, публиковала приложения около года, порой десятками в неделю.

Как это работает. По словам Paul Bouchaud, ведущего исследователя некоммерческой организации AI Forensics, который изучил код приложений и сайтов, при каждой загрузке приложение обращается к серверу, передавая данные вроде страны пользователя, языка и уникального идентификатора, а сервер отвечает, показывать откровенную или безобидную версию. Чёткого списка причин нет, но один из триггеров, судя по всему, загрузка после перехода по рекламе в соцсетях Meta. Сайты приложений обычно показывают чёрный экран, а в адресе появляется слово «risk», но именно там размещён скрытый слой с дипфейками. В коде сайтов лежит JavaScript-пакет со списком всех доменов и приложений сети: данные о пакетах приложений, ключи шифрования, рекламные трекеры Facebook. По словам Maël Le Touz, штатного исследователя угроз компании Infoblox, нашедшего почти 500 связанных доменов, «они запускают один и тот же код и все ссылаются друг на друга».

Масштаб. По анализу Bouchaud дат регистрации доменов, приложения начали появляться ближе к концу 2025 года, а весной 2026-го был всплеск; в какой-то момент регистрировали около 30 таких приложений-сайтов в неделю. В сентябре 27 из них были доступны в Google Play, суммарно их скачали более 350 000 раз, и многие имели возрастную отметку «для всех». Одно из самых популярных, DiffAI (создано в декабре 2025 года), скачали из Google Play более 100 000 раз; в отзыве пользователя говорилось, что приложение содержит шаблоны для создания CSAM и не проверяет возраст. С начала года Bouchaud нашёл десятки тысяч откровенных дипфейк-объявлений, связанных с сетью, в сервисах Meta. В объявлениях использовались, судя по всему, вымышленные имена и страницы без подписчиков.

Кто стоит за сетью. По проверке доменов и принципов работы сервисов WIRED считает, что приложения и домены, судя по всему, ведут китайские разработчики и зарегистрированная в Гонконге компания KeLing Technology Limited. Le Touz указывает на хостинг только в Китае, код и комментарии на китайском, а в роликах рекламы, водяные знаки китайского видеоредактора. Приложения использовали типовые политики конфиденциальности, бесплатные адреса Gmail и Outlook и неприметные имена разработчиков. Название KeLing стоит в контактах первого зарегистрированного сайта сети и в шаблоне откровенного интерфейса; адреса на домене компании встречались в приложении, удалённом из магазинов; в сентябре пользователям интерфейса пришло уведомление о новой ИИ-модели Veyra («Более реально. Более естественно. Более дико»), а контакт сайта Veyra AI вёл на адрес KeLing. На запросы WIRED компания не ответила, но после обращения кто-то переименовал часть связанных соцсетей и убрал упоминания KeLing с сайта AI Veyra и с первого сайта.

Ответы компаний. Apple удалила 19 приложений, включая Viefur, после запроса WIRED. Представитель Apple Adam Dema заявил, что приложения соответствовали правилам при проверке, а затем разработчики подменили сайт, из которого приложение берёт контент, на порнографический и продвигали его рекламой на сторонней площадке. По его словам, за год Apple заблокировала десятки тысяч приложений за такую подмену, а правила App Store недавно ужесточили в отношении «раздевающих» (nudify) инструментов. Google не ответила на запрос, но к моменту обращения уже удалила большинство приложений; DiffAI убрали незадолго до того. Meta заявила, что запретила KeLing рекламироваться в 2025 году после невыполнения требования о прекращении нарушения, но компания продолжает искать другие пути. Получив от WIRED список из более чем 400 доменов, Meta сообщила о более чем 3000 связанных объявлений, две трети которых уже были удалены; позже назвала меры против 11 600 рекламных аккаунтов, более 4700 бизнес-страниц, 5200 пользователей и 15 000 страниц, связанных с доменами, а также блокировку рекламы для 209 приложений. К завершению материала WIRED похожие объявления и приложения продолжали появляться.

Ключевые факты

  • WIRED нашёл сеть из более чем 400 связанных доменов и приложений, замаскированных под безобидные ИИ-сервисы (портреты питомцев, обучение языкам, фитнес-тренеры), со скрытым веб-интерфейсом для сексуальных дипфейков.
  • Приложение решает, что показать, по ответу сервера: учитываются происхождение пользователя, язык и идентификатор; один из триггеров, установка после перехода по рекламе в Meta.
  • В сентябре 27 приложений сети были в Google Play с более чем 350 000 скачиваний в сумме; DiffAI скачали более 100 000 раз. Apple удалила 19 приложений, Google, большинство.
  • По оценке WIRED, сеть, судя по всему, ведут китайские разработчики и гонконгская KeLing Technology Limited; компания не ответила на запросы.
  • Meta сообщила о мерах против 11 600 рекламных аккаунтов и блокировке рекламы для 209 приложений, но похожие объявления и приложения продолжали появляться.

Почему это важно

Расследование показывает слабое место проверки приложений в магазинах: приложение проходит ревью как безобидное, а откровенный контент подгружается позже с внешнего сайта. Apple прямо заявила, что приложения соответствовали правилам при проверке, а разработчики потом подменили содержимое. При этом речь идёт о дипфейках насильственного характера, а ранее WIRED писал и о сгенерированных материалах сексуального насилия над детьми в рекламе этой сети. По словам Bouchaud, оператор не рассчитывает, что меры догонят, и пока так и выходит.

Кому это важно

Командам модерации и доверия и безопасности в магазинах приложений и рекламных платформах; регуляторам, которые уже проверяют такие объявления; исследователям безопасности; родителям и пользователям, которым стоит знать, что приложение может вести себя по-разному в зависимости от условий загрузки. Отдельно, людям, чьи фото могут быть загружены в такие сервисы без их согласия.

Как это применить

Практический вывод для специалистов: проверять нужно не только код приложения при ревью, но и сайты и серверы, из которых оно подгружает контент. Исследователи вышли на сеть по ссылкам из рекламы, а затем по JavaScript-пакету со списком доменов, ключей шифрования и рекламных трекеров, это пример того, как связывают однотипные одноразовые домены. Пользователям источник никаких инструкций не даёт.

Можно ли доверять

Материал основан на собственном расследовании WIRED, с анализом кода приложений и сайтов Paul Bouchaud (AI Forensics) и данными Maël Le Touz (Infoblox); есть ответы Apple и Meta. Google на запрос не ответила, KeLing Technology Limited молчала. Связь с китайскими разработчиками и KeLing в тексте подана осторожно («судя по всему», «по проверке доменов»). Цифры о скачиваниях и объявлениях принадлежат исследователям, цифры о мерах, Meta.

Риски и подводные камни

Связь сети с KeLing и китайскими разработчиками, вывод WIRED по косвенным признакам, а не установленный факт; никаких арестов, исков или штрафов в материале не упоминается. Цифры по объявлениям и скачиваниям, оценки исследователей, а не данные платформ. Меры самих компаний пока не остановили сеть: к концу репортажа похожие приложения и объявления продолжали публиковаться.

«Это организованная, коммерчески управляемая операция: один оператор стоит за сотнями одноразовых приложений и доменов, замаскированных так, чтобы пройти проверку App Store, и продвигаемых через десятки тысяч объявлений Meta под вымышленными именами плательщиков.»

— Paul Bouchaud, ведущий исследователь некоммерческой организации AI Forensics

Компания Meta Platforms признана экстремистской организацией, её деятельность на территории РФ запрещена.