Взлом Suno раскрыл, как ИИ-сервис музыки годами скачивал YouTube

Полиция Сан-Франциско случайно оставила в открытом доступе часы видеозаписей с дронов, эпизод, который показывает масштаб городского видеонаблюдения. В том же городе прокуратура (City Attorney's Office) направила Apple и Google требования удалить из App Store и Google Play 13 ИИ-приложений для «раздевания»: они подменяют лицо на фото так, что получаются фейковые обнажённые снимки, и используются почти исключительно против женщин и девушек.

Wired также разобрался, действительно ли у Meta работает система распознавания лиц NameTag: руководители компании давали противоречивые и уклончивые комментарии о том, существует ли эта функция вообще, хотя признаки её работы фиксировались и раньше.

На выступлении на этой неделе президент США Дональд Трамп вновь повторил неподтверждённые и ранее опровергнутые утверждения о вмешательстве в выборы 2020 года, пообещав раскрыть доказывающие это документы; материалы, опубликованные на сайте Белого дома, утверждений не подтвердили, а местами им противоречили.

На фоне быстрого роста возможностей ИИ компания Anthropic продолжает добиваться от властей штатов США более строгого регулирования отрасли. Cesar Fernandez, отвечающий в Anthropic за связи с властями штатов и местными органами, заявил Wired, что принятые в 2025 году в Калифорнии и Нью-Йорке законы о прозрачности ИИ были важным первым шагом, но по мере роста возможностей моделей меры регулирования должны за ними поспевать.

Отдельный разбор Wired посвящён исследованию фонда Mozilla, который вместе с Berkman Klein Center при Гарварде проверил на приватность шесть популярных приложений для отслеживания менструального цикла. Худший результат, 2 из 10 баллов, получил астрологический трекер Stardust: как выяснила исследовательница Mozilla Шошана Водински, приложение начинает отправлять данные сторонним трекерам ещё до того, как пользователь что-либо ввёл, а сведения о типе контрацепции, статусе беременности, настроении и симптомах вплоть до конкретных жалоб уходят аналитическому сервису RudderStack вместе с постоянным идентификатором пользователя, без возможности отключить это в приложении. Stardust также передаёт Facebook рекламный идентификатор, который связывает поведение в приложении с существующим профилем пользователя в соцсети; компания заявила TechCrunch, что никогда не получала юридических запросов на данные пользователей. Противоположный пример, некоммерческий трекер Euki, набравший максимальные 10 баллов: он не требует аккаунта, не выгружает данные о здоровье с телефона, позволяет поставить PIN-код, настроить автоматическое удаление данных и открыть скрывающий приложение «экран-обманку»; единственное слабое место, встроенный браузер для обучающих материалов, подключающий обычные веб-трекеры, хотя он и сбрасывает идентификаторы между визитами.

Евросоюз и Великобритания ввели санкции против «Центра 16» ФСБ России, а спецслужбы США (CISA, ФБР и АНБ) выпустили совместное предупреждение, назвав именно это подразделение ответственным за кибератаку на электросети Польши, по словам польских властей, тогда страна была «очень близка» к отключению электричества и воды. Изначально атаку приписывали группировке Sandworm (она же Unit 74455 военной разведки ГРУ), но польская команда реагирования на киберинциденты ещё тогда связывала её с ФСБ, и теперь эту версию поддержало широкое число западных правительств, это говорит о всё более агрессивных и рискованных методах ФСБ, ранее не свойственных этой службе.

Reuters сообщило, что Денис Обрезко, гражданин России, которому в Бостоне предъявлены обвинения во взломах и которого связывают с хакерской группой Void Blizzard (она же Laundry Bear), два года проработал в российской компании Kaspersky. Это было незадолго до перехода в другую компанию, Yutek-NN, где он, по данным прокуратуры США, участвовал в кампании по краже данных и переписки у ряда правительств стран НАТО и как минимум 11 американских компаний. До Kaspersky, по утверждениям следствия, Обрезко также работал на ФСБ. Он не признал вину; Kaspersky заявила Reuters, что предъявленные обвинения не связаны с его должностью и обязанностями в компании.

Nextgov/FCW рассказал, как реальный взлом дважды сочли ложной тревогой: аналитики Федерального агентства по чрезвычайным ситуациям (FEMA) в середине мая заметили признаки взлома платформы Homeland Security Information Network (HSIN), которая используется для обмена несекретными данными между федеральными, региональными и местными ведомствами, а также иностранными партнёрами, хакеры меняли файлы и код, перехватили легитимный веб-сервер и удаляли логи своей активности. Тем не менее находку сочли ложным срабатыванием; когда через некоторое время хакеры вернулись и были обнаружены снова, вывод повторился. Причины ошибки не раскрываются, но инцидент показывает, как федеральным аналитикам всё труднее распознавать техники «living off the land» (использование штатных функций сети вместо вредоносного ПО). Вице-председатель сенатского комитета по разведке Марк Уорнер заявил, что, хотя HSIN хранит только несекретные данные, эти сведения «крайне чувствительны» и их утечка угрожает национальной безопасности.

Центральный сюжет подборки, взлом ИИ-сервиса генерации музыки Suno. По данным издания 404 Media, изучившего внутренние данные, которые предоставил хакер под ником ellie.191 (он утверждает, что проник в систему, скомпрометировав сотрудника компании через червя Shai-Hulud), Suno годами скрапила миллионы песен, текстов и подкастов с YouTube Music, Deezer, Genius и ряда стоковых аудиобиблиотек, чтобы обучать свои модели. Согласно записям в исходном коде за 2023, 2024 годы, только с YouTube Music было собрано 113 879 часов аудио, ещё десятки тысяч часов, с Pond5, Deezer и других библиотек, а YouTube-скрапинг компания вела через прокси-сервис Bright Data; кроме того, через сервис PodcastIndex Suno собрала около миллиона часов подкастов. Эти материалы подтверждают главное обвинение звукозаписывающей индустрии, что Suno напрямую забирала треки с YouTube. Взлом также раскрыл данные сотен тысяч пользователей сервиса, email-адреса, телефоны и платёжные записи Stripe. Компания, которая настаивает, что обучение моделей на этих материалах подпадает под добросовестное использование, и которая ещё в ноябре урегулировала претензии Warner Music Group, заявила, что при взломе пострадал устаревший код и не были раскрыты чувствительные персональные данные, однако пользователи, чьи данные попали в переданный 404 Media образец, говорят, что их об этом не уведомили.

Ключевые факты

Прокуратура Сан-Франциско потребовала от Apple и Google удалить из сторов 13 ИИ-приложений для «раздевания», нацеленных почти исключительно на женщин и девушек
Взлом сервиса Suno показал: только с YouTube Music скачано 113 879 часов аудио, ещё около миллиона часов подкастов, через PodcastIndex, плюс утекли платёжные данные сотен тысяч пользователей
Аудит Mozilla и Berkman Klein Center: трекер цикла Stardust получил 2 из 10 за передачу данных о здоровье RudderStack и Facebook, некоммерческий Euki, 10 из 10
ЕС и Великобритания ввели санкции против «Центра 16» ФСБ за кибератаку на электросети Польши, ранее приписывавшуюся группировке Sandworm из ГРУ
Anthropic добивается от штатов США более жёстких требований к прозрачности ИИ, ссылаясь на то, что законы 2025 года не поспевают за ростом возможностей моделей

Почему это важно

Подборка показывает, как быстро ИИ создаёт новые векторы вреда и одновременно становится мишенью: приложения для фейковых обнажённых фото бьют по конкретным людям, скрытая слежка через период-трекеры затрагивает миллионы пользователей, а взлом Suno впервые предъявляет технические доказательства того, как ИИ-компании массово скрапят защищённый авторским правом контент. Параллельно государственные кибератаки (ФСБ против Польши) и провалы в их обнаружении (DHS/HSIN) показывают, что инфраструктура безопасности не поспевает ни за атакующими, ни за новыми ИИ-рисками, и именно об этом просит регулирования Anthropic.

Кому это важно

Регуляторам и законодателям штатов США, к которым обращается Anthropic; женщинам и девушкам, потенциальным жертвам deepfake-приложений; пользователям период-трекеров, чьи данные о репродуктивном здоровье могут утечь третьим лицам; ИИ-компаниям, чьи методы сбора обучающих данных всё чаще становятся достоянием хакеров и журналистов; операторам критической инфраструктуры и госструктур, которые остаются целью российских хакерских групп.

Как это применить

При выборе приложения для отслеживания цикла стоит смотреть не на рейтинг в сторе, а на то, покидают ли данные телефон вообще, пример Euki (10/10) против Stardust (2/10) из аудита Mozilla. Компаниям и госструктурам стоит перепроверять отклонённые как «ложное срабатывание» инциденты повторно, а не полагаться на первый вывод аналитика, случай HSIN показывает, к чему приводит обратное. ИИ-компаниям, обучающим модели на веб-данных, нужно закладывать риск, что методы скрапинга рано или поздно станут публичными через утечку или журналистское расследование, как случилось с Suno.

Можно ли доверять

Большинство фактов подтверждено независимыми источниками: аудит период-трекеров проведён Mozilla совместно с Berkman Klein Center Гарварда, атрибуция атаки на Польшу закреплена официальными санкциями ЕС/Великобритании и совместной рекомендацией CISA, ФБР и АНБ, а данные о скрапинге Suno изучены редакцией 404 Media напрямую по внутренним файлам компании. При этом заявления самих компаний стоит воспринимать с поправкой на интерес: Stardust отрицает получение юридических запросов, Kaspersky дистанцируется от бывшего сотрудника, а Suno называет утёкший код «устаревшим» и отрицает раскрытие чувствительных данных, хотя часть пользователей утверждает, что их вообще не уведомили об утечке.

Риски и подводные камни

ИИ-приложения для «раздевания» продолжают работать в официальных сторах, пока регуляторы лишь требуют их удаления. Данные о репродуктивном здоровье из трекеров вроде Stardust могут попасть к рекламным платформам и аналитическим фирмам без ведома пользователя, что особенно рискованно в юрисдикциях с ограничениями на аборты. ИИ-компании, обучающие модели на скрапленном контенте, несут растущий юридический риск, Suno уже урегулировала иск от Warner Music Group. Наконец, случай DHS показывает системный риск: техники «living off the land» позволяют атакующим долго оставаться незамеченными даже при наличии систем мониторинга, если аналитики ошибочно списывают признаки взлома на ложные срабатывания.

«Законы 2025 года о прозрачности ИИ были важным первым шагом, но по мере того как возможности ИИ-систем быстро растут, меры регулирования должны за ними поспевать.»

— Cesar Fernandez, руководитель по связям с властями штатов и местными органами власти в Anthropic, для Wired

Компания Meta Platforms признана экстремистской организацией, её деятельность на территории РФ запрещена.