ИИ-слежка против антижучков: как нейросети обыгрывают глушилки

Статья The Atlantic описывает зарождающуюся гонку вооружений: с одной стороны, растущий рынок ИИ-гаджетов для скрытой аудиозаписи (очки, кулоны, значки), с другой, устройства-антижучки, которые пытаются им противостоять. Раньше от прослушки приходилось защищаться только шпионам и преступникам (открывающий сюжет, как в 2003 году члена клана Дженовезе Энтони «Бинджи» Арилотту перед встречей с боссом обыскивали и заставляли надеть банный халат, чтобы исключить скрытую технику). Теперь, по мнению издания, с похожей проблемой может столкнуться обычный человек: ИИ-датчик в чужих очках, кулоне или значке способен работать как молчаливый конспект, персональный ассистент или даже психотерапевт. Технология пока не массовая, но, по слухам, Apple разрабатывает ИИ-брошь или кулон как «глаза и уши» iPhone, и подобных устройств на подходе много, они могут стать так же распространены, как AirPods.

В марте стартап Deveillance объявил о разработке Spectre I, устройства в форме хоккейной шайбы, которое должно мешать записи разговора. Компанию основала Аида Барадари, недавняя выпускница вуза, обеспокоенная ростом числа людей с ИИ-рекордерами. Ролик о запуске Spectre I обещает, что устройство сможет обнаруживать поблизости микрофоны, но на вопрос, как именно, Барадари ответила, что команда «как раз сейчас работает над этой частью», а сам механизм глушения сигнала не раскрыла, сказала лишь, что он тоже «похож на речь».

Автор проводит историческую параллель: во Вторую мировую войну, после того как Германия применила радар, Королевские ВВС начали сбрасывать полоски металлизированной фольги, засоряющие радар фантомными отметками, некоторые историки считают эту радарную гонку вооружений даже более значимой для исхода войны, чем Манхэттенский проект. Десятилетиями людям, опасавшимся записи, продавали простые глушилки: сначала, генераторы громкого «белого шума», позже, устройства, излучающие ультразвук на частотах, которые микрофоны преобразуют в шум. В 2020 году команда Чикагского университета под руководством Юйсиня Чэня смонтировала 23 ультразвуковых излучателя на одном браслете, чтобы глушащий сигнал расходился во все стороны, а не только в одном направлении.

Но даже продвинутые глушилки плохо справляются с сегодняшними ИИ-гаджетами: самые совершенные значки, кулоны и очки используют алгоритмы восстановления речи, отсеивающие любой посторонний шум, будь то звон бокалов в баре или сигнал ультразвукового глушителя. Делян Ван, специалист по информатике из университета штата Огайо, десятилетиями обучает нейросети решать ту же задачу, что и человеческий слух в шумной комнате («проблема коктейльной вечеринки»), изначально для улучшения слуховых аппаратов. Скормив сетям сотни часов записанной человеческой речи, он научил их распознавать частоты и ритмы речи: модель строит внутреннее представление «речеподобности» и, встретив зашумлённую запись, выделяет совпадающие с этим паттерном фрагменты, подавляя остальное. Самые продвинутые системы уже умеют достраивать пропущенные слоги речи по контексту, как читатель восстанавливает вычеркнутое слово. Крупные компании занимаются тем же: Microsoft с 2020 года проводит ежегодный конкурс Deep Noise Suppression Challenge (в том числе для улучшения качества звонков в Teams), а другие компании работают над шумоподавлением для звонков и подкастов, и любое такое улучшение заодно помогает ИИ-ассистенту восстановить речь из заглушённой записи.

Поэтому, по словам историка Финна Брантона из Калифорнийского университета в Дейвисе (соавтора книги «Obfuscation: A User's Guide for Privacy and Protest»), победить такие алгоритмы может другой подход, не глушить сигнал, а подсовывать устройству мусорную версию нужных данных. Берлинский художник Адам Харви применил этот приём в макияже и одежде, сбивающих распознавание лиц; Дэниел Хау и Хелен Ниссенбаум сделали похожее для поиска, их браузерное расширение TrackMeNot не прячет запросы пользователя, а непрерывно генерирует поддельные, топя реальные в потоке фальшивых. В аудио этот приём тоже применялся: юрист Вудро Хартзог из Бостонского университета рассказал, что в начале карьеры работал с адвокатами по уголовным делам, которые опасались прослушки разговоров с клиентами в тюрьме, и для защиты включали на фоне «бабл-тейпы», записи с 40 голосовыми дорожками на разных акцентах. В 2023 году команда под руководством Мин Гао (сейчас, исследователь Нанкинского университета) пошла дальше: их глушитель MicFrozen, который носит сам говорящий, слушает его голос и в реальном времени генерирует ультразвуковую «антиречь», настроенную под этот голос, по принципу шумоподавления в наушниках, а затем добавляет ещё один слой поддельной, похожей на речь звуковой дорожки, чтобы сбить с толку алгоритм восстановления.

Но и это, по мнению автора, не станет концом гонки: более мощные ИИ-модели могут обойти запись звука вовсе, например, научиться читать по губам (как HAL 9000 в «2001 год: Космическая одиссея» Стэнли Кубрика читает губы астронавтов через иллюминатор звуконепроницаемого отсека) или восстанавливать речь по вибрациям поверхности стакана воды между собеседниками. У ИИ-гаджетов, по мнению статьи, изначально есть преимущество: они опираются на технологии всей индустрии обработки речи, в которую вложены миллиарды долларов, не только для ИИ-ассистентов, но и для слуховых аппаратов, умных колонок и систем видеосвязи, тогда как защитой занимаются лишь горстка учёных и небольших компаний. «Суть игр в кошки-мышки в том, что мы знаем, чем они обычно заканчиваются для мышки, сказал Хартзог., А в данном случае в роли кошки выступают одни из самых могущественных корпораций в истории».

Закрывает материал ещё одна параллель с мафией: после того как правоохранители начали прослушивать телефоны, боссы кланов перешли на личные встречи, конспиративные квартиры и машины, потом на разговоры на ходу, затем на одноразовые телефоны и шифрование, но и здесь их переиграли. В 2018 году ФБР тайно запустило собственную компанию по продаже «зашифрованных» телефонов Anom и через информаторов продало 12 000 устройств членам мафиозных семей, байкерских банд и других преступных группировок, которые использовали их как статусный символ для обсуждения наркосделок и отмывания денег, при том что каждое сообщение с этих телефонов перехватывалось спецслужбами.

Ключевые факты

Стартап Deveillance основательницы Аиды Барадари, недавней выпускницы вуза, в марте анонсировал Spectre I, устройство против записи; о механизме его работы Барадари не рассказала, сказав лишь, что сигнал «похож на речь», а функцию обнаружения микрофонов ещё дорабатывают
Глушилки прошли путь от генераторов белого шума до ультразвуковых устройств; в 2020 году команда Чикагского университета (Юйсинь Чэнь) смонтировала 23 ультразвуковых излучателя на одном браслете для всенаправленного глушения
ИИ-алгоритмы восстановления речи (в том числе разработки Деляна Вана из университета штата Огайо и ежегодный конкурс Microsoft Deep Noise Suppression Challenge с 2020 года) всё лучше отфильтровывают шум и ультразвуковые помехи, делая классические глушилки неэффективными
Альтернативный подход, не глушить сигнал, а подсовывать записывающему устройству мусорные данные: макияж и одежда художника Адама Харви против распознавания лиц, расширение TrackMeNot с фальшивыми поисковыми запросами, тюремные «бабл-тейпы» из 40 голосовых дорожек и глушитель MicFrozen (2023, команда Мин Гао), генерирующий персональную ультразвуковую «антиречь»
По мнению статьи, у ИИ-гаджетов структурное преимущество: за ними стоит индустрия с миллиардными инвестициями против горстки учёных и небольших компаний, защищающих приватность

Почему это важно

Опасение быть записанным раньше касалось шпионов и преступников, теперь, по мнению The Atlantic, оно распространяется на обычных людей из-за роста числа ИИ-гаджетов (очки, кулоны, значки), которые могут скрыто фиксировать и расшифровывать разговоры. Технология ещё не массовая, но, по слухам, её готовит и Apple, а аналогичных устройств на подходе много, они способны стать так же обыденны, как AirPods.

Кому это важно

Материал адресован каждому, кто ведёт приватные разговоры, деликатные рабочие обсуждения, личные или финансовые секреты, в присутствии чужих гаджетов. Он также важен для узкого круга разработчиков средств противодействия слежке (стартап Deveillance, исследователи вроде Адама Харви, Дэниела Хау и Хелен Ниссенбаум, Мин Гао) и для специалистов по распознаванию речи, чьи открытия одновременно улучшают и слуховые аппараты, и возможности слежки.

Как это применить

Из готовых средств в статье описаны: классические ультразвуковые глушилки, «бабл-тейпы» с 40 голосовыми дорожками для маскировки разговора и MicFrozen, носимый глушитель, генерирующий ультразвуковую «антиречь» под голос говорящего. Устройство Deveillance Spectre I анонсировано в марте, но цена, дата выхода и точный принцип работы сигнала в источнике не раскрыты, оценивать его как готовый продукт пока преждевременно.

Можно ли доверять

Материал The Atlantic опирается на интервью с названными специалистами (Делян Ван, Финн Брантон, Вудро Хартзог) и описывает реальные исследовательские работы с указанием дат и авторов (Чикагский университет, Нанкинский университет). При этом ключевое утверждение о Spectre I, что устройство сможет обнаруживать микрофоны, исходит из рекламного ролика компании, а основательница Барадари прямо отказалась объяснить журналистке механизм работы сигнала, сославшись на то, что эта часть ещё в разработке.

Риски и подводные камни

Автор и цитируемые эксперты подчёркивают структурный перекос: за развитием ИИ-слежки стоит вся индустрия обработки речи с миллиардными инвестициями (ИИ-ассистенты, слуховые аппараты, умные колонки, видеосвязь), тогда как противодействием занимаются немногочисленные учёные и стартапы. В материале также указано, что будущие ИИ-модели способны обойти аудиозапись вовсе, читать по губам или восстанавливать речь по вибрациям поверхности воды, так что нынешние антижучки могут устареть.

«Суть игр в кошки-мышки в том, что мы знаем, чем они обычно заканчиваются для мышки. А в данном случае в роли кошки выступают одни из самых могущественных корпораций в истории.»

— Вудро Хартзог, профессор права Бостонского университета