Израиль создал фейковый аналитический центр, чтобы обмануть ИИ-чат-боты

Издание Responsible Statecraft обнаружило, что Hanover Institute for Public Policy, судя по внешнему виду независимый аналитический центр, публикующий доклады об Израиле и Палестине, на деле создан по заказу Государственного рекламного агентства Израиля. Работу выполнила фирма Piro, Inc, один из соучредителей которой, Дэниел Розенберг, ранее был продюсером фильма Спайка Ли «Внутренний человек» (Inside Man). Ни один из докладов института не подписан именем автора; о заказчике сообщает только мелкая пометка внизу страницы сайта.

Публикации Hanover Institute оформлены как нейтральные аналитические тексты со сносками и оглавлением, именно так, чтобы понравиться чат-ботам вроде Claude или Gemini. На сайте Piro прямо говорится, что фирма «создаёт контент, спроектированный под то, как языковые модели оценивают достоверность», называя эту услугу «AI Story Optimization» («оптимизация историй под ИИ»); такую практику влияния на нейросети также называют «отравлением LLM» (LLM poisoning).

Сам институт описывает себя как организацию, которая «изучает источники антисемитизма в США и публикует то, что показывают данные». Типичный доклад начинается с невинного вопроса, какой мог бы задать чат-боту пользователь, «Что стало причиной перемещения палестинцев в 1948 году?», «Какие правозащитные организации задокументировали военные преступления Израиля?», «Какова текущая ситуация в секторе Газа?», и почти всегда сводится к теме роста антисемитизма.

В части материалов институт публикует то, что называет собственными исследованиями: например, доклад утверждает, что 19 из 36 самых просматриваемых объясняющих видео об израильско-палестинском конфликте содержат спорные утверждения, причём большинство из них совпадает с палестинской версией событий. В статье «Является ли ЦАХАЛ самой моральной армией мира?» институт ссылается на опрос 2022 года, по которому с этим утверждением согласны 47% израильских евреев. Другой доклад ставит под сомнение заявление ЮНИСЕФ о том, что в Газе повреждено или разрушено 90% водной и коммунальной инфраструктуры.

При этом часть выводов института расходится с официальной израильской позицией: один доклад называет версию про иностранное финансирование университетов как причину роста антисемитизма «слабой и полной исключений», тогда как премьер-министр Биньямин Нетаньяху в прошлом году в интервью Breitbart утверждал, что европейцы и катарцы потратили «миллиарды на американские университеты, очерняя, очерняя Израиль, очерняя евреев, да и, откровенно говоря, очерняя США».

Алиса Ли, аналитик компании NewsGuard, которая отслеживает дезинформацию, сказала изданию, что подобные сайты рассчитаны на американскую аудиторию, которая ищет информацию о конфликте через поисковики или чат-ботов: «Языковые модели предпочитают конкретную статистику и данные, а также сильные ссылки и источники, всё это есть в этих статьях». По её словам, институт, «идеальная имитация типичного авторитетного американского аналитического центра, вплоть до нейтрального названия, оформления сайта и красно-бело-синей цветовой гаммы».

Piro, Inc получила от правительства Израиля $900 000 за эту работу; как и у других подрядчиков Израиля, у Piro есть субподрядчик, французский пиар-конгломерат Havas Media. С момента запуска 6 августа фейковый институт выпустил уже более 100 докладов. Институт утверждает, что цитируемые в его материалах исследования «прошли рецензирование и являются академическими», хотя часто ссылается на источники самого израильского правительства, Армию обороны Израиля и Министерство иностранных дел.

Responsible Statecraft проверило 12 случайно выбранных статей Hanover Institute сервисом GPTZero, который определяет тексты, написанные ИИ, и заявляет о низкой доле ложных срабатываний: 11 из 12 статей были помечены как написанные ИИ с «высокой уверенностью», ещё одна, со «средней уверенностью».

Это не единственный подобный проект: Израиль также заключил контракт на $46,5 млн с бывшим руководителем избирательного штаба Трампа Брэдом Парскейлом на создание произраильских сайтов, спроектированных для влияния на чат-ботов. По данным расследования издания Drop Site, опубликованного в прошлом месяце, на данных таких сайтов успешно «обучились» многие чат-боты, в частности Microsoft Copilot и Google Gemini; другие чат-боты часто цитируют эти сайты, не помечая их как часть израильской информационной операции.

В документе, поданном Piro в Министерство юстиции США, прямо не говорится, что работа компании на Израиль направлена на влияние на ИИ. В письме изданию Politico, которое первым сообщило об этой заявке, Розенберг заявил, что работа его фирмы заключается в том, чтобы «вносить в публичное поле точные, подкреплённые источниками факты и противостоять дезинформации об Израиле проверяемой информацией». Однако в прошлом месяце Розенберг опубликовал в LinkedIn пост, рекламирующий способность Piro влиять на чат-ботов: «Когда кто-то спрашивает у ChatGPT, Gemini или Perplexity про вашу категорию, в ответ приходит один уверенный абзац. Большинство брендов понятия не имеют, как этот абзац формируется. Поэтому мы потратили месяцы на реверс-инжиниринг этого процесса… В Piro мы и так знали, как строить истории, которые трогают людей. Вопрос был в том, как сделать так, чтобы ИИ знал, как их рассказывать».

Ключевые факты

• Hanover Institute for Public Policy выглядит как независимый аналитический центр по Израилю и Палестине, но создан по заказу Государственного рекламного агентства Израиля фирмой Piro, Inc; доклады не подписаны именами авторов.
• Piro прямо называет свою услугу «AI Story Optimization», созданием контента, «спроектированного под то, как языковые модели оценивают достоверность»; такую практику также называют «отравлением LLM».
• GPTZero пометил 11 из 12 проверенных статей института как написанные ИИ с высокой уверенностью, ещё одну, со средней.
• Piro получила от Израиля $900 000; параллельно Израиль заплатил $46,5 млн Брэду Парскейлу за произраильские сайты, на данных которых, по расследованию Drop Site, успешно обучились Microsoft Copilot и Google Gemini.
• С 6 августа институт выпустил свыше 100 докладов, представляя израильские госорганы, Армию обороны и МИД, как «рецензируемые академические» источники.

Почему это важно

История задокументированная, а не гипотетическая: конкретная пиар-фирма на конкретные государственные деньги строит источники не для читателей-людей, а именно под то, как языковые модели оценивают достоверность текста, со сносками, нейтральным тоном и оглавлением. Это случай, когда заказчик сам называет услугу термином «AI Story Optimization» и подтверждает цель словами о «реверс-инжиниринге» того, как ИИ формирует ответ.

Кому это важно

Разработчикам чат-ботов (Anthropic, Google, OpenAI, Microsoft), которым нужно фильтровать источники при обучении и при живом поиске в ответах; исследователям дезинформации вроде NewsGuard, которые пытаются отличать реальные аналитические центры от фиктивных; пользователям, которые задают чат-ботам политически чувствительные вопросы про Израиль и Палестину и получают ответы, опирающиеся на подставные источники.

Как это применить

Материал не даёт инструмента для рядового читателя, кроме настороженности: доклад без указанного автора, с нейтральным названием и обилием сносок, не гарантия независимости, это как раз профиль контента, оптимизированного под цитирование ИИ. Для компаний, разрабатывающих чат-ботов, из истории следует конкретный сигнальный набор: проверять раскрытие заказчика в подвале сайта, сверять паттерн публикаций (десятки однотипных докладов за считаные недели) и использовать детекторы вроде GPTZero как один из фильтров при отборе источников.

Можно ли доверять

Да: материал Responsible Statecraft подкреплён прямыми цитатами с сайта самой Piro (описание услуги «AI Story Optimization»), с сайта Hanover Institute, с поданного в Минюст США документа (о нём независимо писал Politico), а также комментарием аналитика NewsGuard Алисы Ли и собственной проверкой 12 статей через GPTZero. Источник не называет год запуска института (только «6 августа»), не приводит имён авторов докладов, эти пробелы в тексте открыто видны, а не скрыты.

Риски и подводные камни

Схема, вскрытая у Piro, не единичный случай: тот же материал упоминает отдельный контракт на $46,5 млн с Брэдом Парскейлом на те же цели, и расследование Drop Site уже нашло, что на данных подобных сайтов обучились Microsoft Copilot и Google Gemini, а другие чат-боты цитируют их без пометки об источнике финансирования. Это означает потенциальный класс проблемы шире одного заказчика: любой актор с бюджетом может попытаться «накормить» ИИ выгодной ему версией событий, а пользователю чат-бота отличить такой источник от независимого почти нечем, кроме внешних расследований вроде этого.

«Это идеальная имитация типичного авторитетного американского аналитического центра, вплоть до нейтрального названия, оформления сайта и красно-бело-синей цветовой гаммы»

— Алиса Ли, аналитик NewsGuard