Google создала «Mirror Dimension», закрытый интернет для тестов ИИ-агентов Chrome

Команда Google Chrome, разрабатывая функции ИИ-браузинга на моделях Gemini, решила не выпускать сырых агентов в открытый интернет и не ограничиваться узкими тестовыми стендами. Вместо этого она построила обширный «альтернативный интернет», который полностью контролирует. Он называется «Mirror Dimension» («Зеркальное измерение»); по данным Wired, Google впервые подробно описывает его в своём блоге.
Логика такая. Агентам, которые работают в вебе, нужно знать открытый интернет: как ходить по настоящим сайтам и платформам и как защищаться от веб-атак. Ограниченные тестовые среды учат этому слабо. Кроме того, модели могут развивать «eval awareness»: вести себя иначе, поняв, что находятся в тесте или симуляции. С другой стороны, выпускать недоработанных агентов в открытую сеть опасно.
Mirror Dimension, это масштабная и разнообразная, но изолированная веб-экосистема, которую Chrome-команда контролирует целиком. В ней есть множество сайтов и платформ, включая соцсети, магазины и банковские кабинеты, собранные из всех компонентов и атрибутов настоящих сайтов. Агенты-помощники для браузинга должны взаимодействовать с этими сайтами и выполнять задачи в Chrome так же, как в реальной сети. По ходу они проходят проверки на устойчивость, например скрытые атаки через prompt injection, чтобы испытать свою защиту.
Создать такую среду было отдельной задачей: она должна быть достаточно большой и разнообразной, чтобы отражать масштаб реального веба, и при этом строиться быстро. Для этого Chrome-команда собрала «армии» агентов, разрабатывающих сайты и веб-приложения, под управлением специально созданной ИИ-обвязки (harness). Они быстро создали реалистичные веб-сервисы и потоки данных вплоть до деталей вроде ввода промокодов в магазине или наполнения страниц соцсетей.
Ещё одна сложность: у Chrome так много защит пользователя и проверок подлинности, что для работы агентов в настоящем Chrome (это важно для точного обучения) исследователям пришлось, по сути, взломать браузер и пойти на сложные шаги, например сделать поддельные веб-сертификаты для проверок. Команда подчёркивает: ничто из этого невозможно против обычных пользователей Chrome в открытом интернете. Всё стало возможным только из-за «режима бога», доступа и привилегий, которые у команды есть, потому что она контролирует всю среду и сеть.
Исследователи говорят, что тестируемые агенты-помощники безвредны и не обладают кибервозможностями. Их цель, сделать Mirror Dimension доступным командам по всему Google, чтобы больше исследователей могли тестировать в безопасной контролируемой среде.
Charles Qian, инженер-программист в команде безопасности ИИ в Chrome, объясняет: агентов не программируют, поэтому предсказать всё, что они увидят, невозможно; пространство для исследования огромно, а «веб враждебен». По его словам, команда видит, как агент начинает вырабатывать зрелое чувство суждения: понимать, какая информация нужна для задачи и когда вернуть решение пользователю на подтверждение. Doug Turner, директор по разработке Google, говорит, что подход обнародован, чтобы другие команды внутри и вне компании тоже подумали о таком пути. Это первый шаг, инвестиции в такой подход для обучения моделей продолжатся, а по мере усложнения моделей среду придётся делать всё реалистичнее.
Ключевые факты
- Команда Chrome построила «Mirror Dimension», изолированную веб-экосистему, полностью подконтрольную Google, для обучения и проверки ИИ-агентов на моделях Gemini.
- В среде есть соцсети, магазины и банковские кабинеты со всеми компонентами реальных сайтов; агенты проходят проверки на устойчивость, в том числе скрытые атаки через prompt injection.
- Среду собрали «армии» агентов-разработчиков сайтов под управлением специальной ИИ-обвязки; чтобы агенты работали в настоящем Chrome, исследователям пришлось взломать браузер и сделать поддельные веб-сертификаты.
- Цель исследователей, открыть Mirror Dimension командам по всему Google; Doug Turner говорит, что подход обнародован, чтобы другие команды внутри и вне компании тоже подумали о таком методе.
- Агенты, по словам Charles Qian, начали вырабатывать зрелое суждение: понимать, какая информация нужна для задачи и когда запросить подтверждение у пользователя.
Почему это важно
ИИ-агенты, которые сами ходят по сайтам, сталкиваются с враждебной средой: на странице могут быть скрытые инструкции, направленные против агента. Проверять защиту на живом интернете опасно, а в узких тестовых стендах агент учится плохо и может вести себя иначе, чем в реальности («eval awareness»). Google предлагает третий путь: построить реалистичную копию веба, где всё подконтрольно, и гонять агентов там. Это показывает, как крупный разработчик браузера подходит к безопасности агентов до их выхода к пользователям.
Кому это важно
Разработчикам ИИ-агентов и браузерных помощников, командам по безопасности ИИ, исследователям, которые тестируют устойчивость моделей к prompt injection, а также тем, кто следит за развитием ИИ-браузинга в Chrome и Gemini.
Как это применить
Mirror Dimension, внутренняя среда Google; в источнике не сказано, что её собираются публиковать. Практический вывод, сам подход: тестировать агентов в изолированной, но реалистичной среде, наполненной правдоподобными сайтами и скрытыми атаками, а не только в упрощённых стендах и не на открытом интернете. Doug Turner говорит, что подход обнародован как раз для того, чтобы другие команды внутри и вне Google задумались о таком способе.
Можно ли доверять
Материал, пересказ Wired блога Google, подробности взяты у самих сотрудников компании (Charles Qian и Doug Turner). Цифр нет: не названы число сайтов и агентов, результаты тестов, конкретные модели Gemini или функции Chrome. Заявление о «зрелом чувстве суждения» агента, качественное наблюдение Qian без измерений. Эффект обучения на агентах независимо не проверен.
Риски и подводные камни
Среда создана и контролируется самим Google, поэтому её реалистичность ограничена тем, насколько хорошо собранные агентами сайты похожи на настоящие; Turner сам говорит, что по мере усложнения моделей среду придётся делать всё реалистичнее. Чтобы агенты работали в настоящем Chrome, пришлось взломать браузер и выпустить поддельные сертификаты; команда подчёркивает, что против обычных пользователей в открытом интернете такие атаки невозможны и стали доступны только из-за «режима бога» над средой. Кроме того, тестируемые агенты, по словам исследователей, безвредны и без кибервозможностей, так что результаты не говорят о более опасных агентах.
«Любой пользователь может задать любой запрос на любом сайте, поэтому нам действительно нужно исследовать это пространство как можно тщательнее.»
— Charles Qian, инженер-программист в команде безопасности ИИ в Chrome