Google отключила ИИ-редактор спутниковых снимков в Google Earth через сутки после запуска
Google запустила в четверг в Google Earth функцию, позволявшую редактировать спутниковые снимки текстовыми командами с помощью ИИ-модели Nano Banana 2, фактически инструмент для создания дипфейков реальных мест. Хенк ван Эсс из Digital Digging намеренно проверил границы дозволенного: сгенерировал изображения с беженцами у мексиканской границы и воронкой от бомбы рядом с больницей в Газе. В четверг Google в ответ ван Эссу заявила, что сгенерированные в Google Earth изображения помечаются цифровым водяным знаком и что компания блокирует «создание изображений на вредоносные темы».
Спустя сутки Google выпустила новое заявление: «Мы знаем, что люди особенно доверяют Google Earth как надёжному источнику информации о мире. Мы видели, как специалисты по геопространственным данным использовали эту функцию для целого ряда полезных задач, однако мы также видели, как люди делятся скриншотами сгенерированных изображений, которые, судя по всему, нарушают наши правила. Поэтому мы сворачиваем эту функцию в Google Earth, пока работаем над более надёжными защитными механизмами». Компания подчеркнула, что сгенерированные изображения не появлялись в основной версии Google Earth для других пользователей и были помечены как созданные ИИ.
Ван Эсс также показал, что смог обмануть систему ИИ-детекции Hive с помощью видео, сгенерированного в Google Earth, то есть сгенерированный контент способен распространяться дальше, несмотря на водяные знаки. По его словам: «Ничего не было отклонено, ничего не смягчено, и ничто не предложило мне попробовать другой запрос».
Ключевые факты
- Google запустила в Google Earth в четверг функцию ИИ-редактирования спутниковых снимков по текстовым командам на базе модели Nano Banana 2
- Хенк ван Эсс (Digital Digging) сгенерировал изображения с беженцами у границы с Мексикой и воронкой от бомбы у больницы в Газе, проверяя ограничения
- Через сутки Google свернула функцию, сославшись на скриншоты сгенерированных изображений, нарушающие правила компании
- Ван Эсс обманул систему детекции ИИ-контента Hive с помощью сгенерированного в Google Earth видео, показав, что подделки распространяются несмотря на водяные знаки
- По словам Google, сгенерированные изображения не попадали в основную версию Google Earth для других пользователей и были помечены как созданные ИИ
Почему это важно
Google отключила собственную функцию менее чем через сутки после запуска, редкий случай, когда крупная компания публично признаёт провал модерации ИИ-генерации ещё до того, как проблема успела разрастись. Заявленная защита («блокируем создание изображений на вредоносные темы») на практике не сработала: пользователь смог без отказов сгенерировать изображения с беженцами на границе и воронкой от бомбы у больницы, то есть контент на темы войны и миграции, которые обычно считаются чувствительными.
Кому это важно
Пользователям, которые доверяют Google Earth как источнику достоверных снимков реального мира; журналистам и специалистам по проверке фактов, которым приходится иметь дело с потенциальными дипфейками спутниковых снимков; специалистам по геопространственным данным, которые, по словам Google, использовали функцию для полезных задач и потеряли к ней доступ; командам, занимающимся безопасностью и модерацией генеративного ИИ.
Как это применить
Функция полностью свёрнута, и Google не назвала сроков её возможного возвращения, сообщается только, что компания работает над более надёжными защитными механизмами. Практический вывод для фактчекеров и модераторов: водяные знаки ИИ-генерации не гарантируют, что подделку опознают системы детекции, ван Эссу удалось обмануть детектор Hive с помощью видео, сгенерированного в Google Earth.
Можно ли доверять
История опирается на прямые цитаты двух официальных заявлений Google (сделанных с разницей в сутки) и на собственное тестирование Хенка ван Эсса, специалиста по расследованиям в Digital Digging, который лично воспроизвёл генерацию проблемных изображений. Источник не называет конкретных сотрудников или представителей Google, стоящих за заявлениями, оба раза цитируется безлично «Google»; также не раскрывается, сколько пользователей воспользовались функцией и сколько потенциально вредных изображений было создано до отката.
Риски и подводные камни
Главный риск уже реализовался: инструмент, позиционировавшийся как защищённый от «вредоносных тем», позволил без отказов и предупреждений сгенерировать изображения на темы вооружённых конфликтов и миграции. Второй риск, обход технической защиты: водяной знак ИИ-генерации не помешал обмануть систему детекции Hive с помощью видео, сгенерированного в Google Earth, то есть подделки способны распространяться дальше исходного сервиса. Третий риск, неопределённость: Google не раскрыла, какими будут «более надёжные защитные механизмы» и вернётся ли функция вообще.
«Ничего не было отклонено, ничего не смягчено, и ничто не предложило мне попробовать другой запрос.»
— Хенк ван Эсс, Digital Digging