Google откатила ИИ-генератор снимков Nano Banana в Google Earth из-за фейков
На этой неделе Google запустила в веб-версии Google Earth функцию на основе Nano Banana (модель Nano Banana 2), по текстовому запросу она превращает реальные спутниковые, аэрофото- и 3D-снимки Google Earth в изменённые ИИ-изображения. В блоге Google инструмент подавали как способ визуализировать исторические места и проекты недвижимости. Журналист-расследователь Хенк ван Эсс из Digital Digging показал, что функцию легко использовать во вред: он сгенерировал снимки, выдаваемые за реальные, например, «беженцы у мексиканской границы» и воронку от бомбы у больницы в Газе. Часть сгенерированных изображений выглядела откровенно фальшиво (например, Сфинкс, скрещённый со Статуей Свободы), но другие получались достаточно убедительными, чтобы сойти за настоящие снимки местности. Digital Digging также обманула ИИ-детектор Hive с помощью изменённого через Google Earth видео. В ответ на публикацию Digital Digging Google заявила: «Мы серьёзно относимся к дезинформации, каждое изображение, созданное с помощью Nano Banana в Google Earth, содержит цифровой водяной знак SynthID, и если кто-то сомневается в подлинности снимка, он может спросить приложение Gemini или воспользоваться Lens в Поиске, чтобы проверить, создано ли изображение ИИ». Ван Эсс также посоветовал дополнительно сверять подозрительные снимки с другими спутниковыми платформами, Sentinel-2 или Landsat, и проверять орбитальные данные: время съёмки и то, каким спутником она сделана. По данным The Verge, водяной знак Google трудно удалить, но можно пропустить или обойти. После публикации материала Google 31 июля объявила, что откатывает функцию генерации изображений в Google Earth.
Ключевые факты
- Google запустила в веб-версии Google Earth ИИ-функцию Nano Banana (на модели Nano Banana 2): по текстовому запросу она превращает реальные спутниковые и аэрофотоснимки в изменённые изображения
- Исследователь Хенк ван Эсс (Digital Digging) сгенерировал правдоподобные фейковые снимки, «беженцы у мексиканской границы» и воронку от бомбы у больницы в Газе
- Digital Digging обманула ИИ-детектор Hive изменённым через Google Earth видео
- Google заявила, что каждое сгенерированное изображение содержит водяной знак SynthID, проверяемый через Gemini или Lens в Поиске
- 31 июля, после публикации расследования, Google объявила об откате функции
Почему это важно
Инструмент, встроенный в один из самых массовых картографических сервисов, позволял по одной текстовой команде получать снимки, похожие на настоящую спутниковую съёмку конкретных мест, вплоть до чувствительных сюжетов вроде границы с Мексикой и Газы. Это резко снижает порог для создания убедительной визуальной дезинформации о реальных событиях.
Кому это важно
Журналистам и фактчекерам, которые всё чаще проверяют спутниковые снимки как источник; исследователям и OSINT-специалистам, использующим Google Earth как референс; пользователям соцсетей, которые могут столкнуться с такими изображениями как с настоящими; самой Google, которой пришлось откатывать уже запущенную глобально функцию.
Как это применить
Google предлагает проверять подозрительные изображения через приложение Gemini (тег «@verifyai») или через Lens в Поиске, оба способа считывают водяной знак SynthID. Ван Эсс советует дополнительно сверять снимок с другими спутниковыми платформами, например Sentinel-2 или Landsat, и проверять орбитальные метаданные, время съёмки и спутник, которым она сделана.
Можно ли доверять
Google заявляет, что водяной знак SynthID стоит в каждом сгенерированном изображении, но по данным The Verge его трудно удалить, а можно пропустить или обойти. Digital Digging на практике обманула сторонний ИИ-детектор Hive изменённым видео из Google Earth, а часть фейковых снимков выглядела достаточно убедительно, чтобы сойти за настоящую съёмку. Сама Google в итоге признала риск, откатив функцию.
Риски и подводные камни
Главный риск, генерация правдоподобных снимков реальных географических точек по одному текстовому запросу, включая политически чувствительные сюжеты. Водяной знак и детекторы подделок не дают полной защиты: их можно не заметить или обойти, а сторонние ИИ-детекторы, обмануть. Источник не раскрывает ни точной даты запуска функции (только «на этой неделе»), ни масштаба распространения уже созданных фейков, ни официального объяснения Google причин отката.
«Мы серьёзно относимся к дезинформации, каждое изображение, созданное с помощью Nano Banana в Google Earth, содержит цифровой водяной знак SynthID, и если кто-то сомневается в подлинности снимка, он может спросить приложение Gemini или воспользоваться Lens в Поиске, чтобы проверить, создано ли изображение ИИ.»
— Google, в заявлении The Verge