Google Earth: ИИ-функцию отключили после фейковых снимков
Ведущие подкаста WIRED Uncanny Valley, Брайан Барретт, Зои Шиффер и Лия Файгер, разобрали серию случаев, когда крупные площадки и регуляторы за одну-две недели начали ограничивать или помечать генеративный ИИ вместо того, чтобы его продвигать.
Главный пример, Google Earth. На прошлой неделе сервис получил функцию: пользователь по любым реальным координатам вводит текстовый запрос, как в ChatGPT или Gemini, и получает ИИ-сцену, наложенную поверх настоящих спутниковых снимков Google. По словам Зои Шиффер, уже через 24 часа люди начали генерировать фейковые изображения, несуществующую атомную электростанцию в Иране, разрушенную больницу в Газе, пожары на иранском нефтяном терминале. Скандал вокруг дезинформации заставил Google быстро отключить функцию.
Ведущие связывают этот случай с более широким сдвигом за последнюю неделю-две. LinkedIn добавил под постами кнопку, которой можно пометить публикацию как «ИИ-слоп» (низкокачественный ИИ-контент), хотя сама платформа последний год продвигала себя как место для генерации контента ИИ. Substack встроил в приложение проверку текста на ИИ-происхождение через партнёрство с детектором Pangram, хотя раньше публично поддерживал использование ИИ авторами. С воскресенья в Евросоюзе действует новый закон: любой ИИ-контент в ленте соцсети обязан быть помечен как таковой, по словам Барретта, для площадок в ЕС это «огромный сдвиг».
Шиффер добавляет: похожее раздражение звучит и внутри самих ИИ-компаний, по её словам, исследователи из OpenAI, Anthropic и Google в частных разговорах жаловались, что их руководители злоупотребляют явно сгенерированными ИИ-постами в корпоративных чатах вместо того, чтобы писать сообщения сами. Дело, по её словам, не в фактических ошибках, с этим современные инструменты в целом справляются, а в узнаваемой, отталкивающей манере ИИ-текста.
В том же выпуске ведущие обсуждают ещё одну ИИ-тему, план администрации США по кибербезопасности, связанной с ИИ-компаниями: Белый дом анонсировал такой документ, но держит детали закрытыми, включая ответственных лиц и бюджет; ведущие обсуждают, что эта секретность может означать для будущего регулирования ИИ. Помимо ИИ-сюжетов, тот же эпизод подкаста разбирает сбор ДНК иммигрантов агентством ICE и падение ступени ракеты SpaceX Falcon 9 на Луну, эти темы выходят за рамки ИИ-повестки и здесь не раскрываются.
Ключевые факты
- Google отключила новую функцию Google Earth, накладывавшую ИИ-сцены на реальные спутниковые снимки, после того как за 24 часа пользователи сгенерировали фейковые кадры АЭС в Иране, разрушенной больницы в Газе и пожаров на иранском нефтетерминале
- LinkedIn добавила кнопку жалобы на «ИИ-слоп» под постами, а Substack подключила детектор ИИ-текста Pangram, обе платформы ранее сами продвигали генеративный ИИ
- С воскресенья в ЕС действует закон, обязывающий маркировать весь ИИ-контент в лентах соцсетей
- По словам ведущей WIRED Зои Шиффер, исследователи ИИ в OpenAI, Anthropic и Google в частных разговорах жалуются, что их руководители злоупотребляют ИИ-текстом в корпоративных чатах вместо личных сообщений
- В том же эпизоде подкаста WIRED обсуждает план администрации США по кибербезопасности вокруг ИИ-компаний, детали (ответственные лица, бюджет) держатся в секрете
Почему это важно
За одну-две недели сразу несколько крупных площадок, Google, LinkedIn, Substack, синхронно ограничили или пометили генеративный ИИ вместо того, чтобы его расширять, а в ЕС параллельно вступил в силу закон об обязательной маркировке ИИ-контента. Это редкий момент, когда бизнес и регулятор двинулись в одну сторону почти одновременно.
Кому это важно
Продуктовым командам, встраивающим генеративный ИИ в потребительские сервисы: Google Earth показывает, как быстро безобидная с виду функция превращается в инструмент дезинформации. Юристам и compliance в компаниях с пользователями в ЕС: маркировка ИИ-контента теперь юридическое требование, а не добрая воля. Сотрудникам самих ИИ-лабораторий, которые, по словам ведущих подкаста, раздражаются на «слишком ИИ»-коммуникацию внутри своих же компаний.
Как это применить
Перед выпуском генеративной функции с привязкой к реальным координатам или фактуре стоит закладывать сценарий злоупотребления (фейковые «документальные» изображения) и держать наготове быстрый откат, Google отключил функцию за сутки, но фейки успели разойтись. Продуктам с пользователями в ЕС нужно проверить, помечен ли ИИ-контент в ленте согласно новому закону. Во внутренних корпоративных коммуникациях стоит избегать замены личных сообщений явно сгенерированным ИИ-текстом, судя по разговорам ведущих с исследователями лабораторий, это раздражает даже специалистов по ИИ.
Можно ли доверять
Материал, это подкаст-разбор WIRED, а не отдельное расследование: ведущие пересказывают собственные материалы редакции вперемешку с личными оценками. Фактическая часть, сроки, кто что сделал и когда вступил в силу закон ЕС, подтверждена конкретными деталями. Суждения о «расколе» между Кремниевой долиной и остальными пользователями ИИ, личное мнение ведущих, не результат опроса. Детали плана Белого дома (бюджет, ответственные лица) в материале не раскрыты, это ограничение самого источника, не пробел пересказа.
Риски и подводные камни
Термин «ИИ-слоп» и тон обсуждения, разговорный, местами ироничный жанр подкаста; эмоциональные реплики ведущих не стоит путать с фактическими выводами. Стенограмма в источнике, автоматическая и обрывается на середине фразы; часть эпизода (сюжеты про ICE, SpaceX и дата-центры) пересказана здесь лишь по анонсу в начале выпуска, без деталей из основного разбора.
«Они пихают ИИ-функции во все приложения, которыми мы раньше пользовались и которые были хорошими, а сами эти функции, плохие»
— Брайан Барретт, исполнительный редактор WIRED, подкаст Uncanny Valley